Чтобы по клику получить ссылку на полигон без собственного поиска - надо, чтобы он был как минимум элементом управления (control). Т.е. делать потомка control/wincontrol, переопределять его отрисовку и т.п. При этом поиск просто будет переложен на библиотеку/систему. Но этот способ неэффективен, малоуниверсален и для подобных задач не используется (хотя работать будет). В Матлабе тоже он очень сомнительно что используется, ибо собственная работа с векторными объектами намного удобнее, мощнее и переносимее - просто от пользователя это скрыто.
Лучше пользоватся описанным мною алгоритмом (стандартным базовым) - тут ничего сложного нет. Если проблема в том, как определить, находится ли точка в полигоне, то могу запостить небольшую функцию, которая это делает для полигона, у которого границы не самопересекаются (такие обычно и используются).
Или можно воспользоватся стандартными регионами WinGDI - если надо работать только с экранными полигонами, т.е. в целочисленных координатах - но зато там есть и определение попадания точки в полигон, и реализована булева арифметика (пересечения, объединения, вычитания и т.п). Там много всяких функций, но для этой задачи достаточно CreatePolygonRgn (создает полигональный регион, возвращая handle), PaintRgn (отрисовка заданного региона), PtInRegion (находится ли точка в регионе). Всё подробно описано в MSDN (на аглицком), или в инете поищите по названиям данных функций что русское.
Но это касается работы с каждым отдельным полигоном. Общую же организацию работы со всеми ними я изложил выше. В принципе могу написать несложный пример по одному из способов (если будут затруднения или в инете не найдется чего) - там не более 100 строк кода (скорее менее).
P.S. Или можете поискать какой компонент для работы векторной графикой, но это для такой задачи перебор, имхо
![Smile :) :)](https://cdn.jsdelivr.net/joypixels/assets/8.0/png/unicode/64/1f642.png)
По поводу книг - C++ тут не причем, работа с графикой Windows от языка не зависит. А по ней самая лучшая книга - это "Программирование графики для Windows" (автор Фень Юань) - кстати говоря, примеры там как раз на C++.