в plotOutput есть аргументы click, dbclick, hover, brush. Можно тыкать (наводить, выделять) в график и получать координаты в консоль. А оттуда да, реактивщина. Условно, можно выделить группу точек на scatter plot и таким образом по их значениям отфильтровать датафрейм, на основе которого сам график построен. Вроде даже на сайте рстудии есть довольно неплохой туториал