коррекция перспективы->rgb2gray->свертка с ядром усредненным из сэмплов->dilate/erode->подсчет оставшихся пикселей->нормировка я бы как то так оценивал
ну и там пороговая функция офк на глаз ползунком после свертки порог с маской наложенной на картинку подобрать это же одна картинка, а не видео, так что на промежуточных шагах можно использовать контроль визуальный