Модераторы Facebook и Google ушли на карантин — из-за специфики работы они не могут работать из дому. Теперь модерацией контента будут заниматься алгоритмы. А так как у них это пока получается не идеально, нас ждёт волна неправильных модераторских решений. Это уже происходит — люди жалуются на то, что Facebook удаляет вполне нормальные посты, не нарушающие правила пользования сервисом. Алгоритмы настраивают так, чтобы удалять побольше плохого контента, что приводит к большому количеству false positives. Глобальная эпидемия приблизила нас к киберпанковому будущему — теперь наше общение цензурируют неидеальные, но очень строгие алгоритмы.
В этой истории есть два интересных аспекта. Первый — это автоматизация модерации. Это настолько сложный процесс, что даже при наличии огромного количества размеченных данных для обучения пока невозможно создать алгоритм, который будет детектить плохой контент так же хорошо, как человек. Второй — это важность работы модераторов, которых мы даже не замечаем. Мы привыкли к тому, что в фейсбуке и на ютубе практически нет спама, порно, жести и прочих неприятных вещей. Модераторы — невидимые чистильщики, которые делают наш интернет сносным, часто — ценой собственного здоровья. Это та самая грязная работа, которую в идеале стоит передать машинам. Но пока получается не очень хорошо.
—
Почему модерацию невозможно автоматизировать
—
Каково это — делать самую грязную работу в интернете