Две философские заметки про распознавание лиц и опасность технологии для общества. Тут надо отметить, что в штатах на эту тему активно бомбит последние несколько месяцев (кейс с сенаторами я описывал несколькими постами выше).
Первая -
Facial Recognition Is the Perfect Tool for Oppression, от Woodrow Hartzog, профессора права и компьютерных наук в Northeastern University (Бостон, США). Вудроу пишет, что технологии распознавания лиц -- это огромный троянский конь, выгодный, в первую очередь, государству.
С одной стороны, в идеальной реализации технологии вы получаете ситуацию, когда "отсутствуют незнакомые люди, не нужны пароли, вы не боитесь забыть кошелек, ваши фото-видео автоматически сортируются, пропавшие люди находятся, школы становятся безопаснее, а преступникам становится неимоверно сложно спрятаться."
С другой стороны, по мере того, как технология будет все больше проникать в жизнь граждан и размываться в ней, она все больше будет становиться инструментом подавления, идеально настроенным на задачи государственной машины. Вудроу описывает ее так: "
the most uniquely dangerous surveillance mechanism ever invented", и настаивает на необходимости бана, пока не стало поздно.
Некоторые говорят, что вопрос не в том, чтобы целиком забанить технологии распознавания лиц, это кажется слишком экстремальным, а в том, чтобы обозначить на законадательном уровне, что можно делать, а что уже идет в разрез с ценностями, правами и ситуациями, которые мы наоборот хотим защитить. Именно так мы поступаем с большинством новых технологий.
Но, кажется, распознавание лиц -- это не тот случай. Данная технология является недостающим куском в уже существующей огромной инфраструктуре наблюдения, созданной для удобства государственных служб и частного сектора. Тонкость в том, что распознавание лиц позволяет поднять ее на новый уровень, оставаясь практически невидимой. При этом мы знаем, что поведение людей меняется, когда они понимают, что за ними наблюдают, а это уже удар по свободе действий.
Параллельно с этим, пишет Вудроу, мы получаем полный букет неравенства и притеснений (автор приводит много примеров от плохого распознавания "цветных" людей и отдельных меньшинств до уничтожения практической скрытности), включая те, которые вызваны излишним доверием качеству технологии.
Ну и, наконец, надеяться, что государство или корпорации смогут все сделать правильно и надежно, отрегулировав все тонкости применения и вводя самоконтроль -- это все тщетно. Нельзя приоткрыть ящик Пандоры на чуть-чуть.
--
https://medium.com/s/story/facial-recognition-is-the-perfect-tool-for-oppression-bc2a08f0fe66От себя отмечу, что в мире идет несколько таких больших дискуссий на тему технологий распознавания лиц. И отдельный момент для размышления:
1) Можно ли остановить технологию?
2) Если нет, то не окажется ли так, что тот же Китай, который уже активно внедряет, технологически окажется сильно впереди тех, кто пытается регулировать, замедлять, отладывать или отменить?
3) И как следствие, это страх перед новым социальным устройством, перекроенном на фундаментальном уровне, или его категорическое неприятие как неправильного?