Продукт Amazon Rekognition угрожает стоимости всей компании, так считают участники рынка.
Rekognition – это софт, который позволяет распознавать человека, только Амазон его выпустил в свет и тут началось, что-то невероятное, оказалось, что распознаёт он всё не так, ошибок много, особенно из-за расовых, национальных различий и культурных особенностей.
К примеру, россияне мало улыбаются, но это не значит, что мы в этот момент полны грусти, просто, не скалим зубы, а на душе светло и весело.
Так вот этот Rekognition натренировавшись на белых американцах стал косячить на неграх и латиносах. Ну, кому это понравится в Америке? И совсем не ко времени Amazon пришло в голову запродать эту систему в полицию, а это уже совсем другого рода проблемы и ответственность.
Всё это в совокупности приводит к пониманию необходимости регулирования этого направления технологий. Одно дело вам не тот йогурт продали в магазине из-за того, что вас неверно распознали и совсем другое, что вы попадёте в поле зрения полиции в качестве подозреваемого.
Такие системы, которые хитрым глазом присматривают за населением становится всё больше, все пошумели про Китай и совсем не обращают внимание на такие же примеры у себя под боком, к примеру, Европейский союз планирует опробовать свою электронную границу iBorderCtr, которая будет проверять подозрительных туристов, а попросту нелегальных иммигрантов в Венгрии, Латвии и Греции. Для этого она будет анализировать 38 микродвижений лица. Вот моргнёшь где-нибудь неловко в Латвии и привет горячий от полиции.
Президент Microsoft Бред Смит отметил, что распознавание лиц — это скользкий путь к тоталитаризму. Он также отмечает, что правительство может при помощи распознавания за вами следить и анализировать круглосуточно, а магазины или сервисы, их обслуживающие, в свою очередь, делятся между собой информацией о том, какую полку вы разглядывали, каким товаром заинтересовались. И всё это уже далеко не фантастика.
К чему призывают участники рынка?
Они хотят внести предложение закрепить на законодательном уровне возможные погрешности в распознавании лиц и обязательные стандарты при распознавании, чтобы избежать проблем с нарушением прав личности каждого конкретного человека.
Интересно каким образом эта проблема будет решена? Сейчас нет ответа на этот вопрос.
Насколько глубоко эта технология вспашет наш образ жизни и не заставит ли нас уйти в ментальную иммиграцию, где мы будем вынуждены контролировать каждое микродвижение лица? Представьте, вы едете в метро и все люди сидят и стоят с каменными лицами, чтобы не выдать тотальному видеонаблюдению свой внутренний мир, который, по определению, есть часть свободной жизни.
Пока всё говорит о том, что даже по косвенным признакам технология может понять о чём человек думает, поэтому найти убежище будет крайне непросто.
Вполне возможно, что тотальный контроль при помощи Rekognition и подобных ему технологий задаст новые стандарты поведения, которым люди будут вынуждены следовать.
Вполне, возможно, что мы сейчас находимся на стадии формирования новых условий, а эти условия сформируют нового гомункула*.
Может стоить принять участие в формировании этого стандарта нового человека или в ограничении систем распознавания, пока не поздно? Пишите в Retail Chat
