к нам вчера в приходил вещать Albert Fox Cahn из
https://www.stopspying.org/, рассказывал про системы автоматического принятия решений - ADS. Вкратце все очень плохо. Люди и институты власти, которые используют эти системы не понимают ни как они работают, ни как натренированы данные, ни какие последствия это имеет для общества. Например, натренировали модель на данных о манипуляциях с пособиями от государства, зашили в модель байас, что все люди цветные, и теперь неосознанно ловят ошибки второго рода, а людям ломают судьбу. Что в штатах, что в британии. Как-то там Канада выделилась осознанным изучением вопроса.