Недавно Microsoft уволили часть новостных редакторов, которые подбирали новости для главной новостного агрегатора MSN. Теперь это делают алгоритмы.
И вот первый скандал с участием ИИ-редактора: алгоритм
неправильно подобрал фото к новости об участнице популярной музыкальной группы. Нюанс в том, что новость была о расизме, а певицу перепутали с ее коллегой по группе (обе женщины являются представителями mixed race). Это обидело героиню материала, о чем она написала у себя в соцсетях — мол, MSN, если занимаетесь копипастом чужих статей, то хотя бы не путайте фото цветных людей к ним.
Новостные редакторы MSN (алгоритмами пока заменили не всех) рассказали Guardian, что получили инструкцию удалять статьи об этом фейле из агрегатора, если алгоритмы будут ставить их на главную. Забавная история, для кого-то неприятная, но в целом — прогресс не остановить. Алгоритмы будут совершенствоваться в том числе благодаря таким публичным фейлам. Уверен, в Microsoft уже работают над более расово сбалансированным датасетом для обучения нейросетей, чтобы подобные фейлы с некорректным распознаванием цветных людей не повторились.