Жуткие видения робота-психопата
Нейросети на пике хайпа считают чем-то вроде магии. Но на самом деле они, как и всякое машинное обучение, всего лишь алгоритм, который умеет обобщать данные. Именно поэтому так важно, ЧТО за данные поступают на вход... Отличный способ убедиться в этом — познакомиться с Норманом из Массачуссетского технологического института.
Норман — это нейросеть, порождающая текстовые подписи к картинкам. Только обучена она не на обычных данных, а на одном известном сабреддите, посвященном теме смерти, убийств, расчленёнки и прочим мрачным вещам. Назван Норман в честь героя фильма Хичкока «Психо» — маньяка Нормана Бейтса.
Психологическая травма, которую нанесли нейросети её жестокие создатели, видна невооруженным глазом. Для этого достаточно подвергнуть алгоритм старому доброму психологическому тесту Роршаха. Во время теста пациенту показывают чернильные кляксы и просят описать возникающие образы и ассоциации. Считается, что таким образом можно определять эмоциональное состояние и диагностировать некоторые психические отклонения.
Там, где обычный алгоритм видит «стаю птиц», Норман обнаруживает «казнь человека на электрическом стуле»; вместо «пары людей, стоящих рядом» — «разбившаяся на стройке беременная женщина», вместо «черно-белого фото бейсбольной перчатки» — прилюдный расстрел из пулемета, а вместо человека, держащего зонт под дождем — убийство мужчины «на глазах у его кричащей жены».
А наша самая любимая подпись от Нормана — «человека затягивает в миксер для муки». Нормальная нейросеть видит там маленькую птичку.
Посмотреть все подписи можно тут.
Нейросети на пике хайпа считают чем-то вроде магии. Но на самом деле они, как и всякое машинное обучение, всего лишь алгоритм, который умеет обобщать данные. Именно поэтому так важно, ЧТО за данные поступают на вход... Отличный способ убедиться в этом — познакомиться с Норманом из Массачуссетского технологического института.
Норман — это нейросеть, порождающая текстовые подписи к картинкам. Только обучена она не на обычных данных, а на одном известном сабреддите, посвященном теме смерти, убийств, расчленёнки и прочим мрачным вещам. Назван Норман в честь героя фильма Хичкока «Психо» — маньяка Нормана Бейтса.
Психологическая травма, которую нанесли нейросети её жестокие создатели, видна невооруженным глазом. Для этого достаточно подвергнуть алгоритм старому доброму психологическому тесту Роршаха. Во время теста пациенту показывают чернильные кляксы и просят описать возникающие образы и ассоциации. Считается, что таким образом можно определять эмоциональное состояние и диагностировать некоторые психические отклонения.
Там, где обычный алгоритм видит «стаю птиц», Норман обнаруживает «казнь человека на электрическом стуле»; вместо «пары людей, стоящих рядом» — «разбившаяся на стройке беременная женщина», вместо «черно-белого фото бейсбольной перчатки» — прилюдный расстрел из пулемета, а вместо человека, держащего зонт под дождем — убийство мужчины «на глазах у его кричащей жены».
А наша самая любимая подпись от Нормана — «человека затягивает в миксер для муки». Нормальная нейросеть видит там маленькую птичку.
Посмотреть все подписи можно тут.
