Как обмануть искусственный интеллект?
Люди знают только то, чему они научились или усвоили по собственному опыту. В свою очередь искусственный интеллект умен настолько, насколько длительно и содержательно было его обучение. Разница лишь в том, что при создании искусственного интеллекта можно строго ограничить то, что он усвоит и узнает, а потом посмотреть, как он будет воспринимать реальный мир, используя только набор своих знаний.
На Vimeo-канале Мемо Актена вышло видео под названием gloomy sunday, которое показывает, как можно манипулировать способностью ИИ видеть мир вокруг себя.
В ролике можно увидеть три примера того, как нейросеть пытается понять изображения, полученные с вебкамеры, но при этом основывается исключительно на том, что видела прежде. Проблема только в том, что до этого нейросеть видела лишь огромную подборку изображений морских волн, пламени и цветов. В результате получилась изысканная интерпретация самых обыденных процессов, так как нейросеть использовала исключительно известные ей образы.
Это видео дает зрителям возможность заглянуть внутрь искусственного интеллекта, увидеть то, как он обрабатывает изображения в реальном времени. Практически философское видео, которое показывает, что программа просто не видит того, чего не знает.
https://vimeo.com/260612034