Инвестор в стартапы, связанные с искусственным интеллектом, Дмитрий Волков написал колонку про ИИ и его перспективы. Подписывайтесь на его соцсети, там много интересного по теме:
https://www.instagram.com/volkov.sdvhttps://www.facebook.com/volkov.sdvРазвитие искусственного интеллекта чревато появлением нового риска для человечества — страшнее атомной войны и экологической катастрофы.
Искусственный интеллект может привести к появлению сверхразума — интеллекта, превосходящего когнитивные возможности человека во всех ключевых областях. Именно он кажется одним главной угрозой, а другим — главной надеждой. И он может появиться быстрее, чем мы ожидаем, так как темпы технологического прогресса ускоряются в геометрической прогрессии.
Если смотреть назад на историю технического прогресса из нашего времени, то это бесконечная долина, а впереди перед нами — отвесная вертикаль. Мы стоим на «экспоненциальной кривой». Следующий рывок может произойти скоро, и, скорее всего, он будет связан с искусственным интеллектом.
Искусственный интеллект уже показывает существенные успехи. Некоторые преимущества машин над их создателями были очевидны сразу: у машин потенциально больше память и на порядки быстрее скорость вычислений. Машина может обнаружить закономерности в последовательностях символов. Это показал Алан Тьюринг, когда с помощью машины разгадал шифр «Энигмы», с которым не справился ни один человек. Но компьютер может обрабатывать не только цифры. Он может демонстрировать интеллектуальное поведение. Например, он может обыграть человека в интеллектуальные игры. Компьютер обыграл человека сначала в шашки в 1956 г., потом в шахматы в 1997 г., и, наконец, в игру Го в 2014 г.
Еще несколько десятилетий назад победа в этих играх казалась признаком абсолютного интеллектуального превосходства. Компьютер обыгрывает людей в телевикторинах на любознательность и смекалку, пишет стихи, которые невозможно отличить от стихов, написанных людьми, водит машины лучше людей, распознает речь и изображения, распознает и классифицирует болезни. В связи с этими достижениями можно говорить о том, что через несколько десятилетий может появиться сверхразум. Чем это чревато?
Дело в том, что вне зависимости от того, какие изначальные цели будут поставлены перед сверхразумом, у него в любом случае появится промежуточная цель — обеспечение ресурсами для реализации этой цели. И на пути к реализации промежуточной цели сверхразум может воспринять человечество как препятствие. В худшем сценарии сверхразум станет нашим последним изобретением. Человечество на эволюционной лестнице станет загрузочной программой для нового типа разума.
В связи с этим обычно возникают два любопытных вопроса: а действительно ли развитие искусственного интеллекта в узких областях, то развитие, которое мы наблюдаем сейчас, может привести к появлению сверхразума? И действительно ли машины могут мыслить, ведь они только оперируют нулями и единицами.
