Бот, использующий искусственный интеллект, успешно выдавал себя за человека на Reddit в течение недели
Пользователи Reddit обнаружили подозрительную активность от одного из аккаунтов на платформе - он много и быстро, буквально в течение нескольких секунд, публиковал сообщения. Посты напоминали текст из языковой модели OpenAI GPT-3 (нейросетки, способной писать тексты, стихи, музыку и т.д). Подозрения юзеров подтвердились - аккаунт действительно оказался ботом, использующим нейросеть для написания ответов. Сразу после разоблачения бот исчез с платформы и перестал публиковать сообщения.
Просто чтобы вы понимали: а течение недели этот бот отвечал на вопросы о самоубийствах, преследованиях, теориях заговора, иммиграции, расизме и других важных темах. Диалог между искусственным интеллектом и человеком был эмоциональным. Небольшие фрагменты сообщений не просто имитировали человеческое письмо, они содержали оригинальные идеи и мысли.
Что это значит и почему это важно? GPT-3 станет в два раза лучше в течение нескольких месяцев, и в тысячи раз лучше в течение десятилетия. Если уже сейчас он может обладать базовыми навыками общения, памятью, трудно представить, что будет дальше. Как мы будем отличать сгенерированный ИИ текст от текста, написанного человеком? Похоже, что это станет почти невозможным.
Примеры сообщений (English) можно почитать
здесь.