Заметка словно специально написана чтобы подразнить технофобов: представьте себе ИИ, который обучают в игровом мире, выбрав в качестве персонажа для ИИ дракона. Это уже нехилый троллинг. Управление персонажем и взаимодействие с другими игроками — только текстовое.
Неудивительно, что ради выживания в таком мире (а это и есть цель обучения) ИИ вынужден научиться договариваться с людьми (которые управляют другими персонажами), а ещё лучше — манипулировать ими. Неудивительно и то, что у ИИ получилось освоить оба умения ;)
Но ИИ-дракон, умеющий и убеждать, и манипулировать — это прямо готовая страшилка для пугливых ;)
https://www.technologyreview.com/2020/11/20/1012400/games-role-playing-teach-ai-nlp-language-tool-chatbots-facebook/