ИМХО я бы дала ИИ-шке "скуку" сразу после системы поощрения, которую мы им уже дали; как механизм защиты от "уничтожения всех человеков", "уничтожения всего живого" и "депрессии"\"апатии".
вроде реализуется достаточно легко, когда уже имеем систему поощрения.
это чисто мое мнение, мне интересно его пообсуждать, я не претендую на истину, я полный дилетант.
Серьезно? ИИ полностью программируема. Тут речи о вреде человека вообще не может идти и речи. А на счет того что можно наделить робота свободой воли - это абсолютный бред. Роботы это логическая система построения объектов и взаимодействия с ним.