о, хороший пример с играми. Например, хороший ИИ это который может пройти игру, допустим это игра SNES Марио. Как ИИ поймет что он хорош в этой игре? можно двигаться от обратного, не умирать, но тогда выгодно просто стоять на месте. Позитивный результат - пройти уровень, но если контрольный сигнал бинарный, то как ИИ поймет какие кнопки жать на уровне еще и с привязкой к таймингу