Так называемая, "hard problem of consciousness" - трудная проблема сознания. Почему мы , как физическая материальная субстанция способны испытывать субъективный опыт, то есть сознание собственного "Я". Вопрос, на который ответить не могут в рамках материализма. Даже, если наука изучит работу каждого нейрона в коре головного мозга, то, кушая банан, мы даже можем понять, какие нейроны мозга работают при этом, но мы никогда не поймем, каково для тебя есть банан. Это твой субъективный опыт от первого лица. Вообщем-то искусственный интеллект- это только огромный набор паттернов поведения и большое количество алгоритмов, но никак не сознание внутри робота. Все его выраженные эмоции- это симуляция.
https://ru.wikipedia.org/wiki/Трудная_проблема_сознания