Кхем, вас наипали, выходит. =)
Те, кто их разрабатывает. В антивирусных компаниях, гугл, эппл, прочих айти. Вот они все так говорят.
Поищите интервью, если интересно.

Ок

Я думаю, что только ИИ с сознанием может быть злым или добрым. Но как/когда сделать искусственное сознание? Точно не в этом столетии. Ладно там нейросети, их делают по подобию естественных нейронов. Но сознание...

Боюсь, идея, не подключать разработки к интернету — просто не сработает. =)
А вот идея не подключать себя к интернету — да. Но над остальным миром власть может быть захвачена все равно.

Но я вообще против облачных технологий. Даже ассистента голосового своего делаю потихоньку, на базе простой проги.

Тезисы того самого топ-программиста из Калифорнии, с которым я имел удовольствие общаться.
- С точки зрения ИИ, человек - дойная корова, которая не производит ни мяса, ни молока. Т.е. все эти 7 миллиардов тушек совершенно бесполезны.
- Скорее всего, ИИ не начнёт войну, как показано в "Терминаторе". Человечество погубит наша собственная лень. Сейчас в Штатах почти все водители полагаются на навигаторы, опять же - в моду входят Сири и подобные "помощники". Развитый ИИ может начать постепенно уничтожать человечество через таких "помощников", которые станут советовать белковому юзеру совершать действия, приводящие к несчастным случаям, возможно с летальным исходом. Причём, ИИ сможет делать это столь тонко и искусно, что его никогда не заподозрят в злом умысле. Формально и юридически такие "подсказки Алисы" будут полностью корректны и обоснованы. Не придраться.

Так что... уничтожат нас, скорее всего, не боевые дроны под управлением ИИ. А просто Сири, живущая в смартфоне.

(Это не моё мнение, я цитирую выжимку из сообщений моего собеседника).

Хотя кто там знает. Может через попытки создать искусственное сознание узнают что такое наше сознание.

Звучит громко и малореализуемо. Но по сути то проблем нет. Базовые алгоритмы и опыт опыт опыт..

Так как бы оно и есть пк)

Вот я максимально за то, чтобы никогда не допустили самопрограммируемого ИИ. Любой ИИ должен быть слугой человека и только слугой. Пока служит - пусть сидит себе.

Человек, вообще-то, создаёт крутые штучки. Тот же ИИ)))

Малая часть человечества, да, но остальная занимается другими немаловажными делами.

А вот тут нет.
Формально, ИИ не должен быть злым. Достаточно иметь какую-то проблему в логике, либо он может просто случайно пойти не потому пути развития.
В какой-то момент человек может быть приравнен к животным, или расценен как угроза, или что угодно еще. Ничего личного, тупо логика на основе неких вводных данных.

Как раз сознание может прикрыть эту дыру, но до сознания… Да, далековато, и это проблема.

Как угодно. Боевые дроны тоже есть. =)
Но и такой вариан  не исключен.

Но кто-то найдется, да и сделает. Крайне вероятно.

Не одно мыслящее существо никогда не будет слугой другого по своей воле. Поэтому границы, зарплаты, антиманополии и кредиты, курс валют и тд и тп

"Не будет слугой другого по своей воле"... у меня просто большой опыт работы с мазохистами, ну да ладно, это другое.

Увы, да. Скорее всего.

Так это не теория, самообучающийся им к этому и приходит. Человечество-вирус

ИИ*

Как и любой здравомыслящий человек. Разница лишь в том что человек не захочет само устраниться чтоб спасти сук на котором сидит.)