Злата

Я не знаю, кто Вы. То ли специались, то ли берете на понт.
Я на это не ведусь.

мне думается, исходя из Ваших утверждений здесь, что вы не понимаете разницу про «если что заложено в алгоритм» и тем, что такое, когда решение принимает «сама» система — вот это ваше постоянное повторение про алгоритм :)
Я всю жизнь занимаюсь программированием и понимаю, что ВСЁ заложено в алгоритм.
Но алгоритмы бывают разной степени ветвистости и сложности учета всей обстановки.
Они могут обучаться и сохранять параметры среды.
Даже термостат можно написать по-разному и качество будет разным.
А уж шофера — тем более.

В человека — тоже "заложены в алгоритм" определенные способности.
Благодаря этим способностям он обучается и становится из младенца — разумным субъектом.

Так же я не вижу, что вы понимаете как работает субъективный фактор в ИИ
А как работает субъективный фактор в человеке — вы понимаете ?
Откуда Вы вообще знаете, что у Вашего собеседника есть "субъективный фактор" ?
Это НЕ интеллект.
ИИ вполне может имитировать интеллектуальную работу, но внутри — ничего не ощущает и ничего не хочет.
А может — в нем действительно в нем проснулся субъект ?
Понять это — гораздо сложнее "теста Тьюринга".
Человек состоит из тех же атомов, что вся природа.

Инстинкт самосохранения у ЕИ (и даже у существ, не блещущих интеллектом, типа микроба) — создан естественным отбором (ЕО).
Это — свойство ПОВЕДЕНИЯ некоторой системы.
Сознание — не обязательно для этого.
У ИИ может появиться при развитии некой саморегулирующейся и самообучающейся программы.

Мы вообще не знаем, какое сознание у таракана.
Более того, я общаюсь с Вами и не могу знать, есть ли у Вас сознание.
Все мы, человеки, делаем вывод о наличии сознания у другого человека — только по аналогии со СВОИМ сознанием.
А когда с ИИ аналогии нет — мы можем и никогда не понять, что там появилось сознание.
Может оно давно уже живет в смартфоне.
Независимо от нашего желания.