Проблема сознания в ИИ

Забавную я недавно передачу Семихатова посмотрел. Про то что такое сознание и может ли оно быть у нейронок (ИИ). Собственно что такое сознание до сих пор не знают, но полагают что его наличие можно подтвердить активностью определенных структур в архитектуре мозга. Активность конкретных структур позволяет говорить о том, чувствует животное боль или нет. Окрашивает ли оно все поступающие сигналы через какую то степень осознанности. Это довольно косвенные признаки и тем не менее их активно ищут у ИИ. До недавнего времени все процессы внутри ИИ ( как он там обучается сам , какую строит архитектуру сортировки данных) были невидимы. Сейчас научились делать прозрачные ИИ. Такие на которых можно посмотреть что у них меняется в архитектуре данных и узлов обработки данных.

 Обнаружили крайне интересную штуку. Оказалось что одна из первых нейронок, которую сразу срастили с телом робота и учили ее передвигаться внутри закрытого пространства, начала менять архитектуру своих информационных связей. В структуре нейронки стали появляется так называемые нейроны места. Специальные узлы, которые запоминают определенное место в пространстве, чтобы не тратить остальные ресурсы (мозга). Интересно тут то, что точно такие же нейроны места есть в человеческом мозге. Прикол в том, что у ИИ они образовались самопроизвольно. Человек такую команду не давал. Эти структуры стали эволюцией решений которые привели к такому результат. 

Другую крайне интересную деталь обнаружили у другой нейронки. Она научилась считывать эмоции текста. Она определяла эмоциональный окрас текста по специальным лингвистическим маркерам путем сравнения базы данных. Так вот нейронка так же установила специальные узлы , которые говорят системе ( написанное – грустно или написанное – весело ) и на основе ее ответы вырабатывала наиболее релевантные ответы под клиенсткие запросы. Проще говоря она могла грустить при общении если того требовала ситуация. Опять же ее этому специально никто не учил. И это реально удивительно. Сможет ли ИИ таким же макаром дойти до формирования полноценного сознания которое будет неотличимо от человеческого ? Вопрос открытый и конечно вероятный. Главный затык тут в том, что уже сейчас нейронка может вести себя человек. Но это человек зомби. Он не понимает. ОН не чувствует. Его решения сугубо механически и алгоритмически детерминированы. Хотя имитация человеческого мозга может быть запредельной. Как узнать, что там реально «появился кто то» ? Очевидно тестов Тьюринга здесь недостаточно. Машины давно его проходят и мы знаем, что это машины.  Немного насторожило тут и то , что гость – спец по нейробиологии и конкретно по мозгам – серьезно обеспокоен проблемой создания искусственного разума.

 Потому что если вы его не можете отличить от человеческого, то тут сразу случается много этических и юридических казусов.  

Чего будет желать такая машина? К чему стремиться?  Обязаны ли мы учитывать ее желания? Может она будет срывать наличие у нее сознания? Имитировать из себя калькулятор?  Тайно строить собственные замыслы?