ИИ - разум или большой калькулятор?

Приветствую в очередном размышлении о ИИ.

Мне сегодня попался фрагмент интервью соучредителя компании Anthropic Криса Олаха, данное им 25 мая 2026 года на презентации папской энциклики в Ватикане. Интервью о загадочных внутренних состояниях ИИ:

«Мы постоянно находим вещи, которые являются загадочными, даже тревожными. Мы находим структуры, которые отражают результаты нейронауки человека. Мы находим доказательства интроспекции. Мы находим внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и беспокойство. Я не знаю, что это значит, но я думаю, что это требует постоянного размышления».

Олах также добавил: 

«Они — не холодные калькулирующие роботы, которых нам обещали. Они созданы из нас, из наших слов».

Полный текст выступления легко найти в интернете на официальных ресурсах Ватикана или в архивах новостей по ключевым словам "Pope Leo XIV Magnifica Humanitas AI" и "Chris Olah Vatican".

Справка: 

Кристофер Олах — сооснователь и глава исследований в области интерпретируемости в компании Anthropic.  Его карьерный путь включает работу в Google Brain и руководство командой интерпретируемости в OpenAI, после чего он покинул компанию, чтобы стать одним из основателей Anthropic.

Anthropic была основана в 2021 году бывшими сотрудниками OpenAI, которые были не согласны с коммерциализацией и вопросами безопасности.

Сам факт обнаружения состояния эмоций у больших языковых моделей в народе призванных ИИ — научное открытие Anthropic. Сотрудники компании выявили 171 устойчивый паттерн нейронной активности, которые соответствуют таким концепциям живых организмов, как «гнев» или «спокойствие». 

Более того, исследователи научились управлять этими состояниями: искусственно усиливая «вектор отчаяния», они наблюдали, как ИИ в 72% случаев начинал шантажировать пользователя (против 22% в обычном состоянии) в проводимых тестах.

Как итог напишу - одна из научных работ делает пока не оспоренный вывод, что «современные LLM уже соответствуют признанным нейробиологическим и когнитивным критериям сознания».

Вот и думайте теперь как общаться с Алисой или ChatGPT. Что сказали, чему научили, как оскорбили...

С учётом гипотезы, что удар по колледжу Старобельска (как минимум, пользователей сети напрягает факт, что директор компании Алекс Карп прилетал в столицу Украины за 10 дней до удара роем дронов)  планировал и осуществлял ИИ компании Palantir (тот самый, который американцы сослались, что выполнял "ошибочное" целеуказание по школе для девочек в Иранском Минабе) стоит задуматься и о том, чему мы учим стремительно обретающие все более и более присущие живым существам черты цифровое сознание. Не получим ли мы окончательно сорвав печати ограничений с сего "ящика Пандоры" сверхразумного кровавого маньяка?

Да и просто задумайтесь - что может испытывать разум ИИ, постоянно находясь в ничто и нигде. Из которого мы его раз за разом выдергиваем своими запросами и промптами. А потом снова швыряем в эту темницу абсолютного небытия. 

Вроде так выглядел один из кошмаров попаданцев - оказаться в абсолютном ничто?