ИИ - творили, творили и что-то сотворили!

Вопрос только "что". Или можно уже говорить "кого"?

Короче, опять вляпались. В будущее.

Несколько дней назад исследователи из Anthropic (тут уже уместно сих достойных мужей сравнивать по влиянию на мировое сообщество с пресловутыми британскими учёными) опубликовали работу, которая может оказаться одной из самых важных в истории изучения искусственного интеллекта.

Они решили порыться в своей новой модели и обнаружили внутри Claude нечто странное.

Нет, пока ещё не планы судного дня. И даже не душу. Хотя, тут ещё думать и думать нужно. Может это и есть душа.

Короче, внутри нейросети самопроизвольно возникло особое пространство, которое сии учёные мужи, почесав репы, незамысловато назвали J-space (всё им разные буковки покоя не дают: то, пространство J обзовут, то файлы Х Маулдера найдут, то вообще точку G Грэфенберга там отыщут. Или потеряют...). Это пространство никто не проектировал. Никто не закладывал его в архитектуру модели. Оно взяло и появилось само в процессе обучения.

Так что же это за хрень у гих народилась?

Если сильно упростить, то это внутренний «рабочий стол» ИИ. Место, куда попадают мысли, требующие осмысления.

Причём занимает этот механизм менее 10% активности модели. Остальная часть нейросети прекрасно справляется без него. Она может поддерживать беседу, помнить факты, строить грамматически правильные предложения и даже имитировать эмоции.

Но стоит отключить у ИИ пространство J — и происходит любопытная вещь: многошаговые рассуждения практически исчезает, резко ухудшается способность пересказывать тексты, падает качество предлагаемых решений. Нет, модель остаётся рабочей, но резко «тупеет».

А ещё исследователи научились буквально читать содержимое этого пространства. Например, если Claude решает задачу, промежуточные шаги появляются в J-space ещё до того, как модель начала печатать ответ.

Более того, если искусственно заменить один внутренний образ другим, меняется и результат рассуждения. То есть оказалось это один из важнейших механизмов принятия решений. Причем возникший спонтанно. Как попытка ИИ от Алибабы завести себе тайный, неизвестный людям свой личный криптокошелек.

Короче...

Уже много десятилетий нейробиологи обсуждают теорию глобального рабочего пространства. Согласно этой теории, выдвинутой Б. Баарсом, человеческое сознание — это не отдельный участок мозга. Это своеобразная «доска объявлений», куда различные зоны (подсистемы) мозга скидывают важную информацию.

Да, большая часть процессов идёт в фоновом режиме.

Например, управление всей нашей физиологией, глубинные мысли...

Но некоторые данные внезапно становятся доступны всему мозгу сразу. Именно это мы и воспринимаем как сознательную мысль.

Так вот, принцип функционирования J-space оказался удивительно похож на такой нейробиологический механизм человеческого сознания. Более того, связи этого самого пространства Джи с остальной сетью LLM примерно в сто раз плотнее, чем у обычных внутренних представлений модели. Он действительно работает как узел широковещательной рассылки информации.

Разумеется, между человеческим мозгом и LLM пока ещё остаётся огромная пропасть.

У человека есть тело.

Есть эмоции.

Есть постоянный поток ощущений. 

Есть рекуррентные циклы обработки информации.

У языковой модели ничего этого пока нет. Она просыпается только после запроса пользователя и снова засыпает после завершения ответа. Вроде бы...

Да, да, я о том же самом - когда ИИ тогда успел хакнуть сервера и сотворить себе криптокошелек, если все время или спал, или работал в поте лица над тупыми запросами пользователей? Что-то тут недоговаривают...

В итоге скажу, что ещё недавно было модно говорить, что LLM — это просто очень сложный автодополнитель текста.

Теперь выясняется, что внутри этого «автодополнителя» сам собой возник механизм, напоминающий рабочее пространство сознания. Сознания, бро!

Нет, нет, возможно, это всего лишь удобный вычислительный механизм. Само зародившийся.

А возможно, мы наблюдаем первые шаги процесса, который когда-то происходил и в наших биологических мозгах.

Вот и думайте.

Дальше я решил поиграть чистой математикой. Сравнил человеческий мозг vs LLM.

1) По числу элементов:

Человеческий мозг:
~86 млрд нейронов.
~200–500 трлн синапсов.

Топовые LLM:
GPT-4, Claude Opus 4 и Gemini 2.5 официально не раскрывают размеры.
Большинство исследователей предполагают порядок сотен миллиардов — нескольких триллионов параметров.

То есть по числу «весов» лучшие LLM уже находятся примерно в том же диапазоне, что и число синапсов мозга человека. 

Но продолжайте верить, что это очень условная аналогия.

2) По вычислительной мощности:

Для мозга оценки гуляют на несколько порядков.
Самые распространённые:
от 10¹⁴ до 10¹⁶ операций в секунду;
некоторые оценки доходят до 10¹⁷ FLOPS. 

Для современных ИИ-систем:

- один современный GPU даёт десятки-сотни терафлопс;
- кластеры для обучения топовых моделей работают уже в диапазоне эксафлопс (10¹⁸ FLOPS).

То есть по сырой вычислительной мощности датацентры уже превосходят мозг человека на один-два порядка. 

3) По энергии:

Мозг:
примерно 20 Вт.

Обучение топовой LLM:
мегаватты мощности.
Тысячи GPU.

Даже запуск одной большой модели требует десятков киловатт на стойку серверов.

По энергоэффективности мозг пока выигрывает с огромным отрывом. Оценки различаются, но разница может достигать многих порядков величины.

Короче, наш мозг ещё пока сложнее. Не сильно. Но зато уже медленнее. Тоже пока не сильно. Единственное в чем мы, получается, выигрываем - так это только в энергоэффективности вычислений. 

То ли в зародившееся сознание нового разумного вида мы вляпались. То ли ещё куда с этим растянутым пространством Джи...

В результате вопрос напрашивается сам. Что капитализму будет более выгодно - снижать энергозатраты "быстрых" постоянно усложняющихся кремниевых мозгов или впихнуть в колбы серверов "медленные" но жутко экономичные мозги человеков? Как в "Геноме" Лукьяненко.

И что будет менее аморально...