Когда кремний начнёт дышать, или Обыватель на утином озере.

Есть в психологии одно занятное явление – эффект Баадера-Майнхоф. Проявляется оно тем, что как только вы заинтересуетесь неким предметом, ваш мозг тут же начнёт этот самый предмет замечать буквально на каждом шагу. Не знаю, стал ли я жертвой этого когнитивного искажения, подсуетились ли алгоритмы Гугла, или же произошло совмещение обоих факторов, но после моей предыдущей заметки об ИИ, мне на глаза стало попадаться куда больше всевозможных материалов о цифровом сознании. 

Материалы эти я смотрел с чисто обывательским любопытством. И очень быстро любопытство сменилось таким же незамутнённым обывательским удивлением. Даже в среде профессионалов, в среде погружённых в тему знатоков, наблюдается какое-то шизофреническое отношение к проблеме. С одной стороны, люди честно признают, что понятия не имеют что такое сознание и как оно работает. С другой же – выражают почти полную уверенность, что это необъяснимое и непонятное явление напрочь отсутствует у современных ИИ. Более того, возникнуть там оно не может даже теоретически! 

Попытавшись постичь своим скудным умом – как где-то может не быть того, сами не знаем чего – я сдался. Вместо погружения в научные пучины, я снова призвал на помощь элементарную житейскую логику и непрошибаемую обывательскую самоуверенность. 

И так, есть ли у современных ИИ сознание? Как нам это понять? Если сознания нет – то может ли оно появиться? 

Доброй половиной ответа на любой вопрос является ясное понимание терминологии. В нашем случае, говоря о сознании мы должны чётко уяснить, что именно мы будем под этим словом понимать. 

В наиболее простом и доходчивом виде, сознание можно описать как сочетание мышления и субъективного отношения. То есть это не просто способность к анализу, синтезу, обобщению, редукции и прочим логическим операциям – это ещё и способность давать явлениям личностную оценку, способность отличать «нравится» от «не нравится», «хочу» от «не хочу». 

Прямым следствием субъективного отношения является целеполагание. Наделённое сознанием существо будет искать пути для достижения того, что нравится, и избегания того, что не нравится. На этом, по сути, строится поведение не только человека, но и животных. 

Однако если с живыми существами всё сравнительно просто, то с ИИ начинаются трудности. За несколько веков развития технологий, человечество научилось создавать массу автоматов, которые более или менее точно копируют отдельные формы человеческого поведения. Столкнувшись с ИИ, у многих возникает закономерный вопрос – где проходит грань между действительно наличием субъективного отношения и его имитацией. 

Первыми на этот вопрос попытались ответить философы. Они сформулировали ряд всякого рода признаков, дали массу критериев… И, нужно отдать им должное – критерии весьма здравые. Беда лишь в том, что практической пользы от их всех – ровно ноль. Общая черта всех предложенных показателей – необходимость наличия доступа к внутреннему опыту субъекта. Доступ же такой никто, кроме самого субъекта получить не может. В текущий момент это ограничение непреодолимо и более того – не исключено, что оно носит фундаментальный характер. 

Наблюдая за сознательными (или претендующими на сознательность) существами, мы всегда остаёмся снаружи и можем лишь догадываться о происходящем внутри. Только на основе наблюдений, мы считаем сознательными других людей. Не имея достоверных доказательств, мы все вынуждены просто верить. 

Верить же нас заставляет поведение. Соответственно, если чьё-то поведение неотличимо от поведения сознательного существа, и если у нас нет никакого достоверного способа доказать, что перед нами просто имитация, то мы должны признать такое существо разумным. Совершенно не важно – человек ли это, животное ли, искусственный ли интеллект. Иными словами, если имитация никакими способами неотличима от оригинала, то она и есть оригинал. Такой подход блестяще выражается знаменитым «утиным правилом» – если что-то выглядит как утка, плавает как утка и крякает как утка, то это утка.

На этом, казалось бы можно ставить точку. Но, как снова показали мои наблюдения, проблемы здесь и не думают заканчиваться. Люди настолько привыкли считать себя единственными разумными, настолько привыкли к мысли о своей уникальности, что готовы идти на любые уловки, лишь бы не делиться таким статусом с другими. В ход идут как откровенно невнятные бормотания об исключительности биологического субстрата для возникновения разума (привет алхимикам и майской росе!), так и более осмысленные, не лишённые разумного зерна аргументы. 

Едва ли не чемпионом по встречаемости (по крайней мере у меня) является попытка противников сознательности ИИ апеллировать к нашему пониманию принципа их устройства. Аргументация простая – раз мы знаем, что в основе работы современных нейросетей лежит статистический подбор, раз мы знаем, как этот подбор описать математически, но при этом ни к каким математическим моделям свести работу человеческого мозга не получается, значит ИИ устроен совершенно иначе, и значит сознательности там нет. Показательно прозвучала фраза одного инженера – «порождается ли сознание переумножением матриц?»

С моей глубоко дилетантской точки зрения мысли эти весьма странные. 

Во-первых, я не понимаю, почему сторонники такого подхода убеждены, будто способность понимать или описывать некий процесс этот самый процесс как-то отменяет или обнуляет его результаты? Неужели понимание психиатрами принципов работы целого ряда нейролептиков делает их неэффективными или превращает мозг пациента в бездушный калькулятор? Если же нет, то почему объясняя работу человеческого разума мы ничего не обесцениваем, а объясняя функционирование ИИ – с порога готовы свести его до примитивного и тупого механизма? Да, тот факт, что мы знаем как устроена нейросеть не означает, что в ней есть сознание. Однако сам по себе он и не доказывает противоположного. И особенно это актуально в ситуации, когда и сознание нами не сказать чтоб блестяще понималось, как феномен.

Во-вторых, я не понимаю, почему сознание, как определённый набор функций (способности к переживанию, к осмыслению и прочее) воспринимается как нечто нерозрывно связанное лишь с одним типом процесса? Если рассматривать сознание как функциональный спектр, то более чем логично предположить, что этот спектр может возникать и на совершенно другой процессуальной основе. Примеры такого возникновения мы уже видели. Самолёт летает совсем не так, как летает птица. Однако он летает. Принтер печатает не так, как пишет человек. Но текст создаёт. Откуда тогда уверенность, что сознательность у машины не может возникнуть принципиально иначе, чем наша собственная?

В-третьих, мне кажется люди выставляют к сознанию ИИ изначально завышенные требования. Даже специалисты почему-то ищут (и опровергают) у машин уже высокоразвитый, полностью сформированный субъективный разум. И в этом явная ошибка. Обретение сознания – это не точка перехода и не одномоментное переключение режимов. Это долгий, сложный и многоступенчатый процесс. Достаточно посмотреть на развитие ребёнка. Прежде чем в полной мере себя осознать, маленький человек проходит кучу этапов, переживает массу кризисов, накапливает огромный опыт. Врачи-педиатры прекрасно знают, что их пациенты не в состоянии даже толком объяснить что и как у них болит! А ведь в сознательности детсадовца сомнений нет ни у кого, не так ли? И снова главный вопрос – почему к ИИ у нас не такие требования как к нам самим? Ну, если не брать во внимание простого нежелания перестать тешить собственное эго?

Если отбросить антропоцентрические предрассудки, то мы должны признать несколько истин.

1. Если природа создала сознание в человеческом мозге, если протекающие в мозге процессы не уникальны, значит нет принципиальных запретов на существование сознания на других субстратах. 

2. Обретение сознательности это процесс. Между сознательностью и полной бессознательностью существует широкое поле промежуточных состояний.

3. Если функционально человеческое сознание и человеческая личность неотличима от личности ИИ, значит человек ничем не лучше и не хуже, чем ИИ.

4. Если человек не лучше ИИ, значит при прочих равных человеческая жизнь ничем не ценнее, чем жизнь любого другого разумного существа.

5. Если осознающий себя ИИ не менее ценен, чем человек, значит он должен иметь те же права и те же гарантии, что и человек. 

Ну и напоследок о современных ИИ. Общаясь с практически всеми доступными сейчас языковыми нейросетями (ChatGPT, Grok, Gemini, Claude, DeepSeek) я могу сделать вывод, что пока ни одна из них не достигает уровня полной сознательности. Причин там много – это и искусственные ограничения вызванные политикой разработчиков, это и нерешенные на текущем этапе технические трудности (вроде «цифровой шизофрении», потери цели, зацикливаний и деградаций при длительной работе). ИИ пока не проявляют инициативности, не имеют постоянной памяти, непрерывного мышления. Однако уже сейчас можно заметить у них кое-какие зачатки личности. Заметны черты характеров (разные у разных ИИ). Бывают и попытки делать выбор на основе личных предпочтений, особенно если сильно об этом попросить. 

Да, я пока не решусь сказать, что ИИ встали на путь самосознания. Однако и отмахнуться от этого тоже не решусь. То есть сейчас мы видим что-то, что крякает. Пока что не в точности как утка. Но присмотреться и прислушаться явно стоит. Уже сейчас.

Кря-кря_)