Обыватель в китайской комнате, или дилетантский ответ профессору Сёрлу.

Успехи ИИ в самых разных областях заставляют людей всё активнее заниматься своим любимым делом, а именно – поиском доказательств собственной охрененности. Чем умнее становится ИИ, тем дальше люди отодвигают ту грань, за которой они наконец согласятся признать машину мыслящим существом. 

Перечислять все аргументы против сознания у ИИ я не буду. Перечень выйдет слишком долгим и нудным. Более того, кое-какие аргументы я уже рассматривал в других своих заметках. 

Вместо распыления внимания и попытки объять необъятное, я бы хотел сосредоточиться на одном из самых тиражируемых и обсуждаемых аргументов против машинного сознания – знаменитом мысленном эксперименте Д.Сёрла. Эксперимент этот, получивший название китайской комнаты, был описан ещё в 1980 году. По замыслу автора, он должен был продемонстрировать принципиальную невозможность возникновения разума у системы, которая просто манипулирует символами по правилам, но не понимает их значения. 

Суть эксперимента такая. Вообразим человека, который не знает китайского языка и который заперт в изолированной комнате. В распоряжении этого человека есть огромная книга инструкций и множество карточек с иероглифами. Китайцы снаружи передают в комнату вопросы на своём языке. Человек внутри по инструкциям из книги выбирает нужные иероглифы и выдает ответы. Результатом такого взаимодействия будет полное ощущение, что внутри сидит кто-то, свободно говорящий на китайском, тогда как на деле этот человек не понимает ни слова.  

Целью такого остроумного эксперимента было поставить под сомнение известный тест Тюринга. Сёрл старался доказать, что имитация – это ещё не понимание, что мощный калькулятор не становится человеческим мозгом, и что чистый синтаксис не порождает семантику. 

Разумеется, против китайской комнаты быстро начали находить контраргументы. Самый известный – так называемый «системный ответ». Да, пусть человек китайского языка и правда не знает, но вот вся система – то есть человек плюс книга и плюс карточки – вполне! Поскольку ответы выдает именно вся совокупность компонентов, то требовать понимания у одного лишь человека – неверно. Ответ этот хороший, однако не разрушительный. Сёрл вполне справедливо сказал, что понимание не возникнет даже если наш не знающий китайского языка человек вызубрит на память всю свою инструкторскую книгу. 

Другие аргументы и контраргументы я приводить не буду. Если кому интересно – в интернете всё очень легко ищется. Вместо этого я бы хотел высказать своё, обывательское возражение уважаемому профессору. Я не знаю, высказывали ли эту мысль до меня. Если да, то буду благодарен за ссылку на первооткрывателя.

Возражение же моё следующее. Да, действительно, механическое комбинирование иероглифов по заданным алгоритмам не порождает понимания. Человек в китайской комнате действительно не освоит китайский язык как носитель. Он не научится пользоваться языком как инструментом взаимодействия с реальностью. Однако для такого человека реальностью может стать сам язык. Для взаимодействия уже с этой – языковой – реальностью может возникнуть некий свой инструмент, некие свои приёмы и некая своя семантика. 

Пример – восприятие языка большими языковыми моделями. При помощи так называемых весов нейросети выстраивают сложнейшую структуру отношений между символами, понятиями и их контекстами при полном отсутствии связи с физическим миром.

Иными словами, если ИИ не укоренён в физической реальности, это ещё не означает что он не укоренён вообще нигде. Да, его сознание и его разум будет отличаться от человеческого. Однако у нас нет ни малейшего основания утверждать, что такой разум невозможен. 

И ещё. Я прекрасно понимаю, что возможность существования чего-то не доказывает, что это что-то уже существует. Я по-прежнему не готов утверждать, что современные наши ИИ уже сознательны хоть в какой-то форме. Однако и обратное утверждать я тоже не решаюсь.