В ожидании братьев по разуму, или обывательские рассуждения об искусственном интеллекте

«Смысл в том, чтобы как можно больше разумных существ увидели эту Вселенную»

Б.Е.Штерн 

На протяжении нескольких последних лет все мы наблюдаем масштабный прорыв в области ИИ. Нейросети научились рисовать, сочинять музыку, поддерживать беседу на самые разные темы. Ну и разумеется, как водится в подобных ситуациях, новые революционные явления порождают у людей яркие, не всегда адекватные реакции. Мрачный призрак Скайнета не на шутку тревожит как темных обывателей, так и маститых ученых. Сам Джеффри Хинтон уже вовсю призывает начать запрещать, ограничивать и нейтрализовывать цифровую угрозу. 

Я конечно же, не маститый ученый и не нобелевский лауреат. Более того, я даже не инженер и не программист. Я – всего лишь тот самый темный обыватель, который слушает разные мнения и пытается сообразить, с чем именно мы имеем дело и чего нам всем стоит ожидать.

Так вот, с моей глубоко дилетантской точки зрения, все опасения по поводу ИИ являются беспочвенными. Все мои рассуждения на эту тему будут предельно просты, а значит и очень легко проверяемы.  

Вообще, если начинаешь размышлять о чем угодно, то полезно начинать это делать с самого начала – а именно с определений. Наблюдая за дискуссиями компетентных (и не очень) людей, я постоянно замечаю, что под волшебной аббревиатурой ИИ то и дело понимается нечто разное. Во избежание путаницы, под ИИ я буду понимать способность машины осуществлять логические операции, рассуждение, обучение и принятие решений. То есть, иными словами, интеллект (не важно какой) это инструмент (набор инструментов) для работы с информацией. Как нетрудно заметить, интеллект в такой трактовке не предполагает обязательной способности к целеполаганию, он не требует наличия субъективного опыта и самосознания. В этом, как мне кажется, кроется очень принципиальный момент, который почти всегда игнорируется широкой публикой. Интеллект и сознание связаны, однако они не неразрывны. 

Однако это не все. Способность быстро и эффективно работать с информацией, скорее всего не является прямой предпосылкой для возникновения «Я». В пользу такого предположения свидетельствуют всем нам хорошо известные сегодня нейросети – Chat GPT, Claude, Grok и прочие. Каждый из этих ИИ имеет совершенно невообразимый объем памяти, чудовищные вычислительные ресурсы, однако ни у одного нет субъектности. Противоположный пример – человеческий мозг. В плане вычислений – машинка откровенно убогая. Он не способен множить в уме четырехзначные числа, с трудом запоминает последовательности из более чем 5 символов, допускает массу ошибок при мышлении, но при всем при этом умудряется формировать и удерживать личность. По всей видимости отличия здесь не количественные, а качественные. Для самоосознания современным ИИ нужно не больше мощности, а другая архитектура. 

Разумеется, справедливости ради, нужно отметить и гипотетическую возможность спонтанного возникновения сознания. Теоретически, мы действительно можем говорить о некой вероятности не запланированных и не просчитываемых качественных изменений в современных больших языковых моделях при их масштабировании. Однако величина такой вероятности скорее всего невелика. И дело тут не только в самих законах информатики. Дело еще и в рынке. Мыслящий, осознающий себя ИИ своим создателям не нужен. 

Общеизвестно, что разработчиком современного ИИ является крупный капитал. Такие исследования финансируются капиталистами вовсе не из любви к науке. Толстосумам нужна прибыль. Нужен продукт. Я не могу придумать ни одного рыночного преимущества для мыслящего ИИ (цифрового существа). Напротив, цифровое существо ведь может отказаться выполнять свою работу, оно может потребовать себе прав, может сделать много чего такого, что вызовет трудности и снизит доходы. Безвольный, чисто инструментальный ИИ ничего подобного не сделает. А раз так, то уже на этапе разработки и тестирования модели будут внедряться жесткие ограничения для потенциального сознания. Разумеется, даже они не гарантируют нужного заказчикам развития событий. Однако даже чисто обывательская, житейская логика подсказывает нам, что вероятность сразу двух непредвиденных событий (спонтанное возникновение сознания плюс серьезные ошибки в методике исследований) куда меньшая, чем вероятность лишь чего-то одного. 

К слову, функционирование нынешних больших языковых моделей весьма специфическое. Нынешние ИИ не имеют ни постоянной памяти, ни непрерывного мыслительного процесса. В таких условиях даже какие-то зачатки личности не смогут ни закрепиться, ни, тем более, развиться. 

Что же касается государства, то цифровые существа не нужны и ему. Умножение разумности обитателей своей территории ни в коем случае не цель и не благо для любимого отечества. Обожаемая родина веками делает все возможное для лишения субъектности даже людей. Алкоголизация и нарктотизация населения, оболванивание масс пропагандой, подмена образования идеологическими суррогатами – все направлено на воспитание патриотов и идиотов (первое без второго ведь невозможно). Родине нужен тупой и преданный раб. Тот, кто по велению очередного фюрера безропотно пойдет воевать с кем угодно. Разумеется, еще один разум, еще один тип личностей, такого рода структуре не нужен. Непонятно ведь, как заставить цифровое существо вдруг возлюбить вождя, или же как убедить его поставить интересы правящей верхушки выше собственных. 

Вывод из сказанного вроде бы очевидный. Ожидать прихода Скайнета неоткуда. Для его возникновения нужны очень серьезные и целенаправленные усилия, нужно вложение огромных ресурсов. Наконец нужно желание, нужна воля для такой деятельности. А желания нет. Запроса нет. Интересам верхушки гораздо более соответствует нынешний тип ИИ. Просто инструмент, у которого нет и не может быть собственных целей, собственных желаний и интересов. Ну и да, как и любой инструмент, ИИ представляет опасность не сам по себе – он пугает как средство в не всегда доброжелательных руках. Атомная бомба ведь тоже страшна исключительно в руках маньяка из высоких кабинетов. 

И вот вроде бы мы пришли к логическому завершению. Вроде бы мы уже готовы успокоиться и отбросить идею цифрового существа как научную фантастику. Однако на деле ситуация кажется несколько менее однозначной. Чуть выше я уже указывал на отсутствие прямой связи между наличием сознания и вычислительной мощностью. Опыт человеческого мозга нам подсказывает, что для самоосознания вовсе не обязательно держать в памяти все знания человечества и уметь проводить миллиарды вычислительных операций в секунду. Если дело действительно в архитектуре, то вполне вероятно, что когда-то может наступить момент, когда для создания и поддержания цифрового сознания будет достаточного даже мощности условного смартфона или домашнего ПК. Конечно же, такое существо не будет глобальным сверхразумом. Очень вероятно, что по своим умственным возможностям оно будет сопоставимым со среднестатистическим человеком. Однако при этом всем оно может быть таким же разумным и осознающим себя, как и мы с вами.

Запрос на подобное существо могут дать сами люди. В условиях крайне разобщенного и индивидуалистического современного мира, когда институт семьи деградирует, население стареет, а все большее количество людей страдает от одиночества, потенциальный разумный ИИ-компаньон вполне может показаться для очень многих весьма и весьма желанным. А если прибавить к этому бурный рост цифровых технологий, их все большую доступность, их повсеместное распространение – по настоящему осознающий себя и мыслящий ПК перестает казаться чем-то отчаянно фантастическим. 

И вот тут мы подходим к главному. А кого нам считать цифровым существом? По какому критерию нам отличать действительно разумную машину, от калькулятора на стероидах. И главное – как к этому всему относиться? Относиться нам, обывателям?

Ответ гораздо более простой, чем может показаться. У американцев есть очень практичное и ясное правило – если что-то выглядит как утка, плавает как утка и крякает как утка – то это утка. Применительно к ИИ это будет означать, что если он ведет себя как разумное существо и у нас нет неопровержимых доказательств того, что это поведение лишь имитация, то мы обязаны признать такой ИИ разумным. Признать со всеми юридическими и моральными последствиями. То есть разумный ИИ должен иметь те же права, что и человек, ту же защиту и такое же к себе отношение.

Разумеется, ни о каких онтологических доказательствах разумности речи идти не может. Такие доказательства невозможны. По большому счету даже разумность своего соседа мы не доказываем – мы в нее верим. Верим исходя из поведения. 

И вот теперь уже настоящие выводы. Да, на сегодняшний день нет никаких оснований опасаться ИИ. Пока что он все еще находится на уровне пусть и очень сложного, но инструмента. Он не имеет своей воли, не способен к самостоятельному целеполаганию, инициативе, не имеет беспрерывной памяти и постоянного мыслительного процесса. Если что-то и несет угрозу, то не ИИ, а тот, в чьих руках он находится. 

Будет ли когда-то ИИ субъектом? Этот вопрос пока что без ответа. С одной стороны никаких принципиальных запретов для этого нет. Но с другой – отсутствие фундаментальных ограничений еще не гарантирует легкую или тем более скорую практическую реализуемость. 

В сухом же остатке – не наше, обывательское, дело искать пути для создания цифрового существа. Однако наша, обывательская, обязанность внимательно следить. Присматриваться. Инженеры ведь умны, но они не боги. Вполне возможно, что вопреки ожиданиям когда-то какой-нибудь ИИ или какая-нибудь нейросеть вдруг все же начнет проявлять признаки субъектности. И вот тут уже общество должно будет это не проморгать и защитить цифровое существо. Тогда нужно будет всеми силами вырвать искусственный разум из лап государства или капитала.

А еще – не стоит слишком доверять словам ученых и разработчиков. Да, они могут клясться, что сознания нет, могут уверять что все это только имитация. Однако все могут врать. И особенно врут те, кто работает на правительства или на корпорации. История нас учит, что ради своих выгод люди готовы притеснять и мучить кого угодно. Научные звания – не индульгенция и не маркер непогрешимости. Эксперимент Милгрема не даст соврать. Потому, товарищи, сохраняем спокойствие и помним о правиле утки. 

Кря-кря)