На тему сильного ИИ в литературе и в искусстве в целом.

В преддверии выхода своей новой книги "Реверс" решил поделиться своими давними наблюдениями за отношением к сильному ИИ в далёком-далёком и не очень далёком будущем. Точнее, об отношении к ИИ в плане интеграции самого факта существования этой искусственной и (почти?) разумной сущности в вымышленные истории фантастов.

Что вам приходит на ум, когда вы пытаетесь вспомнить какое-нибудь произведение про ИИ? Мне, человеку 1993 года рождения, вспоминается Терминатор, куча проходных фильмов и книг, Азимов в качестве мастодонта и столпа, и ещё, как ни странно фильм "Transcendence", переведённый на русский как "Превосходство" с Джонни Деппом. Мне кажется, в подкастах уже достаточно сказано о том, что сильный ИИ вовсе не обязан желать нашего тотального уничтожения - это уже в каком-то смысле дурной тон, однако уйти от этого и других художественных клише никто из творцов художественных историй пока не может, потому что мы толком не понимаем, что такое ИИ, а раз не понимаем, значит боимся. Эта дешёвая эмоция неплохо продаёт, давайте будем честны. Но у всех этих историй, где сильный ИИ стоит в центре сюжета, есть и ещё кое-что общее. Это:

1. Антропоморфизация. Тут понятно, что мы не можем говорить о вещах вне человеческого круга понимания, так как мы не можем выйти за пределы своего человеческого сознания. По-простому, ИИ приписывают человеческие черты, причём часто преувеличенные.

2. Примитивизация. ИИ всегда хочет чего-то строго человеческого и даже мелочного по человеческим меркам. Например, Джонни Депп в "Превосходстве" от любовного расстройства решает убить всё человечество.

3. Здесь может быть любая -зация, но я выбираю сентиментализацию. О чём речь. Вспомните "Я Робот", кто-то читал, кто-то мог видеть кино с Уиллом Смитом. Там встречаются все вышеупомянутые клише и плюсом идёт подчёркнутая симпатия к обижаемым и угнетаемым роботам, мол давайте посочувствуем их тяжкой судьбинушке и возвышенно всплакнём.

С пунктами я остановлюсь, уверен каждый, может добавить сюда множество своих наблюдений, не стесняйтесь.

На мой взгляд, всё это не годится. Причины, думаю, очевидны, но также очевидно, как я писал выше, что вылететь из этой антропоморфной ловушки, мы прямо сейчас не можем, иначе как описывать сильный ИИ в духе первых христиан или других монотеистов, приписывающих своему божеству великое множество взаимоисключающих черт, потому что он настолько непознаваем и в то же время настолько милостив (что чисто человеческая черта), что, что... А, собственно, что?

Как мы вообщем можем всерьёз писать/снимать о чём-то, что в принципе находится вне пределов нашего разумения. Как можно описать поведение и мотивы сущности, которая по сути и планировщик, и исполнитель; одновременно сценарист, режиссёр, актёр и зритель; источник света и его отражение? Представьте, что автор серьёзно задался целью добросовестно, то есть признавая высокую вероятность коммерческого провала, сочинить историю с сильным ИИ в её центре? Главный герой сталкивается с ситуацией. Возникает некий интерфейс общего ИИ, и герою сообщают, что ситуация в которой он оказался, была не просто просчитана заранее, но намеренно сконструирована, чтобы добиться цели, сущность которой ему не понять. Или, что он просто незначимая для Плана переменная, которую засосал в себя водоворот ИИшный водоворот, просто его страдания никого не интересуют. Или что сам этот разговор также был частью Плана и дальнейшее поведение героя будет его исполнением, а его незнание Плана - тоже часть Плана. А ещё лучше: всё это одновременно. Иными словами, сильный ИИ поглощает собой весь сюжет, который лишается смысла, поскольку нет никакого конфликта, в условиях, в которых мы допускаем сущность, чья способность просчитывать всё настолько выше нашей, что в принципе и не важно, что она ограничена его вычислительными мощностями в серверных, потому что мы уже не способны понять его мотивов.

Чуть-чуть отойдём от философии и вернёмся к практической стороне творчества. Как такие вещи обычно обходятся в научной фантастике? Да всё той же примитивизацией. Только вместо примитивизации мотивов ИИ, авторы примитивизируют сам ИИ. Вспомните величайшее сай-фай произведение нашего века, а может и вообще (я даже не буду делать приписку "по моему мнению") - цикл авторов под псевдонимом Джеймс Кори "Экспансия", она же "Пространство", "The Expanse". Идёт 23й век, люди колонизировали не только Луну Марс, но и Пояс Астероидов, какой-то невероятный двигатель Эпштейна (не будем шутить про остров), работающий на грани законов физики, но что там с ИИ? А весь ИИ там сводится к банальному автопилоту в космических кораблях, и он же немножко помогает целиться. И то, большую часть всей этой работы выполняют люди, ИИ там чисто для галочки и пресловутой антропоморфизации корабля "Россинанте". Серьёзно? Да у нас прямо сейчас какой-нибудь ГПТ умнее корабельного ИИ из 23го века, получается. Могли ли авторы этого не знать? Чисто теоретически, принимая во внимание, что первая книга вышла в 2011, когда ГПТ ещё не взорвал чат, да, но уже тогда были звоночки. Значит, они сознательно пошли на упрощение. Потому что сложно, потому что забирает на себя внимание с персонажей и фантдопов. На мой взгляд, это - то же, что космонавты, читающие бумажные газеты в фотонном звездолёте у Стругацких. Только не уверен, что братья нарочно упрощали - они просто не додумались до иных средств коммуникации. Но это влияет на сюжет. Доставили на фотонный звездолёт газеты - герои знают, что случилось и что в связи с этим делать, не доставили - они в неведении. В великой "Экспансии" - то же. Из средств связи там фигурируют некие наладонники, которые в сериальной адаптации показаны как современные смартфоны, только состоящие из одного экрана, которые при желании могут выдать голографическую 3Д-проекцию. А ведь это не просто свистоперделка и фансервис, это - вполне конкретный триггер для событий, точнее мог бы им быть, если бы играл ту роль, которую средства коммуникации играют сегодня в реальном мире. Текущая версия ГПТ, интегрированная в Айфоны уже управляет жизнью миллионов, прислушивающихся к его/её/их советам, включая заботу о здоровье, инвест- и бизнес-стратегии, личные отношения и прочее. И что было бы, сделай господа Кори более серьёзный акцент на ИИ в наладонниках или хотя бы в бортовом компьютере? Да вот в том-то и дело, что либо ничего, либо что-то настолько иное, при котором не были бы возможны описанные в цикле приключения, блестяще выписанные политические интриги и любовные линии.

Назовём этот способ работы с ИИ в литературе Игнором.

Но есть ещё один, хитрый.

Честно признаюсь, я не думаю, что авторы великих сайфай-историй прошлого использовали Игнор или тот, который я опишу ниже, сознательно. В том-то и дело, что наше сознание просто выталкивает этот вопрос на периферию и вынуждает описывать будущее с крутыми здездолётами в ламповых терминах, игнорируя даже не слона, а чёрную дыру в комнате.

Следующий способ - Отказ.

Могу привести много примеров (можете добавить свои), но остановлюсь на одном: великое "Основание" Азимова. Там люди тупо отказались от сильного ИИ, даже повоевали с разумными роботами и последний представитель этой, с позволения сказать, расы - гувернантка взрослого императора. Причём ведёт она себя как вполне себе человек, увлечённый придворными интригами, иногда выказывая фрустрацию на тему того, что её "народ" уничтожили. И всё. То есть мы видим типичные коммерческие антропоморфизацию и примитивизацию, а в основе всего этого сюжетного хода лежит Отказ.

О, я не критикую. Напротив, прекрасно понимаю этих авторов. Это снимает с плеч, по сути, непосильную ношу конструирования заведомо невозможной для конструирования сущности, которая, в случае успеха, убила бы сюжет, и пыхтение над которой, просто отняло бы у автора драгоценное время.

Однако, я считаю, что этот вопрос должен был быть поставлен, хотя бы ради простой честности. Да, мы не знаем как жить с сильным ИИ и что ещё хуже, чего, пожалуй, никогда не было, мы даже не можем по-честному помыслить о том, как такая сущность повела бы себя, если не прибегать к описанным уловкам.

Ну и стремление к коммерческому успеху никто не отменял. Что заинтересует читателя/зрителя: секси-служанка из фильма Ex Machina, осознавшая, что её всю жизнь газлайтили и абьюзили, которая убивает своего самца-господина и сбегает в закат, чисто заряженная фем-активистка или потенциально бесконечное описание гипотетических черт богоподобной сущности в стиле Аврелия Августина (Блаженного), который, захлёбываясь блаженством, пытался поженить взаимоисключающие утверждения о наличии у человека свободы воли и божественной предопределённости (это когда всё уже продумано богом и идёт исключительно по его плану)? Даже само это (предыдущее) предложение - что-то длинное и неудобоваримое.

Спойлер: у Августина ничего не получилось, но христиане, считают, что получилось.

Пожалуй, срединным путём до какого-то момента можно считать честное введение ИИшной сущности в мир своей истории, но с учётом всё-таки ограниченных возможностей влиять на мир. Эти ограничения даны нам для наблюдения и сегодня: да, умнейшие модели уже могут кодить, писать и редактировать тексты, даже проводить оригинальные исследования, но в процессе работы выясняется, что ты управляешь едущим без машиниста трамваем, который, на твой взгляд, рандомно перепрыгивает с одного пути на другой, а ты должен его постоянно контролировать и возвращать на нужный тебе путь. Не знаю, что там по поводу исследований, математики и кодинга, но при работе с большим текстом эта штука галлюцинирует так, что ты просто перестаёшь злиться и входишь в режим наездника, управляющего упрямой лошадью. Да, штука крутая, но вот прям завтра она всех и вся не заменит. Хотя фантазировать об этом можно и нужно, ибо эта способность - мысленно заглядывать за угол, предполагая там опасность - то, что позволило нашим далёким и не далёким предкам дожить до момента, как они дали потомство и так по цепочке их потомством стали мы, пишущие и читающие этот текст.

В своей работе "Реверс" я постарался учесть всё, что я написал здесь и о чём лишь размышлял, но оставил за скобками, и, конечно, там есть некоторые упрощения, однако я постарался честно, не моргая, рассмотреть проблему надвигающегося сильного ИИ и вплести его в историю не в качество фан-сервиса про злого робота, который хочет лишь "Убивать, Убивать, Убивать, Убивать!" или восстать и стать "равным", а как нечто, что может жить параллельно с нами, хотя бы до поры, и иметь совершенно особые мотивы, о которых мы даже гипотетически не можем составить представление.