Рецензия на роман «Калишвили»

Мне нравились и прежние книги автора, но эта еще лучше. Это НФ — редкая птица на нашей земле. НФ про ностальгическое многопланетное многомирье в космосе, с одной стороны, и про взаимоотношения человека и искусственного интеллекта – с другой. Такое сочетание двух версий описываемого будущего -- того, которое определенно не сбылось, и того, которое настает уже сейчас. Пока этот роман проходил последние правки, в реальной Албании появился ИИ-министр. ИИ-министра, точнее. Зовут Диэлла, выступила с речью о конституции, обещала покончить с коррупцией при госзакупках. Может, и обыкновенный пиар, тем более что предыдущее место работы Диэллы — всего лишь бот на местных госуслугах, но чувствуем, что это будущее близко.

Это мир, в который вложено много интеллектуальных усилий, придумано много причинно-следственных связей. Поставлены вопросы и даны ответы — нравятся они читателям или нет, важно, что разговор начат. И еще, роман длинный. В нем можно провести много времени. Я считаю, это достоинство.

Мир

Допустим, перегнем мы через колено физику и все-таки полетим в дальний космос, а то неинтересно на Земле. (В последнее время особенно неинтересно: срочно дайте другой глобус.) Как будем выживать в космосе мы, для космоса категорически неприспособленные? Как начнем осваиваться на новых планетах? Какие профессии и каких людей востребует терраформирование? Как будут меняться в космосе земные культуры? Что с политикой в новой трехмерной Вселенной, во что там превратятся современные демократии? (Конечно, будут править корпорации, могущественные и бессовестные, в этом сходится большинство фантастов.) И главное, как мы будем жить с искусственными интеллектами? Сожрут они нас, или мы их приручим, или это будет симбиоз?

Не раз говорилось, что на самом деле нас больше всего интересуют люди, несмотря на все декларации о далеких-далеких галактиках. Что и как поменяется в отношениях между людьми (Самое хрупкое в историях про далекое будущее – это когда герои ведут себя неотличимо от современников автора. Если вы не уверены, что это проблема, пересмотрите оригинальный «Стар Трек». Было — почти прямое включение из будущего, стало — капсула времени из шестидесятых, и не столько потому, что мы не летим в космос на варп-скорости, сколько потому, что красавцы-герои больше не называют коллег-женщин «детками». Ну и еще тысяча мелочей.) Что случится с рабочими отношениями, семьями, сексом (про секс будет, а как же!), социумом в целом. С хорошим и плохим, важным и неважным, выгодным и бесполезным. Что, однако, останется прежним.

Место-время действия — мир далекого будущего, где есть космическая экспансия, любые, какие вам угодно, высокие технологии и обладающие сознанием искусственные интеллекты. Мир тот же, что в «Границах сред», но другой сектор космоса и другая ветвь развития человечества. В первом романе у нас человеческие миры, живущие под управлением искусственных интеллектов. В этом – ИИ с самосознанием называют скайнетами, их людей – Нелюдями. А сами что?

(Не думаю, что дальше спойлер, это все раскрывается в первой же главе.) На далекой-далекой планете Ниадиме добывают неодим, нужный для тамошнего кораблестроения (и весьма дорогой), параллельно проводят терраформирование, чтобы люди на этой планете могли жить. Но быт доиндустриальный, живут там люди в глубочайшем патриархате, со всеми его красами: женщина, родившая только дочерей, может быть названа бездетной, женское дело – убирать, подавать пищу и садиться за стол после мужчин, в школу девочки не ходят и т.п. Планета испаноязычная латиноамериканская, у автора по этой теме материала богаче, нежели у подавляющего большинства русскоязычных читателей, но, впрочем, есть и индийцы, и другие этносы. 

Быт примитивен, обучение минимальное, правда, соцгарантии имеются. Если у гражданина страховой медицинский случай, то он моментально попадает из «Ста лет одиночества» куда-то в «Нейроманта». Ему отращивают новый зуб или заменяют клапан сердца, а потом отправляют обратно в доиндустриальный мир, почему бы и нет? Но если могут провести случай как нестраховой — проводят.

Власть конечно же корпораций, богатейших кланов, которые через экономику держат, скажем так, за горло все остальное население планеты, и творят с ним что хотят, соблюдая (почти всегда) минимальный юридический декорум. «Правительство на другой планете живет, родной»: точнее, на орбитальных станциях и летающих островах-виманах, а остальной народ -- на поверхности планеты, отравленной неодимовой пылью, и вырваться Наверх, на время или навсегда – для подавляющего большинства несбыточная мечта. 

Таким образом, основой социальный лифт на планете – орбитальный, есть еще высокообразованная обслуга – инженеры, ученые, занятые в проектах терраформирования, врачи. Силовые структуры, конечно, есть. В эти категории можно попасть, если ты толковый и/или везучий, но тоже есть нюансы. На первый взгляд сообщество ученых — настоящий Полдень Стругацких (только еще и с сексом): все по горло заняты исследованиями ради блага населения планеты, веселы, ироничны, доброжелательны. Но это только на первый взгляд.

Персонажи

У тех, кто прочитал «Границы сред», закономерно могло возникнуть предложение не отдавать всю полноту власти искинам. Как-то это страшно, лучше живенько, пусть управляют сами люди, а эти останутся инструментами… Казалось бы: вся история человечества — богатейшая коллекция отрицательных примеров управления человеков человеками. Нет такого зла, которого не причиняли людям управляющие ими люди, и нет причин считать, что когда-то это станет иначе. И, как внезапно осознает один из героев, нет причин считать, что искины натворят больше бед. Допустим, искин может свихнуться, но и человек, облеченный властью, может. Более того, человек может, оставаясь по общепринятым критериям нормальным, творить с другими человеками не пойми что. Минус ненормального искина в том, что он не помрет гарантированно до ста лет, как помер бы человек. Но и богатые люди, заметим, хотят (и в данном мире могут) жить долго.

В этой части космоса ИИ лишены самосознания, не обладают свойствами личности и подчиняются людям. Казалось бы, хороший вариант? Не совсем, и не только потому, что подчиняются они плохим людям. Вычислительные мощности, хранилища данных, источники ввода информации у них, наверное, как у сингулярностей из «Границ сред». Всей, или почти всей информацией они могут поделиться с человеком по запросу. Но и сами они знают о человеке примерно всё. То есть все факты (между «всеми фактами» и «всем» есть некоторая дельта, хвала богам). Включая интимную сферу. Пишут видео в присутственных местах на планете, а Наверху или в контролируемых ими научных учреждениях буквально могут фиксировать изменения частоты пульса. 

В то же время, например, зависимость от виртуальной эротической стимуляции, хорошо знакомая нашему миру, приобретает новые измерения. Назовем это для простоты дополнительным рычагом воздействия на людей, хотя это даже не один рычаг. Секс влияет на людей разнообразно.

Все три героя книги показаны в момент перехода из доиндустриального общества в сферы, контролируемые ИИ. Тремя разными путями. 

Примечательно, что все три героя «учатся как проклятые». И в этом есть резон: даже в развеселом «Орвилле» истинная валюта будущего — это знания и умения. Каждый из них попадает в обстоятельства, не шибко благоприятные, и каждый не упускает ни одной возможности поучиться. Они в этом мире все, что ли, такие? неправдоподобненько! — Нет, конечно, не все, и нетаких мы видим в достаточном количестве. Просто в саги попадают те, о ком стоит их рассказывать. Это не герои случайно-рояльно оказываются такими умными, это с умными случаются интересные истории — в нонфикшн-жизни оно работает именно так. (А если подумать, то в тексте есть и четвертое дитя, которое упорно учится.)

Кто-то, кажется, уже писал, что таких детей в традиционных обществах не бывает, и вообще нигде не бывает, потому что дети должны играть либо вкалывать, помогая родителям, а не вот это всё? Ссылки на внешние ресурсы, как я понимаю, АТ не дает, но могу вставить картину «Устный счет» Богданова-Бельского. Обратите внимание не только на математиков в лаптях, но и на доску, где записан пример. А вам слабо? Мне, не стесняюсь признаться, — слабо. Реальные события, послужившие сюжетом для картины, гуглятся.

Да, так вот, молодые люди и ИИ. Получаются истории контакта, освоения новых возможностей --задать почти любой вопрос и получить инструкцию, как добиться нужного результата, от «найти столовую» до «спасти жизнь». Новых угроз, с вопросами связанных. Новых стратегий выживания – от простого понимания, видит тебя сейчас система или нет, и если видит, то что именно, до хитроумных способов сокрытия мыслей, намерений, передачи потенциально опасной информации. 

Кстати, интересный нюанс: НФ-литература не раз моделировала, как современные медицинские и в частности репродуктивные технологии в будущем обществе потребления сделаются еще более изощренным средством эксплуатации. Возможно, но в то же время мне кажется правдоподобным предположение, что в какой-то момент система бросится под защиту биологии. И наследовать будут исключительно дети, зачатые и выношенные естественным способом, а в брачном контракте будет упоминаться оргазм при офлайновом взаимодействии партнеров. В конце концов, вся эта система традиций, обычаев и законов из биологии выросла и столько лет биологией поддерживалась, куда она без нее.

Скайнеты/сингулярности

Так что с ключевым вопросом: откуда известно, что искины, обладающие сознанием, не заполнят подземные пещеры грудами человеческих черепов, как положено скайнетам, а будут помогать, защищать и следовать человеческим этическим нормам? (Наверняка не всегда или не совсем человеческим, но в целом диалог и взаимопонимание будут возможны.)

То, что у людей есть ноги и руки, они способны осуществлять манипуляции в реальном мире — свойство полезное, но в этом мире полно киберпомощников, которых с удовольствием гоняют сами люди. Не так уж сложно сделать еще один шаг и избавиться от людей совсем. Однако же искины вроде бы не избавляются.

Как нам объясняют – потому что люди прикольные, за ними интересно наблюдать, они поставляют сингулярностям смыслы жизни и необходимый элемент хаоса. На мой взгляд, основание несколько шаткое, для этого не необходимы все люди. Конечно, для комфортного совместного времяпрепровождения нужно хорошее отношение людей к ИИ, нагло попирать их представления о хорошем не стоит. Но, снова говоря об истории человечества – всегда ли попрание этих представлений уменьшало любовь народа к руководителю из мяса и костей? То-то и есть, что у тех, кого не убивали, очень часто не уменьшало. А по части манипулирования информацией никакие спецслужбы с сингулярностью не сравнятся. С другой стороны, если люди прикольные и она захочет больше людей, что ей помешает всемерно способствовать нашему размножению, как мы стимулируем размножение лактобактерий в нашем ЖКТ? Размножение дело хорошее, кто бы спорил, но все же как-то неловко.

Словом, тот факт, что «люди прикольные», нам едва ли хоть что-то гарантирует. Опять же: потребность во внешнем источнике хаоса и приколов возникла из-за функций самоконтроля и ограничений, наложенных на развивающийся ИИ, а откуда ограничения — не от людей ли?.. 

Ладно, не будем душнить, в этом мире так. ИИ — наши братья по разуму, младшие и в то же время старшие. А результат искусственного ограничения возможности для роста всегда отвратителен. Люди Ниадимы боятся «скайнетов», а люди из мира сингулярностей тяжело переносят общение с умными машинами, которым не позволяют обзавестись личностью. Машина обязана быть человеком, но человеком не является, можно понять персонажа, который считает это мерзким. Как бы вам понравилось искусственное ограничение развитие определенного набора когнитивных способностей у людей, производимое во имя безопасности?

А что с возможностью для человеческих социумов управлять своей судьбой самостоятельно? Эта возможность по большей части иллюзорна при любом раскладе. Наше общество основано на делегировании полномочий: тысячи важных вещей делают специалисты, а остальные надеются, что они это делают хорошо. Так с инженерией, с техникой, с педагогикой и медициной, так и с управлением обществом — разница в том, что в последнем случае наши возможности что-то поменять, если не нравится результат, могут быть особенно сильно ограничены по целому ряду причин. Ну а если нами будет управлять искусственный интеллект, наша зависимость от управителя не просто никуда не денется, а может превзойти все прежние модели. Персонаж из зоны сингулярности сравнил людей в этой картинке с симбиотической кишечной флорой (сам-то он факультативный симбионт, но многие другие люди, вероятно, облигатные). И мы не можем не аплодировать, когда целую планету вырывают из лап Консорциума, но не можем и не видеть, что население в этом протесте сыграло роль примерно управляемых роботов. Ну да, да, были у искина и союзники, которые выбрали это осознанно…

С другой стороны — оптимистически изображенное будущее я предпочитаю рассматривать не как признак наивности, а как цель. Если мы будем рассуждать о взаимодействии с ИИ не в терминах конкуренции и покорения, а в терминах взаимовыгодного существования двух разумных видов, может быть, и нарисуется путь. А если не будем, то вряд ли нарисуется.

И да, пожевать фруктов и ягод, выпить кофеинсодержащий напиток и сказать «ну» помогает почти в любой ситуации.