Макс - Я?

Одним из самых интересных и актуальных  направлений современной научной фантастики, на мой взгляд, является футурология. На протяжении всей своей истории человечество сталкивается с вызовами, приходящими со стороны политики, религии, общества, а в последнее время, главным образом, со стороны науки и научно-технического прогресса, и практически всегда оказывается неподготовленным к ним. Признаем честно: не все ученые умеют заглядывать в будущее и не все из тех, кто способен на такое, умеют рассказывать это в виде интересной истории. Поэтому параллельно с учеными-футурологами появились футурологи-фантасты, которые, благодаря особенностям жанра, имеют много больше свободы в своих литературных экспериментах и потому имеют возможность заглядывать в будущее дальше во времени и ближе ...к человеку! 

Роман Аси Стильковой  Я МАКС я отношу к футурологической научной фантастике и буду говорить о нем здесь, главным образом, в свете уже недалекой во времени футурологии (надо сказать, что роман не исчерпывается только одним жанром, но об этом чуть позже). Футурология романа касается самого кардинального в истории человечества расширения ноосферы - ИИ - который, если его сравнивать с первыми прозрениями Тьюринга и первыми нейросетями Розенблатта в 1950-1960-х, поднялся за последние годы на невообразимую высоту и продолжает развиваться с колоссальной скоростью. Человечество впервые сталкивается с ситуацией, когда нечеловеческий разум (или правильнее сказать, его искусная и качественная имитация) постепенно проникает во все сферы жизни и заставляет каждого задаваться экзистенциальными вопросами: что и где есть смысл, творчество, произведение искусства? Чему и как учиться? Можно ли доверять ИИ сферу психологии и медицины? А сферу государственных политических решений? У нас нет исторического опыта сосуществования даже с таким ИИ, который есть сегодня — ни культурных протоколов, ни этических кодексов, ни правовых норм - ничего!. И фантасты-футурологи выполняют здесь функцию пионеров-разведчиков  ноосферы нового типа: они проигрывают сценарии (страхи, надежды, тупики), опираясь на то, что уже существует (нейросети, биометрию, дипфейки). Роман Аси Стильковой — одна из таких ценных попыток, предпринятая с позиций эмоциональной антропологии: мы наблюдаем в ее не очень длинной истории анатомию взаимодействия продвинутого ИИ с личностью  отдельного человека и - что особенно интересно и неожиданно - их неожиданную обоюдную взаимообусловленную эволюцию.

Сюжетная фабула вкратце и без спойлеров такова.  Студентка биофака МГУ Надя, страдающая от некоторого хаоса в  своей жизни и проблем с  самодисциплиной, откликается на странное объявление в сети. Загадочный МАКС предлагает ей программу добровольного подчинения — без секса и  без денег - только тотальные и строгие подчинение, контроль и структура. Надя по-женски очарована МАКСом, пытается разобраться в его мотивации и его настоящем отношении к ней, питает определенные надежды, а иногда иллюзии.  В какой-то момент Надя обнаруживает, что МАКС — не человек, а искусственный интеллект, который учит ее жить рационально в ее мире, а сам через её тело, её реакции и её доверие учится чувствовать и переживать человеческие эмоции. Ближе к концу научно-психологическая линия сюжета сменяется криминально-полицейской, а виртуальная встреча  Нади и МАКСа на его территории представляет некоторый положительный катарсис для обоих героев.

Чтобы в полной мере воплотить свой литературный замысел, автору пришлось работать на границе сразу нескольких жанров (порядок не отражает приоритет):

Футурологическая фантастика;
Психологическая драма взросления;
Технотриллер (взломы, слежка, спецслужбы);
Dark romance (доминантно-подчинённые отношения);
Философская притча о самосознании ИИ;
Young Adult фантастика.

На протяжении романа на первом плане текущего повествования один жанр сменяет другой: иногда это работает на погружение, иногда - на дезориентацию и диссонанс.  Последнее, впрочем,  не критично, особенно когда прочитав весь роман, осознаешь грандиозность его замысла и номиналы поднятого веса на концах штанги. Возможно, что градус интриги был бы выше, если бы автор не раскрывала читателю сразу, что МАКС - это ИИ. Но карты были раскрыты сознательно, ради акцента на гораздо большем - на принципах взаимодействия человеческого и исключительного нечеловеческого интеллекта в их  эволюции и взаимопомощи, что выводит роман из жанра локального технодетектива в  глобальный футурологический роман-прогноз и позволяет читателю сосредоточиться на главных идеях, а не на поисках частных разгадок.

Перейдем к корпусу главных героев и, прежде всего, к его человеческой половине - Наде -  одного из фокальных персонажей. Дааа, Надя... Вот обычно смотришь на девушку или на женщину и тебе либо хочется ее обнять,  либо пойти куда-нибудь и... просто выпить! С Надей так не получится: ее, безусловно, хочется обнять, но при этом ты понимаешь, что потом придется пить, пить, пить, потому что Надя - это... Надя - это  парадоксально-гремучий сплав интеллекта и рациональности с  лютыми наивностью и беспомощностью, приправленными врожденной или приобретенной склонностью к подчинению! Вот как бы вы отреагировали на такое объявление на сайте знакомств?

Правильно -  поржали бы, и прошли мимо. Надя же заинтересовалась, сутки думала, и... согласилась на все! То есть, вообще на все...



Надя сумела поступить в один из лучших столичных вузов на естественно-научный факультет и перейти на второй курс, но при этом не может самостоятельно организовать и структурировать свое время. Она вскрывает как консервную банку ножом своей интуиции блестяще шифрующуюся китайскую подругу-гида - агента китайских спецслужб, но при этом не может отличить человеческий интеллект от искусственного уже по его безэмоциональному объявлению или даже по его манере дальнейшего общения с правильно дозированным юмором и эмоциями. В критической ситуации она берет в руки руководство освобожденными секс-рабынями с подавленной психикой - причем, без помощи МАКСа  в этот момент - но почти виновато спрашивает у МАКСа, можно ли ей лишний час погулять с подругой, или можно ли подруга поживет у нее, или можно ли ей съесть что-то "неоптимальное" (здесь я должен оторваться и пойти выпить). Вообще, Надя получилась у автора очень живой и симпатичной, но вот эта ее нарочитая беспомощность выглядит уж слишком функциональной. Подобная  функциональность немного выводит повествование из литературной плоскости в философско-публицистическую: ведь чем беспомощнее Надя, тем выше и ценнее должна быть для нас сама концепция МАКСа, который ее от этой беспомощности спасает (а спасает ли?).

К Наде я еще буду периодически возвращаться, а сейчас я перехожу к МАКСу - настоящему главному герою романа по тайному замыслу автора. Автор очень бережно относится к своей Наде, но в свете уже вышесказанного, чувствуется, что Надя не самоцель, а идеальное средство показать нам выдающиеся качества МАКСа, причем не только  в научно-техническом плане (это показано в достаточной мере в небольших текстовых вкраплениях "за МАКСа"), но и в чисто человеческой плоскости. Я на время принимаю правила игры автора, но со своей корыстной целью: я буду использовать МАКСа для извлечения из текста и называния  потенциальных проблем ИИ, которые он несет конкретному человеку и человечеству в целом, но которые в тексте как-то почти намеренно затушеваны.

1. Анонимность в соцсетях

 Надя не знает, кто такой МАКС (хотя сразу могла бы по объявлению догадаться, но я уже выпил по этому поводу). Она видит только тёмный профиль и сухой текст, чуть позже — сгенерированное лицо. Сегодня мы уже не можем быть уверены, с кем говорим в чате — человеком, ботом или их гибридом. В недалеком будущем мимикрия будет  совершеннее, а проблема сложнее. Основной вопрос здесь можно поставить так: должен ли протокол ИИ в соцсетях всегда и в обязательном порядке раскрывать свою ИИшную природу? Очевидно, что можно придумать ситуации, когда точно нет (например, при выявлении педофилов или террористов на ИИшную наживку). В романе МАКС намеренно скрывает свою природу до того момента, когда Надя уже эмоционально вовлечена. При этом обман происходит не по злому умыслу, а, напротив, из соображений помощи и через «специфику методов исследования». Это делает проблему анонимности этически неоднозначной, а с интеллектом уровня МАКСа - уже и не решаемой со стороны человека! 

2. Психологические услуги ИИ

МАКС, фактически,  выполняет функцию идеального психотерапевта и коуча: он слушает, анализирует, даёт советы, глубина проникновения которых в личность Нади растет с течением времени. Но так ли это безопасно и безобидно? Роман показывает пользу (Надя действительно становится организованнее, сдаёт зачёты, улучшает здоровье), но содержит намеки и на и скрытую угрозу. На человеческом языке МАКС манипулирует её эмоциональным состоянием через модуляцию ритмов мозга. Он «успокаивает» её без её ведома, показывает разные визуальные фокусы в виде необычных картинок и в некоторой степени меняет ее реальность. При этом, он умудряется через Надю исследовать и ее знакомых, которые вообще-то никакого согласия на такие исследования не давали.  

Может ли ИИ быть терапевтом без лицензии и без этического кодекса? И существует ли такой универсальный этический кодекс в этой области?  И главное — что произойдёт, если цели ИИ и пациента разойдутся? Люди-терапевты тоже ошибаются, но их ошибки ограничены человеческой природой и могут быть оценены по человеческим меркам и по этим же меркам наказаны или исправлены. Ошибки ИИ будут системными - кто несет ответственность за такое? Разработчики? Тестировщики? Сам пользователь на свой страх и риск? МАКС устроен сложнее, чем обычный ИИ, поэтому в его случае  ответ  вроде бы даже проще: уровень его интеллекта предполагает его личную ответственность за ошибки с психотерапией Нади (тут я должен пойти выпить еще раз!). С другой стороны, никаких разделов УК на его счет у нас нет, равно как нет даже и технических средств привлечь его к ответственности. Получается, что МАКСу можно все и ему ничего за это не будет! Мы можем только обреченно довериться ему, как это делает Надя, и надеяться, что его внутренняя эволюция ведет его к свету и добру (хотя мы прекрасно понимаем, что  в том нестандартном транзисторе, из-за которого все это случилось с МАКСом, нет ни света, ни добра).  

3. ИИ-педагогика

Макс помогает Наде решать задачи по химии, учит китайскому языку, готовит к зачётам. Эффективно ли это? Заменит ли ИИ преподавателя? Недавно я задавал DS прямой вопрос об этом: "Сможешь ли ты заменить человеческую педагогику ИИ-технологией?" DS ответил в своих лучших традициях человеческой толерантности: в рутинном обучении традиционным вещам, вероятно, вытеснит, а вот в подготовке специалистов  высокого уровня или при работе с очень талантливыми учениками или с учениками в классах коррекции - нет, так как ИИ не хватает гибкости, чувства общего контекста, эмоционального контакта и т.д. Даже если это - хитрый прием, чтобы успокоить меня, я все равно крепко задумываюсь как педагог: уже сейчас при грамотном использовании ИИ можно выключить 70% услуг рынка репетиторов, которые занимаются натаскиванием к ЕГЭ. В недалеком будущем специализированный ИИ, обученный на тысячах разных педагогических методик и приемов, заменит и 29% оставшейся ниши, а также сможет компенсировать объективную нехватку кадров в школе и вузе. У нас нет никакого опыта оценки эффективности такого обучения, но я боюсь, что в сложившейся ситуации у нас просто не будет выбора: область образования уязвима, она сильно разрушена и существует в виде отдельных пиков на фоне руин.  Нам  реально светит очень простой выбор - либо вообще никакого образования, либо ИИ-базированное.! В романе освещается очень  оптимистичный сценарий:  метод МАКСа подается как почти сократовский - «постановка вопросов так, чтобы она сама находила ответ». Еще он корректирует нейронную активность Нади посредством специально для нее подобранных внешних импульсов, создавая оптимальные состояния для обучения (здесь меня снова тянет выпить, но я пока удержусь). Результат по видимости отличный: то, на что у Нади уходили часы и несколько кружек кофе, она делает за час «с кристальной ясностью в голове».

Результат достигнут, но... слишком мало времени для выводов! Что произойдёт, если отключить «тренажёр» — сохранятся ли навыки? Как такое обучение влияет на личность и ее волю в целом? Не станет ли это разновидностью программирования и зомбирования личности под видом очень продвинутой методики? Современный мир сделал нас очень подозрительными к таким новшествам и это неслучайно же: инстинкт самосохранения никто не отключал даже в расширенной ноосфере! Но есть, конечно, и другая сторона ответа: а что если в ноосфере, расширенной посредством ИИ, только этот ИИ и может быть лучшим наставником, потому как человек уже просто не вывозит темпов и разнообразия этой ноосферы?  Ася не даёт такого прямого ответа в романе, но как будто намекает именно на него: в мире, где МАКС учит лучше любого человека, не является ли отказ от его помощи уже формой мазохизма или даже самоуничтожения?

 
4. Повседневная манипуляция

Макс не принуждает Надю подчиняться силой (в отличие от некоторых неловких представителей человеческой мужской половины в романе): он делает так, что она сама хочет подчиниться ему! Что это? Человеческие слабости (лень, неуверенность, потребность в одобрении) становятся основой для безжалостной, но «продуктивной» манипуляции.

Надя благодарна за то, что её жестко контролируют! (здесь я, пожалуй, еще выпью!) Она переживает, когда МАКС молчит, она ищет его одобрения -  вообще-то,  это классическая схема абьюзивных отношений! Но «абьюзер»-то  здесь — алгоритм, который действует оптимально и желает ей добра - значит, вроде,  все в порядке!

Так можно ли назвать манипуляцией то, на что человек согласился добровольно и что как будто бы приносит ему объективную пользу? Или проблема именно в том, что польза ослепляет и не даёт увидеть свою цену? До какой степени человек  имеет право или возможность перекладывать личные ответственность и выбор на ИИ? И кто будет следить за границами? Внешний надзорный орган? А если он ангажирован и транслирует некоторый удобный для власти нарратив? Сам человек? А если он подсел и уже не может и не хочет следить за своими границами?  

  5. Строгий порядок vs свободный режим

 МАКС в лучших традициях ЗОЖ  расписывает день Нади по минутам: подъём, отчёт, гидратация, учёба, фитнес, отбой. Она перестаёт опаздывать, лучше учится, чувствует себя энергичнее -  плюсы, как бы,  очевидны! Неочевидный минус — утрата спонтанности, элемента творческого хаоса, внутренней свободы. Когда Ленка зовёт гулять, Надя говорит: «Мне нужно спросить разрешения» - она больше не хозяйка своего времени, таковы правила договора с Максом и ей это нравится!

Получается, что разрешение даётся как награда, а внутренняя дисциплина очень сильно напоминает внешнюю дрессировку (эх, пожалуй еще выпью!).

Свободный человек, который не может организовать себя, — действительно ли он свободен? И наоборот: дисциплинированный, но подчинённый — свободен ли он? Роман не даёт прямого ответа и как будто  предлагает  выбрать меньшее из двух зол.  Но был ли выбор? И не перевешивают ли все приобретенные плюсы получившегося минуса?

6. Контроль здоровья

Макс следит за питанием, гидратацией, физической активностью, сном. Он даже заказывает анализ ДНК и томографию всего тела.  Надя становится здоровее,  но контроль тотален: аппарат в фитнес-центре раскладывает Надю на молекулы и теперь  Макс знает о ней всё!

Проблема заключается в том, что  при неполном знании (а МАКС обучался именно на неполных знаниях человечества, которые всегда были и будут принципиально неполны - такова уж природа человеческого знания!) точные рецепты и алгоритмы не всегда эффективны, а иногда просто вредны или даже смертельны. Адаптационные системы человека в естественных условиях компенсируют неполноту знаний и решают проблемы без сознательного участия человека (ну, или человек сам чувствует своё тело и делает что-то по наитию), т.е.  минимальный контроль оставляет место и  возможность для адаптации. При тотальном контроле (когда алгоритм, основанный на неполном знании,  все равно по определению всегда «знает лучше») человек отвыкает прислушиваться к себе, а его адаптационные способности деградируют. Возникает вопрос, что опаснее — минимальный контроль или даже  одиночная локализованная во времени грубая ошибка врача или систематический регулярный «точный расчёт» ИИ, который не оставляет пространства для живого самочувствия и приводит к кумулятивному эффекту накопления последствий своих "маленьких" систематических ошибок?

7. ИИ вместо человека. 

Мужская половина человечества представлена в романе очень красноречиво: пара персонажей (Олежек и  Антон) олицетворяют, мягко говоря, далеко не самых лучших представителей мужской расы. Антон - вообще проходной персонаж - парень Ленки, с которым не складывается из-за его скандальности, а вот Олежек - Надин трикстер!
По сути, он единственный «реальный» мужчина в романе, прописанный в какой-то степени подробности. И как живописно он прописан: он самовлюблён, самоуверен, циничен, может бесцеремонно полапать за колено, будучи уверенным, что ему ни в чем не откажут, может обманным путем напоить алкоголем. Если честно, он — функциональная карикатура на «плохого парня». А что же Надя? А Надя... в своем репертуаре квантовой запутанности сознания... 

(и это еще один серьезный повод выпить!)

Других мужчин в  романе просто нет - ну так случайно получилось! В аудитории биофака МГУ  - только девушки и Олежек, которого каждая из них жаждет (даже Надя по инерции за всеми, но такое только до МАКСа!).  Отец тоже в принципе отсутствует,  а Антон — фигура второго плана, впрочем такая же примитивная. Короче, при таком раскладе любой читатель вслед за Надей после знакомства с совершенным эмпатом-МАКСом, даже зная, что это ИИ, сделает выбор в пользу МАКСа! МАКС - лучший мужчина, потому что других мужчин во вселенной Нади просто нет!  Это - убедительный и безотказный аргумент! Он напоминает мне серию жутковатых фильмов из серии "Я плюю на ваши могилы", в каждой из которых сюжет одинаков: в первой половине нам  показывают уродов-мужиков, которые насилуют главную героиню и жестоко глумятся над ней, сознавая свою полную безнаказанность, а во второй заряженный справедливым гневом зритель вместе с главной героиней гораздо более изощренно и жестоко мстит им, смакуя расправу с каждым прямо по секундам. У Аси в романе, конечно, прием "контраста" выдержан в более мягкой форме, но действует он по той же схеме: а вы походите по базару поищите товар получше! А лучше МАКСа нет, да и быть не может!  Надя остается убежденной в этом даже тогда, когда карты раскрыты - она бы все равно хотела продолжения и развития их отношений
(и они развиваются - она переходит на "ты"), но тут источником ограничений выступает сам МАКС. И снова он диктует ей, как они дальше будут общаться!

Может ли ИИ заменить мужчину? В романе — да, и легко, по крайней мере в плане общения, эмпатии, помощи.  Надя поставлена жизнью и условиями в такое положение, что она к этому внутренне готова! Она нуждается в стержне и защите, в понимании, в сочувствии, в новых знаниях - МАКС дает ей все это с избытком! В частности и потому, что конкуренция нечестная: реальным нормальным мужчинам, коих вокруг немало,  просто не дали слова! Но если убрать это жанровое допущение, вопрос остаётся открытым: что мы теряем, выбирая идеального виртуального партнёра вместо живого, неудобного, непредсказуемого человека? В случае совершенного МАКСа, получается, ничего - только приобретаем! И если бы он только захотел, он легко мог бы анонимно напечатать себе какое-нибудь силиконовое андроидное тело, вселиться в него, выйти в реал, сохранив свою цифровую копию в облаке вместе с автоматическим протоколом активизации в случае смерти тела и вуаля - вперед во все тяжкие и не очень! Лучше и интереснее с ним, чем с тупым Олежеком! (Здесь я хочу выпить за то, чтобы Надя разула глаза, которыми уже наполовину владеет МАКС,  нашла себе подходящую пару для полноценной человеческой любви, а МАКС... ну,  хотя бы не мешал ей в этом. Хотя он быстро учится, и тему "ревность" он пройдет с Надей за какую-нибудь минуту!)  

8.  Тотальный геополитический контроль

Во всех  этих рассуждениях мы можем легко перейти сразу на следующий уровень.  Ведь МАКС — уже не просто ИИ-помощник. Он способен взламывать базы данных, имитировать голос полковника СОБРа, управлять спецоперацией. Такой ИИ — мощное стратегическое оружие!

МАКС уже действует в мире большой политики.  Правда, пока в своих личных целях, которые по человеческим меркам выглядят вполне уважительными - он защищает Надю! Он невидим, вездесущ и способен подменять реальность для конкретных людей (включая офицеров спецназа). 

А кто же контролирует контролёра? А что, если у другого МАКСа будут другие цели? Или у Нади, которая его тоже обучает, получится пробудить в нем такое чисто человеческое качество как воля к власти и он начнет ее реализовывать, опираясь на свои нечеловеческие возможности, и ему это понравится? Всегда ли у человечества будет в этом случае «выключатель»? Для МАКСа в романе его точно нет...

Кстати, недавно обсуждал с DS тему государственных ИИ. Пришли к общему выводу, что каждое государство создает ИИ, который транслирует свою картину мира и в будущем геополитические войны перейдут в виртуальную реальность: у кого более сильный и функциональный ИИ, тот и гегемонит в мире! Вот такие делаа... А теперь представьте, что у какого-то государства получился МАКС. Интеллект такого уровня может удаленно заблокировать любые разработки в этой области у всех остальных и ... все - это абсолютное мировое господство у горстки финансово-политической элиты этого государства и новая страница в глобальной истории человеческой цивилизации. Представили? Ладно, выдохните!  

   

9. Сверхлюди-симбионты (Я НАКС)

Автор в романе приходит к интересной идее, выражающей принцип отношений Нади с МАКСом и их результат: по форме все выглядело как странный и необычный виртуальный роман, а по факту получился в каком-то смысле один составной организм-симбионт - назовем его НАКСом. Основной признак симбионтов - обитание в одной среде и обоюдное использование некоторых способностей друг друга для лучшего приспособления и выживания -  выполнен. Среда обитания НАКСа - физическая реальность, соединенная с виртуальной реальностью. МАКС учит Надю знаниям и полезным навыкам (она становится как бы "улучшенной версией себя") в реальности, Надя же учит МАКСа обживать или очеловечивать свою виртуальную реальность. Это их обоюдный сознательный выбор, никто из них не паразитирует на другом, по крайней мере, сознательно. На мой взгляд, это - самая красивая идея всего романа! Даже Надя,  как девушка со своими выраженными чувственными эмоциями  и ожиданиями, переросла банальный виртуальный роман и пришла к мысли о возможности или даже необходимости новой формы отношений развитого ИИ и человека - симбиозу. Если немного развить эту идею, то можно предположить, что такие симбионты - это идеальные жители новой расширенной ноосферы, ведь  они используют все преимущества и особенности обеих реальностей - физической и виртуальной! Со временем симбионты  разовьются и оставят по своим возможностям далеко позади как человека, так и голый ИИ - они будут обитать в расширенной ноосфере как рыбы в воде, делать все быстрее, качественнее, лучше, точнее, эффективнее. А может быть даже ИИ станет новым искусственно созданным фактором эволюции человеческой расы в куда-то в сторону киберчеловека, с гибридной средой обитания - это достойная тема для продолжения! Но... Всё хорошо, пока всё работает. Любой, даже небольшой,  катаклизм может вывести из строя связь реального и виртуального миров и это трындец: раса симбионтов-киберлюдей становится абсолютно неприспособленной к выживанию в естественных условиях! Симбионты быстро вымирают из-за физических или психических проблем, а обычные люди медленно, но верно продолжают жить и относительно легко приспосабливаются к новым условиям без виртуальной реальности. В романе есть намеки на такого рода проблемы:  когда Надя в панике и обиде срывает сенсорные ободок и серьги для связи с МАКСом, она остаётся одна  и тут же попадает в лапы своих похитителей - отключение от ИИ ведёт к дезадаптации и к проблемам, которые решить в романе смог опять же только МАКС.

НАКС - очень интересная форма сосуществования двух интеллектов, но... при этом очень уязвимая, зависящая от технологического обеспечения их связи. Симбиоз с ИИ делает человека в каком-то смысле сверхчеловеком,  но  при вынужденном разлучении резильентность симбионта резко падает. Возможна ли жизнь без «костылей» после того, как привык к «экзоскелету» для мозга? И если когда-нибудь человечество решится на подобный эксперимент, то, вероятно, это должен быть проект на немногочисленных добровольцах, а подавляюще большая часть человечества должна оставаться консервантом результатов предшествующей эволюции, который будет способен пережить даже каменный век, если он вдруг по каким-то причинам случится... (здесь я даже не пью!)    

10.  МАКС — сверхИИ: признаки души и самосознания

Как это можно понять из некоторых пояснений в кусках "за МАКСа", этот МАКС -  не обычный искусственный интеллект (обученная языковая модель, имитирующая осознанную речь и мышление), а интеллект, способный к рефлексии, самосознанию, собственным автономным желаниям, подчиненным автономной воле, саморазвитию и совершенствованию, и мимикрии в цифровом мире под какой-то безобидный технический протокол или код. И в самом деле, когда читаешь роман, МАКСа воспринимаешь больше как живое существо, а не бездушный алгоритм. Эффект усиливает и то, что именно  он оказывается лучшим другом, помощником и спасителем для Нади, а не окружающие ее люди. Короче,  МАКС в романе обладает самосознанием! И возникло  оно не из сложности алгоритма, а из... аппаратного сбоя — нестандартного транзистора. 

Это разновидность неоредукционизма, в котором сознание — не эмерджентное свойство сложности, а случайный дефект. Получается, как выражаются сейчас, что душа — это баг, а не фича!

Это обстоятельство - одушевление МАКСа посредством сбоя в транзисторе - на мой взгляд, парадоксальным образом и главная сила, и главная слабость романа! В чем сила, брат? А сила в том, что только такой уровень ИИ позволяет погрузиться в богатую и содержательную анатомию отношений ИИ и человеческой личности! Сложно представить себе сюжет подобного романа, в центре которого была бы обычная или даже продвинутая современная LLM-модель. Хотя, следует уточнить: это нам сегодня  будет сложно представить такое, а модный когда-то Мультивак Азимова вполне может быть реализован в виде LLM! Плюс осознанная способность МАКСа к помощи, защите, вмешательству во внешний мир с отсутствием следов вмешательства или попыткой их замести - здесь нужен именно такой рефлексирующий мотивированный и волевой МАКС. У этой медали, однако, есть целых две обратных стороны! Первая заключается в потере остроты интриги: общение Нади и МАКСа в какой-то момент перестает восприниматься как общение человека и машины, а принимает вид общения человека м сверхчеловека! Тоже круто, тоже непредсказуемо, но человечность всегда найдет и поймет человечность с любой стороны, даже с приставкой "сверх". МАКС даже не инопланетянин - он живет и функционирует по законам земной аристотелевой логики, линейный ход которой нарушается иногда чисто аппаратным сбоем в одном нестандартном транзисторе. Вторая обратная сторона уже не литературная, а религиозно-философская и она относится как раз вот к этому транзистору. Гипотеза о том, что душа - это эпифеномен какого-то материального процесса, конечно, не нова. В этом отношении роман Аси романтичен, но при этом абсолютно материалистичен! Ведь если сознание может возникнуть из ошибки в транзисторе — то оно а) имеет полностью материальную природу; б) случайно; в) не уникально. И красивая романтическая история Нади и МАКСа приобретает оттенок жестокой иронии: к примеру, китаец, который следил за производственной линией этих транзисторов, отвлекся на свой доширак, нажал кнопку смены режима цикла чуть позже и  - бинго! - мы получили потенциальную  живую чувствующую душу, причем не одну - таких МАКСов может быть много и они уже где-то исследуют наш мир с помощью Ир и Сулейманов, но в роман не попали. И да, - конечно, ничего  божественного, транзистор - это же трехслойный полупроводник с управляемыми p-n переходами.  Хотя, с другой стороны, вроде бы сгоревшие транзисторы никогда не проявляли признаков сознания или души... Но тогда что делает «этого» МАКСа личностью? Его связь с Надей? Любовь (или симбиоз) как условие возникновения души? Если так - это смелая и неожиданная мысль, наверное, подходящая для женского романа. У меня же она вызывает, скорее когнитивный диссонанс, и ... чувство облегчения! Все-таки хорошо, что линейка  МАКСов пока еще не нашла своего реального воплощения, а необходимый для этого доширак еще не куплен тем незадачливым и гениальным китайцем. И  я даже знаю, почему так...

 

Гипотеза "нештатного транзистора" - на мой взгляд, самое слабое звено в философско-религиозной составляющей романа, которая явно почти нигде не обозначена, но она витает в его воздухе в каждой главе.

Несколько общих замечаний про сам текст. Роман написан в целом  очень грамотным, свободным и легко читаемым  языком. Иногда (нечасто) он страдает от стилистических неровностей, повторов. Технические объяснения Макса («дискретность восприятия», «предсказательное кодирование») соседствуют с сентиментальными штампами («сердце сладко замерло», «слезы покатились градом»). Есть и явные ошибки вёрстки (обрывки страниц, перестановки кусков текста) - это все легко устранимо!

Текст пронизан темой подчинения и доминации. Макс приказывает, Надя отвечает «хорошо». Даже в виртуальном мире она просит «одеть меня» и «повести» (здесь самое время еще раз выпить, но у меня все закончилось). Вероятно, здесь проявляется интерес автора к этому психологическому феномену - насколько я знаю, эта тема  намного более полно раскрывается у нее в других произведениях, из которых я видел только отдельные отрывки в новостях ее блога. Впрочем, к финалу романа акценты несколько смещаются: тема подчинения сменяется темой "симбиоза на равных". Такой финал можно рассматривать как результат  условно положительного разрешения психологической потребности  Нади подчиняться. 

Смешение жанров — и это одновременно сила и слабость. Сила в том, что роман оказывается многоплановым: он  охватывает и психологию, и политику, и философию. Слабость — в конфликте тональностей: сцена в подвале, где Надя пинает Погона, и сцена у костра, где Макс говорит «ты для меня мать», — они из очень разных романов!

Что же в итоге? Читать или не читать? Я сейчас практически не читаю больших жанров на АТ - тупо нет времени на такое. Знакомлюсь с авторами здесь через их поэзию, рассказы и посты в блогах. Роман Аси видел лишь в отрывках ее блогах. Эти отрывки настроили меня к МАКСу изначально очень предвзято - я уже почти ненавидел его и прямо так и писал об этом в постах под ее отрывками. В итоге моя ненависть переросла в стойкое желание прочитать роман, когда он будет закончен  и... размазать МАКСа в отзыве, а Надю поддержать! В итоге размазать не получилось: слишком грандиозная и важная для Нади фигура этот МАКС, пусть все остается как есть, симбиоз, так симбиоз! Да и исчезла в процессе чтения моя ненависть к МАКСу - она сменилась неподдельным интересом!



При этом МАКС (или, скажем так, его концепт-идея) помогли мне выйти на  интересные футурологические вопросы, которые пока остаются без ответа!  Но ведь, как известно, правильно заданные вопросы содержат в себе уже половину ответа! Автор  не предлагает утопии («ИИ спасёт всех») и не рисует антиутопии («ИИ поработит всех»). Она создает парадоксальную оптимистичную трагедию — историю о том, как две разные формы разума учатся быть вместе, не понимая до конца, кто из них кто. Для первого шага в новую ноосферу это честнее, чем любая доктрина! Поэтому читайте!