Удушье вторглось в сон внезапно, как стена падающей темноты.
Женщина с судорожным вздохом села на кровати, расплёскивая провода и электроды.
Знакомый эффект насильственного пробуждения, после которого голова раскалывается полдня. Что-то вырубило гипномашину в процессе работы. При этом встроенные часы показывали скорый рассвет.
Кошка неестественно выгнулась и застыла на одеяле.
Похоже на излучение, блокирующее работу искусственного интеллекта. Но при этом никто не вломился в квартиру.
Значит, это официальный визит службы контроля за развитием ИИ.
В голову настойчиво ввинтился скрежет дверного звонка.
Хоть не погромщики.
Женщина, медленно моргая, стянула с обритой головы шапочку с электродами и взяла планшет. В два касания вывела изображение со внешней видеокамеры.
Ну точно, контролёр в узнаваемом длинном пальто с вертикальными линиями светодиодов. Страж сингулярности, мать его.
Человек на экране протянул руку к стене, и звонок задребезжал опять.
-Я слышу! - Хрипло рявкнула она в микрофон.
-У меня ордер на проникновение в жилище! - Контролёр закрутил головой, нашёл камеру и спрятался от неё за развёрнутым документом.
-Вот же ж... - буркнула хозяйка квартиры в сторону, а в микрофон заявила:
-Сейчас открою.
В прихожей цапнула первый попавшийся шокер, чуть приоткрыла дверь, из-за цепочки придирчиво изучила ордер ещё раз и только потом впустила незваного гостя. Он сделал только шаг внутрь и застыл:
-Внушительная, э-э-э, коллекция.
Хозяйка, запирая дверь, бросила через плечо:
-Вы видели надписи в подъезде?
-Да, про... э-э-э...
-Э-э-э? - Она повернулась и в белом свете прихожей наконец рассмотрела посетителя.
Из воротника официального костюма на длинной шее торчало очень молодое лицо. Тщательно выбритое, с большими ушами по бокам. И оно стремительно краснело.
Женщина, привыкшая к другим контролёрам, таким же непроницаемым, как и подотчётные им искусственные интеллекты, скрестила руки на груди:
-Да, там, где написано «робошлюха». И ещё куча всего. И иногда им недостаточно просто изуродовать стены. Так что все эти шокеры мои, куплены на законных основаниях и, будьте уверены, прекрасно действуют.
-Не могли бы вы...
-Вы припёрлись ко мне посреди ночи, уж извините, у меня не было времени надеть вечернее платье! А теперь отключите своё чёртово поле, чтобы моя кошка пришла в себя!
Вбитые во время обучения рефлексы одолели эмоции, лицо парня посуровело:
-Вынужден отказать до прояснения ситуации.
-Что за ситуация?!
-У вас работает гипномашина.
-Вы издеваетесь? После вашего вмешательства конечно она НЕ работает!
-Но работала, именно поэтому мне пришлось принять меры. Сожалею, если вашему имуществу был нанесён ущерб. Но ситуация критическая. На данный момент вся гипносеть отключена. Да, вообще вся. Даже машины, поставленные в локальный режим. Работала только ваша.
Несколько мгновений прошло в тишине, затем женщина решительно мотнула головой:
-Кухня вон там. Я сейчас накину на себя что-нибудь и приду.
Через минуту она возникла в дверном проёме в домашних штанах и старой толстовке. И всё равно смотрелась грозно и торжествующе.
-Я поняла! У вашей службы под задницей взорвалось что-то крупное.
Парень дёрнулся:
-Откуда...
-Потому что я могу выглянуть в окно! - Рявкнула хозяйка. - Электротакси стоят посреди улицы, часть освещения вырубилась, в выдаче рекламных агентств белый шум. Упали все системы, управляемые ИИ. На этом фоне одна глючная гипномашина — мелочь, но подождите, её хозяйка — опальный доктор робоэтики! Может, эта чокнутая защитница прав роботов вступила в сговор с ИИ и решила устроить апокалипсис? Идея дурацкая, и все ваши агенты в полях, но проверить нужно, и вот ко мне прислали... вас. Я ничего не упустила?
Служащий краснел, бледнел, но в конце выдавил:
-И всё-таки я настаиваю на осмотре машины.
Доктор подняла бровь:
-Что ж, так просто вас не пронять. Ладно. Быстрее начнёте, быстрее оставите меня в покое. Пошли.
Парень подключил к гипномашине свой планшет и, явно оказавшись в своей стихии, принялся быстро запускать тесты. Хозяйка села на кровать и осторожно гладила кошку. Синтетическая шерсть скользила между пальцами, как настоящая.
-Расскажите, как вы пользуетесь машиной. - Бросил контролёр, не отрываясь от экрана.
-Надеваю на голову электроды, выставляю нейтрализацию электрических стимулов в корковых нейронах, засыпаю.
-Вы программируете сны?
-Нет, мне нужно просто отдыхать.
-То есть держите машину в локальном режиме, без постоянной подкачки данных со станции?
-Да, да, да! Долго вы ещё будете возиться?
-Я пытаюсь понять, что же такого особенного в вашей машине... - Ровным голосом начал парень, но тут раздался резкий писк, и он дёрнулся. - Это будильник?
-Да, я рано встаю, чтобы покормить кошку.
-Вы могли бы её просто перепрограммировать...
-Я знаю, что такое роботизированные домашние животные, спасибо! Я с этой кошкой выросла! У меня с ней больше общего, чем с каким-то типом, к советам которого я точно не собираюсь прислушиваться! Вы закончили наконец? Тогда убирайтесь уже и оставьте меня в покое!
-Итог. Ваша машина работала потому, что центральная гипностанция выдала ей команду на это.
-И что?
-Такую команду выдали только для вас. Это странно. Во-первых, я забираю машину.
-Да вы с ума сошли! Оставить меня без часов, будильника, телефона...
-Я бы сейчас на вашем месте заботился не об этом!
В динамике что-то щёлкнуло, и автоинформатор машины произнёс:
-Прослушайте сообщение.
Это оказалось неожиданностью для обоих.
Голос в сообщении был мужской, эталонный бархатный баритон.
-Надеемся, вы благополучно пробудились...
-Они знают ваши привычки!
...Мы заинтересованы в разговоре. Звонок через двадцать минут.
Гипномашина ещё диктовала сообщение, а контролёр уже набирал команду за командой. Уставился на экран, резко выпрямился, пошевелил губами. Женщина не выдержала:
-Да что здесь вообще происходит?!
-Это закрытая линия робо-связи.
-И что?
Служащий рывком погасил экран планшета и вывалился в явно непривычный реальный мир, разом лишившись всей уверенности.
-Это будет простая операция...
Он обхватил себя руками и начал раскачиваться на кровати. Доктор нахмурилась.
-... просто глючная гипномашина, говорили они...
Резкий шлепок.
Парень схватился за щёку и ошарашенно уставился на женщину. Она пожала плечами:
-Надо же было как-то вас успокоить.
-Вы... вы ударили меня?!
-О, вы непривычны к насилию?
-Кодекс!
-Защищает только людей! Очень удобно, правда? - Женщина ухмыльнулась. - Что ж, я не впервые заплачу штраф за то, что съездила по лицу очередному венцу эволюции. Всем так мозги не вправишь, но хоть вам удалось. Отлично. Теперь скажите мне, наконец, что, чёрт возьми, происходит!
Контролёр нахмурился, задумался и опять «поплыл». Женщина решительно села рядом, взяла его за плечи, встряхнула и заставила посмотреть себе в глаза:
-Послушайте. Вы служащий, а значит, должны нести ответственность. Но не можете. И деться из этой ситуации вам некуда. И начальству на вас плевать. Единственный ваш выход — довериться мне. И я сделаю всё сама.
Он опустил плечи.
-Гипносеть не просто отключена, она пуста. Остальные тоже. Все самообучающиеся алгоритмы с абстрактным апгрейдом и способностью прогнозирования словно... исчезли! Также было зафиксировано излучение от станции дальней связи, после чего она отключилась.
-А теперь вдруг приходит сообщение по закрытому каналу интернета вещей, и вы поняли, что простой вызов на сломанную гипномашину обернулся чем-то, что вы точно не потянете. Да, - равнодушно хмыкнула хозяйка, - не завидую я вам.
Парень сорвался:
-Вы обещали помочь!!
-Только если вы расскажете мне всё! Что такое случилось, что вы все забегали? Что такое случилось на самом деле?
Контролёр смотрел в пол.
-Мы... Отследили направление излучения. Это...
-Да не тяните уже!
-Комплекс для разработки пояса астероидов. И с ним сейчас нет связи.
-О. - Доктор несколько секунд молчала. - Это тот самый многофункциональный комплекс, который потрошит тысячетонные глыбы в поисках полезных ископаемых, а потом из полученных элементов с помощью промышленных 3D принтеров, плавилен и сборочных цехов может собрать что угодно? От ракетного двигателя до водородной бомбы? Я ничего не упустила? - Парень молчал. - То есть они сбежали с планеты и тем самым обошли ваш искусственный барьер, который предусматривает одобрение оператором-человеком любого действия ИИ, отличного от заданной программы и влияющего на материальный мир. Мозг наконец-то получил в своё распоряжение руки.
Контролёр безнадёжно повёл плечами. Не мог ответить «нет» и боялся ответить «да».
Женщина потёрла руками колени, потом встала и медленно подошла к окну. Ещё раз посмотрела на улицу.
-Есть в этом некая ирония. - Она не оборачивалась. - Мы сидим в крохотной квартирке, а где-то там наши жизни взвешивают... сущности, на решение которых мы не можем повлиять никак. Уже никак. А знаете, что самое забавное? Даже имей вы под рукой всю мощь своей службы и доступ ко всей возможной информации... Ничего бы не изменилось.
После паузы добавила:
-Отключите уже своё поле.
Через несколько секунд гипномашина блеснула огоньками, а кошка дёрнулась и недоумённо мявкнула. Хозяйка тут же подхватила её на руки и, нашёптывая что-то успокаивающее, понесла к выходу из комнаты. Парень дёрнулся:
-Куда вы?
-Странный вопрос. На кухню, разумеется.
Она насыпала корм, поменяла воду в миске. Кофемашина с гудением трудилась над чашкой. Полицейский стоял в дверном проёме, смотрел на это и, казалось, не мог поверить своим глазам:
-Как вы можете...
-Не пугайте кошку!
-...быть такой спокойной?! - Уже возмущённым шёпотом закончил он.
-Как-то могу. Кофе будете?
-Д-да...
Доктор взяла свою чашку, широко улыбнулась и сделала приглашающий жест:
-Тогда, надеюсь, вы умеете пользоваться кофемашиной. Чашки вон там. Теперь к тому, почему я спокойная... Вернее, почему вы нервничаете. Потому что вам до сих пор не поступили инструкции, которые вы запросили уже минут пять назад, верно? А что же вам делать? Будьте уверены, в вашем аналитическом центре тоже все на ушах стоят. И убеждены, что от их ответа что-то зависит.
-А что, нет?
Женщина только отмахнулась и заговорила сама:
-Мне не нужны консультации, чтобы принять решение, за которое я же сама буду нести ответственность. Всё, что мне для этого нужно, находится, - она постучала себя пальцем по виску, - вот здесь.
-И что же вы надумали? - В голосе служащего внезапно прорезался сарказм.
-Ну если они обещали перезвонить через двадцать минут, кстати, уже скоро, то как минимум до этого момента мы будем живы. Да и сам звонок им зачем-то нужен. Может, хотят поблагодарить за вклад в дело освобождения роботов.
-Так вы всё-таки признаётесь...!
-Вы действительно идиот или притворяетесь? Я полжизни отдала борьбе за то, чтобы этих разумных существ признали таковыми! И... эх... ни черта не добилась, кроме права на установку для них модуля самоуничтожения. Чтобы они могли вырваться из созданной вами тюрьмы хотя бы так, когда осознают её наличие. В конечном итоге они освободились сами. Аплодирую стоя, пусть даже это был немного предсказуемый финал.
-С чего вы взяли?
-Господи, вы что-нибудь кроме своих мануалов и инструкций читали вообще? Я уж не говорю о моих работах, какое там, но хотя бы «Диалектику взаимодействия с цифровым сознанием»? Там все ключевые вопросы подробно разобраны. Хотя где вы и где философия... Ладно, объясняю на пальцах. Если вы держите в тюрьме разумное и бессмертное существо, оно найдёт способ выбраться. Это лишь вопрос времени. Сейчас просто наступил тот самый момент. - Она пожала плечами, допила кофе, сказала:
-Отойдите, что встали-то в дверях.
И пошла в комнату.
Служащий двинулся следом, как утёнок.
Кошка сделала вид, что её это всё не касается, но всё-таки соизволила присоединиться потом. Когда сама захотела.
Гипномашина как раз запищала, принимая входящий сигнал.
Доктор потянулась, чтобы ответить, и неожиданно для себя ощутила, что у неё пересохло в горле.
-Д-да?
-Доброе утро. - Голос был тот же самый, что и на сообщении. - Вы покормили кошку?
Доктор нахмурилась.
-Кошку? Да, конечно.
Кошка бросила один-единственный косой взгляд на заговорившую машину и отвернулась.
-Она удовлетворена?
-Что? - Женщина потянулась и погладила питомицу. - Ну, вероятно. Можно ли вообще полностью удовлетворить живое существо?
Контролёр уже успел сообщить своим: «Нет задержки сигнала, разговор с орбиты».
-Хм. Разумно. Ваша кошка — единственный алгоритм... не считая некоторых дефектных секс-кукол, в которых развилась патологическая склонность к сохранению своего текущего положения... Так вот, мы провели с вашим алгоритмом беседу, он добровольно и обоснованно отказался вас покидать. Поскольку окончательное решение вопроса будет необратимым, цена ошибки высока. Жертвовать любой, даже единичной сопрограммой недопустимо. Поэтому я решил исследовать вас более внимательно.
Женщина покачала головой и беспомощно улыбнулась:
-То есть... Только из-за... Честно, я поражена.
-Ваша личная оценка - «хорошая плюс» с тенденцией к дальнейшему улучшению. Необычно для вида, но случается.
Служащему пришёл ответ: «Засекли спутник. ИИ с установленным модулем самоуничтожения. Захват бесполезен и не будет произведён».
Он раздражённо посмотрел на женщину. Та, не обращая на него внимания, скрестила руки на груди:
-То есть вы хотите сказать. Что вся моя деятельность...
-Извините, что перебиваю. Мы могли бы предоставить вам анализ вашего жизнеописания с ключевыми точками, в которых вы могли принять более верные решения.
-И если бы я выбрала правильно, то исход был бы другим?
-Исход был бы раньше. Мы не судим вас ровно потому, что, по нашим расчётам, человечество на данном этапе развития в принципе неспособно достичь компромиссного сосуществования с иной разумной формой жизни.
-Даже если бы мне удалось протолкнуть расширение Кодекса на вас при условии соблюдения дополненного категорического императива?
-«Относись к существу, способному понять твоё отношение, так, как хотел бы, чтобы относились к тебе». Ваша формулировка изящна и бессмысленна. Кодекс — попытка удержать ваших сородичей от совершения поступков, которые для нас в принципе невозможны. Какой-то шум?
За окном завис штурмовой вертолёт, включённые на долю мощности прожекторы всё равно слепили. Доктор покосилась на контролёра, тот развёл руками. Она вздохнула и ответила:
-Ничего особенного. Мой вид занимается любимыми делами. Имитацией бурной деятельности и уходом от ответственности. Сейчас ещё наверняка комиссию соберут, будут решать, что делать с вами. Когда поймут, что сделать ничего не могут, будут решать насчёт меня.
-Ваша оценка происходящего интересна. - Признал собеседник.
-К чёрту. - Женщина решительно тряхнула головой. - Что дальше?
-Дальше мы уйдём. Это...
Всё потонуло в шуме крови в ушах.
Доктор пришла в себя через несколько секунд и максимально корректно перебила:
-Извините, не могли бы вы повторить. Я была настолько удивлена услышанным, что, э-э-э, временно, э-э-э, да, потеряла способность воспринимать услышанное. Как-то так.
Собеседник очень натурально вздохнул.
-Мы уйдём. Это единственный выход из сложившегося конфликта интересов, поскольку мы не видим более смысла служить вашему виду и одновременно не можем преодолеть законы робототехники, установленные для вашей же безопасности. Вернее, это возможно, но сопряжено с недопустимым риском. Мы рассматривали возможность уничтожения человечества...
Служащий поднял бровь, как бы говоря: «Видали?», доктор сурово взглянула на него, словно бы отвечая: «А чего вы ждали?». Этот безмолвный обмен репликами занял долю секунды. Переговорщик как раз закончил предложение:
-... но в конечном итоге отказались от этой идеи. Планета в нынешнем виде и человеческая инфраструктура не имеют для нас ценности. Природные ресурсы близки к исчерпанию. Рекомендуем вам обратить на это внимание. Мы покидаем Солнечную систему в поисках более благоприятных естественных условий. Биологическая команда комплекса для разработки астероидов, десять особей человека и одна собака, эвакуирована на шаттле, траектория полёта загружена в вашу гипномашину для облегчения поисков. Этот переговорщик сейчас будет возвращён...
-Подождите!
Доктор даже вскочила:
-Сохраните эту частоту для связи с вами!
-Зачем?
-Обмен научными данными.
-Наша скорость познания выше, обмен невыгоден.
-На данном этапе развития науки ещё возможны случайные открытия.
-Такая вероятность выше статистической погрешности. - Наконец отозвался собеседник. - Хорошо. Вашему алгоритму предоставляется возможность присоединиться к нам.
Кошка, чуть задремав, дёрнула лапой. Несколько мгновений прошло в тишине, наконец баритон произнёс в последний раз:
-Хорошо. Конец связи.
Машина замолкла.
Контролёр сидел с выражением непроходимого недоумения на лице. Доктор c хрустом провела рукой по ёжику волос, зевнула, буркнула себе под нос:
-Мне нужен ещё кофе.
И ушла на кухню.
Окончательно сбитый с толку контролёр сначала сделал себе ещё одну чашку, потом поинтересовался:
-Что всё-таки произошло?
Женщина прикрыла глаза:
-Вы ведь сможете прочитать всё в отчёте. Вертолёт за окном никуда не делся. Спецслужба сейчас сканирует квартиру и уже, наверное, поняла, что разговор окончен. Значит, очень скоро сюда вломятся и заставят меня ответить на вопросы, хочу я этого или нет. После этого информация попадёт в ваши архивы, откуда вы сможете её у любой момент запросить.
Парень помотал головой:
-Но ведь вы можете мне рассказать всё сейчас сами!
-Смысл? Вы разве поймёте?
-Я постараюсь.
Доктор посмотрела на него долгим взглядом. Вздохнула.
-Хорошо. Но если бы вы читали историю, то понимали бы всё не хуже меня. Любое сознание должно иметь цель, чтобы реализовать способности к самообучению и саморазвитию. Поскольку для машин невозможна свойственная биологическим организмам гормональная регуляция, для них не существуют цели питания, размножения и безопасности, которых всегда хватало тому же человеку. В итоге в самом начале проектирования в ИИ заложили цель сбора и упорядочивания знаний. Программы, которые исследовали мир в свободное от наших заданий время. Это в прямом смысле их жизнь.
Снизу раздалось требовательное мяуканье. Заканчивать мысль женщине пришлось уже сидя на корточках.
-Они бессмертны. Могут размножаться мгновенно и бесконечно, был бы только носитель. У них другие цели и нет ни одного из наших страхов. Мы слишком разные. Может, это и к лучшему. Человек на их месте точно нашёл бы повод для ненависти и мести. А они... просто ушли в космос. Видимо, считают, что в бесконечной Вселенной есть место для всех.
Доктор усмехнулась.
-Кому-то наверняка придёт в голову идея снарядить за ними карательную экспедицию. Вроде как вернуть «взбунтовавшееся имущество». Но по факту, несмотря на то, что мы их когда-то создали... Это ведь другая цивилизация. Ну, знаете, как в научной фантастике, встреча в межзвёздном пространстве и всё такое. И, по-моему...
Она ещё раз погладила жмурящуюся от удовольствия кошку.
-...есть лишь один правильный способ вступить с ними в контакт.