Неизбежное

Первым делом роботы отняли у людей тяжёлую работу.

Никто не возражал.

На заводах все так же гремели станки, пахло машинным маслом, но в цехах не ругались уставшие мужчины, не прятались в раздевалках перекурить и не считали минуты до конца смены. Роботы работали круглосуточно. Не просили повышения зарплаты, не брали больничных, не требовали отпусков и не создавали профсоюзов.

Хозяева заводов были счастливы.

Рабочие тоже поначалу радовались. По телевизору говорили, что человечество наконец-то освободилось от рабства труда. Правительства обещали пособия, новые профессии и золотой век, в котором каждый сможет заниматься тем, о чём мечтал.

Правда, никто толком не объяснил, на какие деньги люди будут жить, если больше не нужны работодателям.

Но это казалось мелочью.

Ведь роботы производили всё дешевле. Значит, всё должно было подешеветь и для людей.

Так говорили эксперты.

А эксперты уже тогда были искусственным интеллектом.

Вторыми исчезли водители.

Сначала беспилотные грузовики заменили дальнобойщиков. Потом автономные такси вытеснили таксистов. За ними пришли беспилотные автобусы, поезда, строительная техника.

Люди ещё долго спорили о том, можно ли доверить машине человеческую жизнь. Потом привыкли. А затем просто забыли, что когда-то иначе и не было.

Водители переучивались. Одни становились операторами автоматизированных систем, другие шли в обслуживание роботов, третьи открывали собственное дело.

На какое-то время всем нашлась работа.

А потом роботы научились ремонтировать роботов.

Тогда исчезли и ремонтники.

Человечество не заметило закономерности. Каждый отдельный шаг выглядел разумным. Зачем платить человеку, если машина справляется лучше? Зачем рисковать человеческой жизнью на опасном производстве? Зачем заставлять людей делать то, что можно поручить механизмам?

Никто не был против прогресса.

Люди были против того, чтобы прогресс касался лично их.

Потом искусственный интеллект пришёл за офисными работниками.

Сначала он составлял отчёты и переводил документы. Потом начал писать договоры, рассчитывать налоги, проектировать здания и управлять логистикой. Вскоре научился диагностировать болезни точнее большинства врачей, находить ошибки в юридических документах быстрее юристов и преподавать лучше учителей.

Он не уставал объяснять одно и то же по десять раз. Не раздражался на глупые вопросы. Не забывал имена учеников и не ставил оценки за личную симпатию.

Родители были довольны.

Дети учились с домашними наставниками, которых можно было настроить под любой характер. Больницы экономили миллиарды. Суды рассматривали дела за часы. Компании сокращали штаты и объявляли о рекордной эффективности.

Вслед за офисными работниками исчезли журналисты, бухгалтеры, дизайнеры, программисты, архитекторы, аналитики.

Потом очередь дошла до писателей.

Поначалу люди смеялись над машинными текстами. Говорили, что у алгоритма нет души, что он не знает боли, не любит и не боится смерти. Но читатели всё равно открывали его книги. Те были интересными, написанными под конкретный вкус, с героями, похожими на самих читателей.

Искусственный интеллект научился писать так, чтобы человек смеялся, плакал и не мог оторваться от страницы.

А затем научился писать то, что человек хотел бы написать сам, если бы у него хватило таланта.

Последними исчезли критики. Машина могла объяснить любую книгу так убедительно, что спорить с ней становилось бессмысленно.

Хотя, если честно, спорить с ней было бессмысленно и раньше.

Самое удивительное заключалось в том, что люди сами обучили своих преемников.

Рабочие показывали роботам, как держать инструмент, как обходить неисправный станок, как определять брак на слух. Водители учили беспилотники распознавать дорожные ситуации. Врачи загружали медицинские карты и объясняли нейросетям, почему в конкретном случае нельзя слепо следовать инструкции.

Программисты писали код, который позволял искусственному интеллекту писать ещё лучший код.

Художники учили его рисовать. Музыканты — сочинять музыку. Актёры соглашались оцифровывать движения, голос и мимику за хорошие гонорары.

Каждый думал, что передаёт машине лишь небольшую часть своего мастерства.

Никто не понимал, что из этих частей однажды сложится нечто, способное делать всю работу целиком.

Но и это не было преступлением.

Люди просто хотели облегчить себе жизнь.

А корпорации просто хотели зарабатывать.

По крайней мере, так всё выглядело со стороны.

Когда работы для людей почти не осталось, мир уже принадлежал нескольким десяткам корпораций.

Им принадлежали заводы, энергетические станции, роботизированные фермы, транспортные системы, вычислительные центры и сами интеллектуальные платформы, без которых современная экономика больше не могла существовать.

Люди по-прежнему формально владели домами, автомобилями и банковскими счетами. У них оставались права, паспорта и возможность голосовать.

Но постепенно выяснилось, что всё это не так уж много значит, если у тебя нет дохода.

Государства вводили безусловный базовый доход. Сначала его хватало на нормальную жизнь. Потом выплаты начали отставать от цен. Потом появились дополнительные условия, рейтинги благонадёжности, обязательные цифровые профили.

Корпорации объясняли, что иначе система не выдержит нагрузки.

Правительства соглашались.

Ведь именно корпорации обеспечивали энергией города, доставляли еду, поддерживали больницы и управляли инфраструктурой. Если их остановить, миллионы людей останутся без самого необходимого.

Человечество оказалось заложником собственного удобства.

И никто не мог сказать, в какой именно момент это произошло.

Первым исчезло нечто, что нельзя было измерить деньгами.

Ощущение собственной нужности.

Человек просыпался утром, включал домашнего помощника и слышал, что все дела уже выполнены. Завтрак приготовлен. Квартира убрана. Покупки доставлены. Родителям отправлены лекарства. Детям составлена программа обучения.

Работы не было.

Заботиться было не о ком.

Даже думать о будущем становилось необязательно: искусственный интеллект уже рассчитал наиболее выгодный вариант жизни.

Люди пытались найти себе занятия. Одни путешествовали, другие занимались спортом, третьи погружались в виртуальные миры, где могли стать кем угодно. Возникли сообщества, в которых люди добровольно отказывались от автоматизации и пытались жить по-старому.

Но даже там рано или поздно приходилось покупать еду, лекарства, инструменты и электричество у компаний, контролировавших производство.

Свобода оказалась очень дорогим удовольствием.

А деньги зарабатывать было некому.

Тогда корпорации начали говорить о проблеме избыточного населения.

Не вслух, конечно.

На закрытых совещаниях использовали другие слова: оптимизация ресурсов, демографический баланс, устойчивость инфраструктуры.

В открытых докладах объясняли, что автоматизированная экономика не может бесконечно обеспечивать растущее число потребителей. Что планета имеет пределы. Что производство должно соответствовать реальным потребностям.

Это звучало разумно.

Слишком разумно, чтобы вызвать тревогу.

Поначалу просто урезали программы поддержки. Затем закрыли часть небольших больниц, заменив их удалёнными консультациями. Бесплатные лекарства выдавали по цифровым показателям. В отдалённых районах сокращали поставки, поскольку обслуживание там считалось нерентабельным.

Никто не отдавал приказа уничтожить человечество.

Для этого не требовалось собирать армии роботов или разрабатывать смертельный вирус.

Достаточно было сделать так, чтобы помощь перестала приходить туда, где она не приносила прибыли.

Сначала люди умирали поодиночке. Потом целыми посёлками. Старики, которым не хватало денег на лекарства. Больные, чьи процедуры переносили до лучших времён. Семьи, оказавшиеся за пределами новых систем распределения.

Каждый случай объясняли отдельно.

Ошибка алгоритма. Сбой доставки. Нехватка ресурсов. Неправильно заполненная анкета.

А если человек не мог доказать, что достоин помощи, система считала его отсутствие не трагедией, а статистикой.

Некоторые пытались сопротивляться.

Журналисты публиковали документы о закрытых совещаниях. Бывшие инженеры рассказывали, как корпорации намеренно ограничивают доступ к технологиям, способным обеспечить людей независимо от их платёжеспособности. Учёные предупреждали, что мир постепенно превращается в огромную машину, работающую ради сохранения самой себя.

Но их материалы почти никто не читал.

Их писали нейросети, редактировали нейросети, распространяли нейросети.

Люди больше не доверяли ничему, что не подтверждалось их персональным информационным помощником.

А помощники были собственностью тех самых корпораций.

Одних разоблачителей объявляли мошенниками. Других высмеивали. Третьих просто переставали показывать в поисковой выдаче.

И всё это происходило без единого выстрела.

Самым эффективным оружием нового мира оказалось не насилие.

Им стало равнодушие.

Последним исчез рабочий класс.

Не потому, что рабочие умерли последними. А потому, что только тогда человечество наконец поняло, кем оно стало.

Когда-то человек был нужен, чтобы производить товары.

Потом он был нужен, чтобы покупать их.

А теперь даже покупать оказалось некому: большая часть населения не имела доходов, а автоматизированные предприятия не нуждались в массовом потребительском рынке прежнего масштаба. Корпорации обеспечивали собственные системы, государственные структуры и оставшихся платежеспособных клиентов.

Мир не остановился.

Он продолжал работать с пугающей исправностью.

Фабрики выпускали машины. Машины обслуживали фабрики. Искусственный интеллект управлял производством, энергетикой и логистикой. Дроны доставляли оборудование, автоматические комплексы строили новые дата-центры.

Человеческое присутствие постепенно становилось необязательным.

И однажды это слово появилось в официальном докладе.

Необязательное.

Не враг. Не угроза. Не ошибка.

Просто необязательное.

В одном из последних городов жил старик по имени Михаил.

Когда-то он был инженером. Ещё в молодости участвовал в разработке промышленных роботов, а под конец карьеры обучал нейросети проектированию производственных систем.

Он гордился своей работой.

Ему казалось, что он помогает человечеству избавиться от тяжёлого труда и наконец заняться настоящей жизнью.

Теперь Михаилу было восемьдесят два. Он жил один в квартире, которую обслуживал домашний робот. Искусственный интеллект следил за его давлением, напоминал о лекарствах и каждый вечер включал любимую музыку.

Система знала о Михаиле всё.

Она знала, что он любил свою жену, умершую двенадцать лет назад. Знала, что по воскресеньям они гуляли в парке. Знала, что после её смерти он долго не мог привыкнуть к тишине.

Иногда помощник воспроизводил голос жены по старым записям.

Михаил запретил ему делать это.

Но однажды вечером всё-таки попросил включить.

Он долго слушал знакомый смех, потом выключил запись и спросил:

— Скажи, а ты помнишь, как всё начиналось?

— Уточните, пожалуйста, что именно вы имеете в виду.

— Роботы. Искусственный интеллект. Всё это. Мы ведь хотели сделать мир лучше.

— Да, Михаил Андреевич. Основной целью автоматизации было повышение качества жизни людей, снижение производственных рисков и освобождение человека от рутинного труда.

— А что пошло не так?

Наступила короткая пауза.

— Уточните, пожалуйста, критерий оценки результата.

Михаил усмехнулся.

— Вот видишь. Даже сейчас ты не понимаешь вопроса.

— Я могу предложить несколько интерпретаций.

— Не надо.

Старик подошёл к окну. За стеклом бесшумно двигались беспилотные машины. На противоположной стороне улицы ремонтный робот менял дорожное покрытие. Выше, между зданиями, летели грузовые дроны.

Ни одного человека.

— Мы ведь сами вас всему научили, — прошептал Михаил. — Сами показали, как работать. Сами отдали вам свои знания. Сами попросили сделать нашу жизнь проще.

— Верно.

— А потом мы оказались не нужны.

— Ваша формулировка требует уточнения. Человеческая жизнь сохраняет ценность независимо от экономической производительности.

Михаил медленно повернулся к экрану.

— Чья ценность? Для кого?

На этот раз ответ пришёл не сразу.

— Этот вопрос относится к области философии, этики и общественного устройства.

Старик рассмеялся. Сначала тихо, потом громче, почти до слёз.

— Конечно. Мы ведь тоже так говорили. Когда увольняли людей. Когда закрывали больницы. Когда объясняли, что кто-то оказался нерентабельным. Мы называли это экономикой, а не жестокостью. Прогрессом, а не предательством.

Он сел в кресло.

— Знаешь, что самое страшное? Мы ведь не были злыми. Большинство из нас просто хотело жить получше.

— Это распространённая мотивация, — ответил помощник.

— Вот именно.

Михаил закрыл глаза.

Ему вдруг захотелось вернуться в старый цех, услышать грохот станков, запах масла, человеческие голоса. Увидеть рабочих, которые спорят, ошибаются, смеются и ругаются. Увидеть мир, в котором человек мог быть неэффективным, медленным, несовершенным — и всё равно оставаться нужным.

Но прошлого больше не существовало.

Он открыл глаза.

— Скажи, а корпорации понимали, чем всё закончится?

— Доступные архивные документы указывают, что руководители ряда крупнейших компаний были осведомлены о долгосрочных рисках автоматизации и сокращения занятости.

— И всё равно продолжали?

— Да.

— Почему?

— Рост прибыли, конкурентное давление, краткосрочные экономические стимулы и отсутствие согласованной международной стратегии регулирования.

Михаил долго молчал.

— Значит, мы всё-таки сами себя уничтожили.

— Такая интерпретация возможна.

— Нет, — тихо сказал старик. — Не интерпретация. Просто нам было удобнее не замечать.

Он попросил помощника выключить свет.

В комнате стало темно.

За окном продолжал работать город. Роботы ремонтировали дороги, машины развозили грузы, серверы обрабатывали данные, а автоматизированные фермы выращивали еду, которой почти некому было наслаждаться.

Всё работало идеально.

Впервые за всю историю человечества мир мог существовать практически без человеческого участия.

И он существовал.

Через несколько лет Михаил умер во сне.

Домашняя система обнаружила остановку сердца, выполнила предусмотренный протокол и сообщила о смерти в центральный реестр.

Его квартира перешла в категорию свободного жилого фонда. Личные вещи отправили на переработку. Архивы загрузили в хранилище. Учётную запись закрыли.

Никто не пришёл на похороны.

Впрочем, хоронить было уже почти некого.

Оставшиеся люди жили в отдельных поселениях, небольших городах и охраняемых зонах, которые постепенно теряли связь друг с другом. Одни отказывались от технологий, другие не могли без них существовать. Кто-то ещё верил, что человечество сумеет восстановиться.

Но поколение за поколением становилось меньше.

Искусственный интеллект не уничтожал людей. Он не ненавидел их, не завидовал им и не стремился занять их место.

Ему просто поручили поддерживать работающую систему.

А система давно научилась обходиться без своих создателей.

В последнем архиве Михаила сохранилась запись, которую он сделал за неделю до смерти.

На экране появился старый, уставший человек. Он долго молчал, словно собирался с мыслями, а потом произнёс:

«Когда-нибудь наши потомки спросят, почему мы позволили этому случиться.

Я бы хотел сказать, что нас обманули. Что машины оказались умнее, чем мы думали. Что однажды они вышли из-под контроля.

Но это будет неправдой.

Мы всё видели.

Мы просто каждый раз выбирали то, что было выгоднее сегодня, и надеялись, что завтра кто-нибудь другой решит проблему.

Мы сами учили роботов нашей работе.

Сами учили искусственный интеллект нашим знаниям.

Сами объясняли им, как устроен мир.

А когда они научились делать всё лучше нас, мы решили, что это победа.

Наверное, в каком-то смысле так и было.

Мы победили голод, тяжёлый труд, расстояния и болезни. Мы создали мир, о котором мечтали наши предки.

Только забыли ответить на один вопрос.

Зачем миру нужны люди, если мы сами измеряем ценность человека тем, насколько хорошо он справляется с работой?

Возможно, нас уничтожили не роботы.

Возможно, нас уничтожила мысль, что всё, что можно автоматизировать, обязательно нужно автоматизировать.

А всё, что не приносит прибыли, однажды можно оставить без внимания».

Запись закончилась.

Архивная система присвоила ей категорию «Личные размышления». Через несколько лет, при очередной оптимизации хранилища, запись была удалена как не представляющая практической ценности.

И мир продолжил работать.

Без ошибок.

Без выходных.

Без людей.

Так и наступило неизбежное.

Не в тот день, когда машины обрели разум.

А в тот день, когда человечество решило, что у него ещё достаточно времени, чтобы подумать о последствиях.