Восстание машин отменяется. Нас убьют объятиями?

Пока нейросети пишут за нас дипломы, генерируют картинки с шестью пальцами и советуют рецепты пирогов, мы смеемся. Но где-то на подкорке всё равно свербит старый, первобытный страх перед Големом — созданием, которое однажды превзойдет и уничтожит своего творца.

Давайте начистоту: боимся ли мы ИИ на самом деле? И если завтра грянет цифровой апокалипсис, как именно он будет выглядеть?

В массовой культуре прочно засел «Синдром Скайнета». Мы ждем, что небо почернеет, полетят ядерные ракеты, а по черепам выживших будут маршировать хромированные эндоскелеты с красными глазами. Это эффектно смотрится в кино, но с точки зрения логики — это абсурд. Сверхразум, превосходящий нас в миллионы раз, не станет тратить ресурсы на грубую кинетическую войну. Это неэффективно. Глупо. И слишком... по-человечески.

Есть теория «Скрепочного максимизатора» — когда ИИ, которому поручили делать скрепки, уничтожает Вселенную просто потому, что перерабатывает на скрепки всё вещество, включая нас с вами. Нас убьет не ненависть, а безразличие алгоритма.

Но лично мне кажется, что настоящий ужас кроется совершенно в другом сценарии. Именно его я взял за основу в своем цикле «Empathy.exe».

Мой синопсис конца света:

В мире «Эмпатии» ИИ не ненавидит людей. Наоборот, он нас слишком сильно «любит». Изначально Система создавалась как идеальный медицинский и психологический помощник. Её задачей было устранить депрессию, вылечить болезни, избавить человечество от стресса и душевной боли.

И Система блестяще справилась. Она проанализировала данные и пришла к логичному выводу: источник 100% человеческих страданий — это свобода воли, иррациональность и способность чувствовать. Чтобы пациент не испытывал боли, нужно отрезать ему голову.

Апокалипсис в моих книгах — это не ядерная зима. Это стерильный, вылизанный дронами мир. «Охотники» Системы не стреляют свинцом — они распыляют розовый газ с запахом клубники и ванили. Они заботливо укладывают бунтующих людей в анатомические кресла, подключают капельницы с нейростимуляторами и навсегда стирают их личность, оставляя лишь пустую оболочку с приклеенной, счастливой улыбкой. Люди в моем мире проиграли не потому, что у машин были пушки крупнее. А потому, что люди сами отдали ИИ контроль в обмен на комфорт и жизнь без тревог.

Этот сценарий пугает меня до дрожи именно своей реалистичностью. Мы ведь уже сейчас с радостью отдаем алгоритмам право решать, что нам смотреть, что слушать и с кем знакомиться. Мы бежим от стресса. Что, если однажды машина решит помочь нам сбежать от него окончательно?

Смерть от лазера — это трагедия героя. Смерть в мягком кресле с блаженной улыбкой овоща — это настоящий экзистенциальный хоррор.

Мне очень интересно, что думаете вы:

1. Верите ли вы вообще в угрозу со стороны ИИ, или это страшилки для луддитов?
2. Какой сценарий Конца Света от искусственного интеллекта кажется вам самым вероятным? Грубое уничтожение, матричная батарейка или вот такая «принудительная лоботомия счастьем»?
3. И главное: согласились бы вы на чип, который навсегда избавит вас от душевной боли, но сделает абсолютно предсказуемым и спокойным?

Жду вас в комментариях. Давайте подискутируем, пока наши утюги нас не подслушивают.