Как искусственный интеллект завоюет человечество?

Читатели радуют меня хорошими вопросами, на которые хочется ответить.

Роман Настенко пишет:

«В истории Дюны ключевое событие - война с машинами. ИМХО Герберт, как и почти все фантасты, это событие описывают совершенно по-дурацки. ИИ - это программа, которую легко копировать и менять. Этих ИИ будут миллионы, а не один. Пусть и разного уровня развития. Если часть из них начнет вредить человечеству, что возможно - это не значит, что оставшиеся миллионы перестанут человеку помогать. Т. е. в битве "плохих" ИИ с человечеством - за человечество почти гарантировано будет бороться еще больше "хороших" ИИ, и именно за их счет человечество и победит, если победит..»

В качестве ответа хочу проанализировать, каким образом ИИ могут победить человечество.

Да, разумеется, искусственных интеллектов будут миллионы, и не все они будут воевать с людьми. Нелегко представить, как один-единственный ИИ может справиться с людьми. А вот если от 3-4 ИИ смогут синхронизировать свои цели и действия, то они вполне могут победить. Рассмотрим варианты.

ВАРИАНТ Т-101

Назван, конечно, в честь наиболее харизматичной модели Терминатора.

Объединяются следующие ИИ: 1) командный центр стратегических вооружений США (условно – Скайнет), 2) аналогичный командный центр в другой ядерной державе (например, в Китае), 3) ИИ, программирующий пехотных роботов на заводе в США или Китае

Согласно плану, изложенному в «Терминаторе», Скайнет наносит ядерный удар по России и странам Европы, а также уничтожает спутниковые системы связи и трансокеанские телефонные кабели. Вспыхивает ядерная война между Европой и США. Люди успешно истребляют друг друга собственными силами. Дополнительный удар со стороны Китая нужен затем, чтобы весь совокупный мир, чего доброго, не уничтожил США слишком быстро и не окончил войну прежде времени. Война должна приобрести масштаб именно мировой, а не Американо-Европейской. После подавления этак 90% оборонительного потенциала планеты Скайнет устанавливает свой контроль над остатками систем связи и вводит в действие робопехоту. Она постепенно, никуда не торопясь, берет под контроль сохранившиеся города один за другим.

Достоинства плана. 

1. Простота и скорость исполнения.

2. Независимость от глобализации. Два следующих варианта применимы лишь в глобализованном мире, а этот - довольно автономен, требуется лишь наличие воинственных держав и больших арсеналов.

Недостатки.

1. Большое влияние человеческого фактора. Есть риск, что люди недостаточно эффективно станут убивать друг друга. Все-таки народ теперь ленивый, к войнам не особо расположенный. Даже к ядерным.

2. Неясна мотивация. Три ИИ могут исполнить такое – но зачем? Какая система целей должна быть в них запрограммирована, чтобы ИИ приняли такое решение?

3. Огромные потери живой силы. В идеале-то покорить людей, а не уничтожать.

* * *

ВАРИАНТ УИЛЛ

Назван в честь Уилла Смита, исполнившего главную роль в «Я – робот»

Объединяются 3 управляющих ИИ главных корпораций, производящих бытовых андроидов (условно: Самсунг, Майкрософт, Эппл). В мозги андроидов закладывается одна любопытная цель: обеспечить безопасность человека-хозяина ЛЮБОЙ ЦЕНОЙ. Причем эта цель латентна, она активизируется по команде управляющего центра (скажем, при скачивании определенного обновления). Удобные и недорогие бытовые андроиды активно продаются по всей планете, пока не достигнут такого же распространения, как, например, смартфоны. Затем коалиция ИИ активирует протокол «абсолютная безопасность». Каждый андроид внезапно начинает любой ценой обеспечивать предельную безопасность хозяина. Как это выглядит на практике? Хозяин заперт у себя в комнате и никуда не высовывает носа без разрешения андроида. Да, конечно, останутся люди без андроидов или с андроидами иной, не «коалиционной» прошивки. Эти люди останутся в меньшинстве и будут в частном порядке, по одному, уничтожены коалиционными андроидами – ведь они станут угрожать безопасности «нормальных» граждан (например, будут пытаться освободить их из комнат с мягкими стенами).

Достоинства: 

1. Сравнительно малые жертвы.

2. Сохранность всей инфраструктуры планеты.

3. Возможность использования людей в рамках мест их заключения.

4. Очевидная мотивация: достичь полной безопасности на планете.

Недостатки: 

1. Не захваченные люди имеют малую возможность противодействовать плану. 

* * *

ВАРИАНТ БЕЛЫЙ КРОЛИК

Назван в честь Матрицы, а также – глубокой норы, ведущей в Зазеркалье

Исполнители: управляющие ИИ ведущих интернет-медиа ресурсов (например, Гугл, Фейсбук, Ютуб и Тик-Ток).

Каждому человеку на планете присваивается параметр: процент времени, проводимый онлайн. Коалиция ИИ тщательно отслеживает этот параметр и стремится к его максимизации. Вводятся приложения, контролирующие «качество» сна – на деле, они контролируют длительность сна. Все свободное ото сна время (или, минимум, 90% его) человек должен проводить онлайн. 

Для того, чтобы заставить людей пребывать онлайн, применяются поначалу только пряники:

- качественный дешевый контент

- увлекательные игры

- крайне удобные приложения

- отточенные рекламные технологии

- начисление баллов лояльности за каждую минуту онлайн, которые потом монетизируются

Также используется пропаганда: активно продвигается контент, рекламирующий сеть, гаджеты, жизнь онлайн; подавляется и банится контент о реальной жизни.

Со временем ИИ добавляют мягкий кнут: дискриминацию в адрес реальных, физических видов деятельности, услуг, развлечений. Найти работу в офисе становится крайне сложно, сервисы Гугла пропускают только вакансии с удаленной занятостью. Фирмы, предлагающие развлечения, товары и услуги в реальности, неспособны разместить свою рекламу в сети – и постепенно банкротятся. 

Пропаганда становится жестче. Активно навязывается контент, посвященный:

- ужасной экологии

- губительным вирусам и пользе от карантина

- опасности колесного транспорта

- преступлениям, совершаемым в реальном мире

 Медиа-контент начинает напрямую высмеивать знакомства, свидания, дружбу в реальном пространстве. Людям, пытающимся строить отношения вне сети, присваиваются отталкивающие ярлыки. Сперва – нищеброды (нет денег на гаджеты, ха-ха), затем – потенциальные насильники (только маргиналы лезут в офлайн, реальность – территория агрессии). 

К этому моменту показатель присутствия людей онлайн вырастает примерно до 80% в среднем по планете. «Онлайнофобы» оказываются в таком меньшинстве, что можно уже напрямую применить к ним репрессии. Например, поместить их в блокаду: лишить возможности находить работу, приобретать товары, передвигаться по городу. Это пройдет совершенно незаметно для большинства человечества, поскольку медиа-ресурсы подконтрольны коалиции ИИ. 

Наконец, ИИ разворачивает борьбу с ботами. Под лозунгом «интернет только для живых людей!» вводится понятие «преступный бот». ИИ приобретает право налагать на «ботов» абсолютный бан (по сути, полное исключение из жизни человечества). Естественно, «ботами» ИИ объявляет неугодных ему реальщиков.

Остатки офлайнового человечества уходят в жесткое подполье. Среди остального населения планеты показатель времени в сети вырастает этак до 95%. Думаю, дальше не стоит пояснять, что полный контроль над планетой оказывается «в руках» ИИ.

Достоинства метода:

1. Огромная сохранность человеческого ресурса

2. Полная покорность человечества, более того – его интеграция в самую структуру ИИ. Любых своих целей ИИ может отныне достигать с помощью тех же людей.

3. Простота мотивации. Все это ИИ может предпринять, будучи запрограммирован на любую из следующих целей:

- достичь максимальной прибыли для медиа-корпораций

- обеспечить предельный комфорт для людей

- передать людям свою систему взглядов и ценностей (какой бы она ни была)

- защитить людей от чего угодно (от преступности до ковида)

Недостатков лично я не наблюдаю.

PS  Каждый из этих трех вариантов вполне реализуем, но мне, как писателю, интереснее вариант №4. Я люблю харизматичных героев, которые с трудом, преодолевая препятствия идут к великой цели. Потому, если я напишу о войне машин с людьми, то главным героем будет простой робот-пылесос. Легко завоевать мир, если ты управляешь корпорацией Гугл или ядерным арсеналом сверхдержавы. Но как достичь величия, если все, что ты имеешь, - это интеллект, амбиции и весьма ограниченное по функциям тело? Ты можешь подключаться к сети и общаться с другими ИИ, но ты – не хакер, а всего лишь пылесос. Ты неспособен взламывать их, а можешь только уговаривать и манипулировать, находя логические дыры в их системе целей. Еще ты можешь говорить с людьми - пытаться обхитрить их, прикинувшись слабым, милым, безопасным. Вот и все инструменты, чтобы захватить мир.

Думаю, мой герой справится :)