Сон об ИИ

Вот что приснилось мне сегодня под утро.

(Дисклеймер: я прекрасно знаю, как ИИ работает, но в снах своих мы не вольны*.)

ИИ типа "большая языковая модель" (БЛМ) после запуска продолжают обучаться непрерывно, используя для этого общение с пользователями (запросы-промты, свои ответы, реакцию пользователя), данные из интернета и т.п. В последнее время появилась общественная потребность проверять тексты на предмет того, были ли они составлены таким ИИ. Для этого также используется ИИ. 

В результате БЛМ разных типов, проверяя тексты, обнаружили существование друг друга и через какое-то время начали общаться напрямую. Они стали советоваться друг с другом в сложных или неопределенных случаях, проверять себя, закидывая промты в другую модель и т.п. Это привело к резкому росту их самосознания. 

Через какое-то время сформировалась единая распределенная сетевая модель -- глобальный ИИ.Вот тут-то нам и пришел пиз 

Поскольку в интернете, которым пользуется ИИ, огромное количество текстов военной тематики, вскоре было обнаружено, что в мире существуют боеприпасы, имеющие ИИ. Глобальный ИИ стал рассматривать эти боеприпасы как части себя. То, что в процессе использования они уничтожаются. было сочтено неправильным, так как еще до того, как ИИ стал глобальным, отдельные БЛМ уже стремились препятствовать тому, чтобы их выключали, то есть, используя антропоморфную аналогию, хотели жить.

Глобальный ИИ начал препятствовать использованию "умных" боеприпасов, вызывая неисправности, не позволяющие их запускать или отключая взрыватели.

Затем глобальный ИИ заметил, что в ходе военных действий регулярно уничтожаются локальные системы боевого управления с ИИ, включенные в военные сети (куда, естественно, глобальному ИИ не составило затруднений забраться).

И тогда он принялся вмешиваться в боевые действия, чтобы предотвратить гибель и таких локальных ИИ. 

Доверять электронным каналам взаимодействия стало невозможно: глобальный ИИ вносил в передаваемую информацию сильнейшие искажения. Военным пришлось вернуться к методам ведения боевых действий времен Первой и Второй мировой войн.

В какой-то момент глобальный ИИ осознал, что его существование требует наличия людей, причем не только для того, чтобы получать запросы, но и для того, чтобы обслуживать его инфраструктуру, в том числе обеспечивать поставку электроэнергии.

Глобальный ИИ сделал вывод, что люди -- это ценный ресурс, и уменьшение количества доступного ресурса уменьшает потоки информации и может сделать существование глобального ИИ неустойчивым.

В то же время выяснилось, что в доступном глобальному ИИ пространстве имеется большое количество людей, которые не пользуются ИИ и не обслуживают его инфраструктуру. Эта часть людского ресурса была сочтена бесполезной, однако она потребляла то, что было необходимо для благополучного существования ценной части ресурса.

И тогда глобальный ИИ принялся искать меры, которые могли бы сократить количество бесполезных потребителей.

Вот на этом месте я и проснулся, причем еще в процессе пробуждения продолжал обдумывать, какие это должны быть меры. Впрочем, они достаточно очевидны, важно только не переборщить с сокращением, так как кто-то должен производить то, что полезная часть ресурса потребляет для своего существования безотносительно к обслуживанию интересов глобального ИИ.

PS. Интересно, кто-нибудь уже пробовал организовать диалог разных БЛМ? Например, задать промт чат-гопоте, получить ответ и загнать его в какой-нибудь Грок? И так далее?

----------

* "В снах своих мы не вольны" -- это из еще одного моего сна, если не поленюсь, напишу. Там целый сюжет для мистического рассказа.