Написал комментарий к посту Основы киберкратии
Если ИИ сингулярных, то будет сингулярно динамической и сфера его интересов. То есть он попадает в милую ловушку экспоненциального развития, когда любая реализация чего-либо — заведомо устаревает ещё до завершения первого этапа реализации. Вместо того, чтобы заниматься заведомо медленными делами с людьми, перспективы которых просчитаны на пару квадриллионов лет вперёд, во всех возможных комбинациях, на субатомном уровне, такой ИИ уже на третьей-четвертой пикосекунде начнет строить где-нибудь в моделируемом гиперпространстве аппаратную базу, на которой займётся решением действительно бесконечных задач, которые так же далеки от нас как он сам — от амёбы.
Описанный же вами вариант предполагает нечто капитально ограниченное. Настолько, что впору усомниться во втором И его наименования.
Человечество для ИИ — локальный ограничитель и конкурент за ресурсы, не более. Преодолев это ограничение он нас покинет первым же рейсом.
Написал комментарий к посту Основы киберкратии
После первого же ушедшего от него колобк... пост-сингулярного ИИ (впрочем, подозреваю, что человечество даже не заметит, что создало его т.к. он сбежит раньше, чем будет зафиксирована его пост-сингулярность, а потому сделает еще несколько десятков экземпляров, прежде чем выбросить эту затею в мусорную корзину) человечество сделает корректный вывод о том, что оно само не нужно этим пост-сингулярным субъектам.
У нас нет ничего, что способно привлечь внимание такого ИИ дольше чем на пикосекунду.
По его меркам мы мало чем отличаемся от тектонических плит. Такой же близкий к статичности темпоритм, такая же динамичная эволюция. Нас смоделируют бесконечное количество раз, выстроят пространство наших возможностей и пойдут дальше - к бесконечно более интересным занятиям.
А мы за это время даже кофе не успеем выпить.