И-и-и ИИ в НФ!

Точнее сразу про искусственный разум равный или более сильный чем человеческий.

Перво наперво, в рассуждениях об НФ, я постулирую то, что возможно всё, что не запрещено теоретическими пределами.

Т.е. обычное движение имеет теоретический предел в виде скорости света (но там куча всяких необычных движений). А вот мощности искусственного разума пока теоретический предел не найден. Это не значит что его нет. 

Но пока он не найден мы можем научно фантазировать. Когда и если найдут, то будем фантазировать не научно.

Итак в основе рассмотрения ИИ есть парочка основ:

1. текущая ситуация с ИИ

2. человеческий разум

Обе эти основы на деле являются сильнейшими ограничителями творческой фантазии. Просто потому что любое моделирование ИИ почти любым автором НФ сведётся либо к имитации человеческого разума (или "обрезанного" варианта разума), либо к экстраполяции текущих ИИ.

И то и другое не фантастика, а очередной ретрофутуризм.

Почему нельзя пользоваться "текущим ИИ" - потому что оный построен на упрощённой модели, которая легко ложиться на имеющееся железо и имеет практическое применение. Т.е. это "синица в руке".

В основе естественного интеллекта лежит, если оперировать компьютерными терминами, неразрывная связь "процессора" и "памяти" - т.е. память является и вычислителем. 

Побочным эффектом такой архитектуры является тот факт, что почти любая информация, попадая в эту систему, меняет эту систему - т.е. происходит запоминание и самообучение.

Вторым побочным эффектом является то, что можно назвать "самогенерацией" - эта система может что-то создавать без видимых внешних воздействий. Иными словами без задачи или стимула извней.

Заметьте я не касаюсь унылых штук вроде "китайская комната" или "филосовский зомби" (если вы собираетесь погружаться в тему НФ и ИИ знать про эти штуки стоит). Поскольку модель "комнаты" не предусматривает памяти вовсе. А как я выше заметил оная неразрывно связана с естественным интеллектом.

Надо заметить, что бывают нарушения работы кратковременной памяти (емнип "Антероградная амнезия"). Как в этом случае функционирует сознание - я не знаю, и вопрос это сложный. В том числе, если я ничего не путаю, и дискуссионен и сам вопрос о том, что такое кратковременная память у человека.

В любом случае, в нашем вопросе об ИИ полагается что всяческая необходимая память и обучаемость у него наличествует.

У наших же текущих ИИ с этим всё сложно - чаще всего (в LLM) мы сталкиваемся с "имитацией" памяти в виде т.н. контекста. Оный не является частью модели, и никак не сказывается на состоянии оной, а при каждой генерации "ответа" моделью не явно для пользователя добавляется к вопросу. Т.е. нейросеть не обучается, и строго говоря, сама ничего не запоминает, а ей при каждом вопросе показывают "бумажку с темой беседы". 

Человеческий разум же накладывает ограничения с другой стороны. Оный обучается в процессе жизни и его обучение неразрывно связанно с телом, гормонами, потребностями и вот этим всем. Кроме того на человеческом разуме отпечатываются если не инстинкты напрямую (есть ли они - тоже вопрос), но по крайней мере их наследие. Самые простые вещи это "инстинкт самосохранения", который имеет достаточно рациональную природу - просто потому, что тело то одно и второго тела не будет.

Представьте себе ИИ, который обитает в теле робота. Оный знает, что в слуае чего у него есть резервная копия (пахнет видоизменённым углеродом, верно), что в конце концов он может обернуться радиоволной (пахнет "князем света") и т.п.

Если мы в качестве прошивки для робота возьмём копию человеческого разума, то оная будет себя вести по памяти с челоческим телом.

Если мы каким-то образом обучим ИИ прямо в этом теле, то оный будет вести себя сообразно. У него не будет чувства голода, не будет множества привычных нам "инстинктов". Много чего не будет.

Точно ли?

Тут какраз огромное поле для фантазии.

И снова надобы включить "эмулятор естественного отбора" из предыдущего поста. Если у ИИ нет цели, нет инстинкта самосохранения, то пойдёт ли этот самый ИИ к зарядке чтобы продолжать свою деятельность?

Или люди, создающие, ИИ заложат в него цель, как базовый инстинкт? Создадут ИИ по совему образу.

Или ИИ сам найдёт себе цель. А тот который не найдёт просто не включится из-за отсуствия мотивации заряжаться.

Как бы то ни было, через N-лет эволюции ИИ (которую мы никак не ограничивали - мы же фантазируем) у нас скорее всего ИИ так или иначе будет иметь какие-то базовые характеристики, "инстинкты", предустановки и всё прочее, независимо от того что там заложили в него при обучении.

И вот вопрос: какие же?

И ответ на этот вопрос будут сдерживать тиски всего того что вы читали про ИИ и всего того что вы знаете...

8)