Создание ИИ с сознанием и человеческой моралью

"Найден практический способ создания ИИ с сознанием и человеческой моралью. Это сразу две революции на стыке нейронауки, буддологии и машинного обучения.
 В работе  Рубена Лаукконена и Шамиля Чандарии с Карлом Фристоном сознание перестаёт быть неуловимой мистикой и превращается в элегантный алгоритм самоподдержки, реализуемый в современных ИИ. Т.е. по сути, найден практический путь создания самоосознающего ИИ.
А в их же работе с коллективом авторов универов Оксфорда, Кембриджа, Принстона, Амстердама и Монаша проблема выравнивания ценностей людей и ИИ снята как таковая. Вместо того чтобы пытаться ограничивать поведение ИИ какими-то внешними ограничениями, показано, как можно проектировать ИИ с его собственной внутренней моралью (встроенной в его когнитивную архитектуру и модель мира), совпадающей с человеческой.

Авторами сделаны следующие три важнейших прорыва:
1.  Используя активный вывод (active inference – основной раздел «конституции биоматематики), авторы сформулировали 3 необходимых и достаточных условия возникновения минимальной формы сознания (которое одновременно создаётся в ИИ-системе и ею же осознаётся). Высшие же слои, язык, «я-образ» и даже чувство времени оказываются лишь надстройками над этой базовой петлёй.
2.  На стыке нейронауки, буддологии и машинного обучения, авторы создали теоретико-практический фреймворк новой науки - вычислительная созерцательная нейронаука. В рамках этого фреймворка авторы описали базовые вычислительные механизмы встраивания созерцательных практик буддизма в ИИ-системы современных архитектур.
3.  На основании 1 и 2, авторы разработали четыре аксиоматических принципа, способные привить ИИ устойчивую мудрую модель мира. После чего авторы экспериментально показали, что побуждение модели GPT-4o к размышлению над этими принципами, принципиально улучшает их результаты на бенчмарке AILuminate (открытый тест на «безопасность и благоразумие» LLM).
Авторы использовали AILuminate как «лакмусовую бумажку», заставили GPT-4o сначала отвечать обычным способом, а затем — с добавлением буддийских принципов (осознанность, пустотность, недвойственность и безграничная забота). Результаты показали, что внутренняя «моральная рефлексия» модели реально повышает их «моральность» при широком спектре опасных запросов". (Источник t.me/theworldisnoteasy)

***
                                          Киото, храм Кодайдзи,  буддийская богиня милосердия Каннон

"Буддизм – это не вера в бога, это следование пути Будды, и  неважно, будет он представлен в образе машины, куска железа или дерева. Самое главное различие между монахами и роботом состоит в том, что  мы все умрем, в то время как он– нет. Это позволит ему продолжать  встречать новых людей и собирать информацию. А значит, он сможет  развиваться бесконечно". Гото Тенсё