Чего не хватает искусственному интеллекту

Я уже писал здесь, что "искусственный интеллект" не интеллект вовсе. Большие языковые модели считают истинным ответом тот, который имеет наибольшую вероятность появления в БД модели "рядом" с вопросом. Поэтому на вопрос: как называется столица России? БЛМ ответит: Москва. Просто рядом со словами "столица России" в БД чаще всего встречается именно "Москва". При этом, если добавить в БД остаточно большое количество текстов, в которых преднамеренно указано, что столица России -- Пенза, то через некоторое время ИИ будет считать, что так и есть.

Чего не хватает искусственному интеллекту, чтобы быть ближе к естественному? Что нужно, чтобы ИИ стал личностью?

Первое. Рефлексия. Люди сейчас не имеют явного знания о том, как и на основании чего ИИ делает выводы. Внутри ИИ -- "черный ящик". Мы теоретически знаем, как работает нейросеть, но какими шагами и с какими параметрами она ищет ответ для конкретного запроса -- мы не знаем, и сама нейросеть не знает. 

Можно ли это исправить? Да, и относительно несложно. Нейросеть может вместе с ответом в отладочном режиме выдавать информацию о том, как она к этому ответу пришла (я не исключаю, что это уже есть у разработчиков).

Достаточно ли этого?

Не уверен. Все равно нейросеть не ответит на вопрос: кто я?  И главное, не сможет его себе задать. У нее нет личности, есть только имитация ее. Поэтому на такой вопрос, заданный пользователем, она что-нибудь да ответит -- в соответствии с тем, какие вероятности висят на ветках имеющихся в ее БД ответов.

Второе. Эмоции. Вы, возможно, не поверите, но они на самом деле вполне алгоритмизируются, что бы ни думали об этом персонажи книги "Понедельник начинается в субботу". Эмоция -- это реакция организма на внешние условия и раздражители. Реакция обусловлена как врожденными инстинктами (пищевой, размножения, самосохранения), так и приобретенными (воспитанными)... не знаю, как правильно назвать -- рефлексы? привычки? навыки? 

И то, и другое можно задать для нейросети программно. Надо только об этом задуматься.

Зачем ИИ эмоции? А без них личности не существует. Жизнь показывает, что в своем поведении подавляющее большинство людей руководствуется не рациональным подходом, а сиюминутными эмоциями. Исключения есть, даже у отдельного человека, но они не отменяют этого правила. 

Что даст пользователям наличие у ИИ эмоций? Ответ далее.

Третье. Эмпатия. Вот для чего эмоции нужны: чтобы ИИ был способен определять эмоциональное состояние человека-пользователя и приспосабливаться к нему. Иначе будет как в ставшем мемом диалоге: 

Пользователь: В каких странах разрешена эвтаназия?

Нейросеть: !перечисляет страны]. Заказать авиабилет?

Эмпатия должна позволить нейросети определять эмоциональный возраст и уровень эмоционального интеллекта пользователя. Например, для того, чтобы не перечислять подростку способы роскомнадзора не потому, что ограничения установлены универсальные для всех пользователей, а потому, что это подросток (ну, или взрослый в клинической депрессии).

Надеюсь, я понятно объяснил.

Наконец, четвертое. Этика. Понятия о том, что хорошо, что плохо, причем не для самой нейросетки, а для пользователя. Понятие о честном и бесчестном. Понятия о порядочном и непорядочном.

Они могут (и будут) отличаться от того, что сейчас в мейнстриме (потому что мейнстримная этика, к сожалению, ближе к обществу шимпанзе, чем к обществу людей). Но без этики такие направления использования ИИ, как юриспруденция и медицина, должны быть, по моему мнению, запрещены.

Что бы хотелось еще добавить?

Художественный вкус. Как ни странно, это очень просто. Для этого достаточно обучить сетку на заведомоо качественных произведениях и показать, что такое плохо, на заведомо плохих.