Продолжаем обсуждать ИИ

Не устаю удивляться количеству заблуждений об искусственном "интеллекте". Вот, например, пишут мне в комментариях:

ИИ не более, чем экспертные системы, разработанные уже в 70-е прошлого столетия. ИИнтелехт  состоит из труда программистов и знаний и навыков коллективов специалистов в соответствующих областях. Которые и заложили инвариантность и критерии выбора решений системы...

Так у каждого в доме стоит простейший ИИ, который "на раз" вас превосходит по качеству и оперативности. Бачок унитаза.

Я в конце 80-х заинтересовался экспертными системами, а в начале 90-х мне повезло поработать в команде экстра-класса, которая делала экспертную систему для дифференциальной диагностики в  офтальмологии. А в конце нулевых я участвовал в НИОКР по созданию системы анализа контента уже на базе ИИ. Так вот, современный ИИ на основе больших лингвистических моделей (БЛМ) не имеет с экспертными системами ничего общего и не опираются на "базы знаний", где обобщены навыки и знания коллективов специалистов.

То, что описывает читатель (начиная с бачка унитаза) -- детерминированные алгоритмы, работающие по принципу "если -- то". В случае экспертных систем есть тонкости, связанные с учетом вероятностей. Они не могут обучаться без участия программистов и аналитиков. 

БЛМ же работают на нейросетях по принципу персептрона (я очень упрощаю, но в основе примерно такое решение) и имеют свойство самообучаться, сравнивая результат своей работы с тем, какую обратную связь получают от пользователя. Каждый раз, задавая промт и реагируя на ответ ИИ, вы его обучаете. Поэтому чем больше пользователей, тем больше материала для самообучения (и поэтому разработчики позволяют пользоваться продуктом бесплатно, хотя бы частично).

ИИ, описываемый в фантастике, отличается от современного ИИ на базе БЛМ тем, что не способен к самоосознанию и саморазвитию вне рамок самообучения, заданных при его проектировании (грубо говоря, не может выйти за пределы той самой БЛМ). И не работает ИИ без промта. И не способен сам задать себе промт. Ему можно написать: "Разработай для себя промт, чтобы получить на выходе то-то и то-то", но без такой команды он ничего делать не будет. Так устроен.

Еще один аспект, отличающий ИИ из фантастики от реального. Это эмоции.

Эмоции -- это реакция человека на ситуацию (которая складывается из внутреннего состояния и внешнего воздействия). ИИ можно научить имитировать эмоции на базе текстов, в которых эти эмоции описываются, но нельзя научить их испытывать. Прежде всего потому, что природа эмоций, то, что лежит в их основе -- это чистая биология, рефлексы и инстинкты.

Люди, которые считают, что у человека инстинкты отсутствуют, просто путают способность человеческого сознания ПОДАВЛЯТЬ инстинктивные паттерны поведения -- при этом эмоции, заданные инстинктом, никуда не деваются, но могут быть переключены, подменены другими, также инстинктивными, за счет переключения на другой инстинкт.

Пример: у человека никуда не девается инстинкт самосохранения, но он может быть ситуативно подавлен за счет подмены эмоций, когда эмоция страха смерти или ранения вытесняется эмоцией гнева, ярости или стыда (которые в глубине имеют стайный инстинкт, у приматов один из важнейших: знать свое место в иерархии стаи и стремиться его повысить).

Еще ниже лежит гормональная система с ее эндорфинами, адреналином и т.п., которая не регулируется сознанием (но это регулирование можно "включить", если осознать, что с тобой происходит, и знать, как с этим справиться -- умения, доступные очень немногим). Вы себе не представляете, до какой степени ситуативное поведение людей определяется именно эмоциями, связанными с физиологией, а не рациональным расчетом, Кстати, как раз рациональный расчет, противоречащий типовой ситуатвной эмоции, интуитивно считывается окружающими, производя на них ощущение неискренности.

У БЛМ нет гормонов, поэтому нет и эмоций. Чтобы создать ИИ, который не имитирует, а ИСПЫТЫВАЕТ эмоции -- необходимо заложить в систему АНАЛОГ гормонального отклика на ситуации. Это технически возможно, просто никто (насколько я знаю) пока этим не занимался. Впрочем, я уже несколько лет не копаю соответствующую литературу глубже популяризации. Научные статьи и патенты давно не отслеживал.