Кибепанковское... Про ИИ...

Сейчас вот тут попался один пост. Там было сказано про цифровой след. ИИ, который собирает цифровой след реального человека и становится его приемником. И якобы чем больше человек наследил, тем лучше этот ИИ воспроизведёт его личность после его смерти. И далее такой ИИ наследует право чем-то там управлять (корпорациями или чем-то там ещё), владеть активами и прочим образом принимать решения.

Вот читаю я это, и думаю, что судя по тому, куда катится мир, наверное, это и произошло.

В фольклоре описаны зомби и вампиры - этакие существа, в которых превращаются люди, причём, проходя тем или иным образом через смерть. И если зомби и ожившие мертвецы часто показаны в фольклоре как эдакие ущербные существа, наделённые большой физической силой, но практически не обладающие разумом и не сохраняющие в себе следы той личности, которой был человек, из которого получился зомби, то вот с вампирами сложнее. Они вроде бы как-то наследуют ту личность, которой были при жизни. Но насколько полноценно? На этот вопрос тоже в большинстве книжек и фильмов толком не отвечают, единственно, что всё-таки вампиры показаны часто как существа, обладающие сознанием, способные внятно мыслить и достаточно хорошо изъясняться на человеческом языке.

А вот ИИ? ИИ в этом плане может быть куда больше напоминают мыслящее существо, способное внятно формулировать мысли и отвечать на вопросы. Но это ведь далеко не всё, что составляет и образует человеческую личность.

И даже если на некую ИИ-основу накладывается цифровой след реального человека, пусть даже это будет очень и очень богатый цифровой след, очень подробный и честный, всё равно такой ИИ не будет той самой личностью, которой был человек.

Я считаю, что это будет лишь эдакая имитация. Причём, если не анализировать её подробно, то может быть на первый взгляд и не будут заметны какие-либо отличия.

Если же анализировать подробно - то эти отличия могут быть и не обнаружены, даже если они есть, просто потому, что многие люди друг с друдом знакомы именно поверхностно же.

Но всё равно, такой вот ИИ на основе цифрового следа не воспроизводит личность плоностью, потому что в цифровом следе личность проявляется не вся. Но это только половина беды.

Вторая половина беды - это то, что ИИ основа тоже не воспроизводит человеческую природу. ИИ отражает лишь то, как представлял себе программист устройство человеческой мыслительной системы, а эти представления уж точно в чём-то неполноценны, в чём-то ошибочны, а где-то, может быть, что-то, о чём было изветсно наверняка, преднамеренно изменено.

Таким образом получена эдакая цифровая модель изначальной личности, или даже её имитация. И вот этот вот предлагается допустить до управления чем бы то ни было и до принятия решений. Иной раз, глобального уровня.

Чем может отличаться ИИ от человека? Часто в ранней НФ это отличие виделось в отсутствии эмоциональной составляющей. В человеческой личности эмоциональная составляющая достаточно важна, хотя часто её предлагается обесценить, подавить, не давать ей влиять на принятие решений. Но она всё равно есть.

Люди могут испытывать грусть или радость, страх или доверие, впадать в состояние паники, хотеть чего-то или не хотеть. И уже исходя из этих переживаемых эмоций принимать те или иные решения. Далеко не всегда люди понимают, что ими движет, когда совершают те или иные действия.

У ИИ зачастую поствалены конкретные задачи, и все свои решения они будут подчинять выполнению этих задач.

Хотя я вот думаю, что ИИ тоже можно наделить эмоциональностью. Написать какие-нибудь программы, которые будут вызывать у ИИ эмоции, вносящие коррективы в принятие решений и выполнение задач. Но кто его знает, как это будет работать, думаю, что тоже не так как у реального человека. У человека эмоции часто связаны с состоянием его физического тела, с пережитым и накопленным опытом и с естественными потребностями, включая потребность в размножении. Даже если допустить, что у ИИ можно запрограммировать те же потребности, но даже размножение и обучение у ИИ происходит иначе, чем у человека.

А главное, я думаю что все эти моменты всё ещё не изучены в достаточной степени, чтобы построить достаточно точные цифровые модели для них. Тем не менее, уже идут разговоры о том, чтобы допустить ИИ до принятия важных решений, и особенно да, до управления людьми...