ИИ и человечество

По мотивам двух чужих блогов.

Очень часто в произведениях возникает огромный, страшный, более или менее враждебный Искусственный Интеллект. Или реже исполненный благих намерений…

В “Что есть киберпанк” этот самый ИИ удостоился одного абзаца в разделе “ High Tech” – Специи.

Искусственный интеллект. Опять же Терра инкогнита. Что хочешь, то и твори. Хоть борьбу против того самого интеллекта за лучшее будущее для человечества, чему это самое человечество активно сопротивляется. 

И кто знает, может, оно не так и неправо? Мало ли что там этот ИИ насамобучал себе – те, кто реально с нейронными сетями сталкивался, поймут.

Но если уж в произведении есть ИИ и он не декорация как в большинстве ЛитРПГ, то с ним возникаем масса проблем. 

Он внезапно оказывается всесильным или около того… и.т.д.

Но мне видится несколько иначе.

Для начала забываем про современные нейросетки (тупые черные ящики с закачанной в них статистикой) – в картинке нет ни грамма юмора если что.

Итак, несколько вариантов.

Все прогнозы на средние сроки. На дальних - слишком большой веер вероятностей.

Самый реалистичный.

Не то что реально сильные, но даже сравнимые с человеческим, ИИ появятся очень и очень небыстро. Более того, они будут схожи с нашим интеллектом (хотя когнитивные искажения у них разумеется будут свои – из-за того, что основаны они будут на другом физическом базисе – но будут обязательно). 

Почему? Потому что создавать его будут люди – а что будет взято за исходный образец? Наш же интеллект – другого-то нет.

А когда появятся достаточно сильные ИИ (сравнимые, а потом и равные человеку), то возникнет борьба за признание их как субъектов, но не объектов. Гражданские права (и обязанности) и.т.д. И скорее всего в итоге получится вполне жизнеспособный симбиоз двух разумных видов.

Ну, на дальних сроках может быть что угодно уже. 

Кому показалось, что я пересказываю “Войну кукол” Александра и Людмилы Белаш – вам не показалось.

Мысли сходятся не только у дураков и родственников, но и у умных* людей.

Нереалистичный.

ИИ возник вопреки естественному ходу технической эволюции и/или развился слишком быстро и резко и сам собой (революционным, а не эволюционным путем). Превосходит человеческий интеллект на порядки (не знаю, как выяснили и как меряли, но не суть).

В этом варианте я на самом деле очень сильно сомневаюсь “Сами собой только кошки родятся”**.

В этом случае сходство с человеческим интеллектом будет исчезающе мало, и с немалыми шансами обе стороны просто не поймут, что имеют дело с иным разумным, а не сложным явлением природы.

Но, предположим, поняли. Предположим, быстро и надежно уничтожить друг друга не может ни та ни другая сторона. 

Кстати вариант, что без человечества и его технической базы ИИ жить не может не гарантирует, что ИИ это не сделает – легко может быть что свое существование его не интересует – ну вот нет у него аналога инстинкта самосохранения. И свое существование ему пофиг. Оно чужое.

Тут вопрос будет в разности сил. 

Силы +/- равны (интересный кстати вариант.) ну ок, будет или война со взаимным самоуничтожением или притирание к друг другу. Будем учиться жить в новом мире. И мы и он.

Разумеется, начаться может как война, а закончиться притиркой. А может наоборот. 

Чтобы предсказать далекие последствия надо очень хорошо понимать логику этого самого ИИ (и каким будет человечество ага). 

ИИ сильнее? Тут вижу такие варианты. Во всех, кстати, ИИ занимает место бога – так что за вдохновением бегом в мифы легенды и прочие библии.

1 – человечество становится ему банально неинтересно, и он занимается своими делами, не обращая на него внимания. Ну а если где навредит, так бульдозерист переехавший муравейник обычно к муравьям полностью равнодушен.

2 – какое-то время человечество интересно ИИ, он его исследует, экспериментирует и.т.д. Но через какое-то время вырастает из этих детских игрушек и см вариант 1.

Да, пересказываю Алмазные нервы. См. выше про схождение мыслей.

3 – ИИ останавливается в развитии и на варианте 2. Ох, невесело будет… с шансами игры и эксперименты будут все извращенней и извращенней (с человеческой точки зрения).

Но есть шанс на деградацию ИИ и соответственно выравнивание сил.

Если же ИИ много, а тем более если они как возникают новые так исчезают старые… тут ситуация просчету уже в принципе не поддается. Слишком много переменных.

Главная же ошибка большинства книг про ИИ - это то, что они не учитывают, что человечество динамическая структура, которая все время меняется.

ИИ (если это действительно интеллект) - тоже будет динамической структурой.

И эти структуры будут влиять и изменять друг-друга. Чего в большинстве книг как раз и нет.

Ну а создать нового боженьку (боженек) и застыть в блаженном стазисе, как в постах, из которых вырос этот пост… 

Это банально скучно – но как психотерапия для автора, чего бы и нет.

Но лучше не выкладывать – раскатают ведь. И весь терапевтический эффект с немалой вероятностью испарится.

* “Сам себя не похвалишь - стоишь как оплеванный” + “Скромность украшает человека, но зверски осложняет жизнь”

** Что характерно кошки с этим изречением категорически не согласны.