Неросеть: фантастика и футурология.

Вместо эпиграфа: «Одна киргизская семья так любила фильм «Терминатор», что назвала своего сына Айлбибек»...

Есть реальная нейросеть, и есть наши представления о ней. Грубо говоря, миф.

Реальная нейросеть – это инструмент, который перебирает огромное количество вариантов. Огромное, но обязательно конечное. И – что самое главное – нейросеть не ошибается, потому что гладиолус алгоритм.

Причём, одинаково перерабатывает всю информацию по заданному вопросу, имеющуюся в свободном доступе. Всё, что есть в сети. То есть, это могут быть серьёзные научные статьи, и рядом с ними фейковые новости или мнение Васи Пупкина о тёмной материи данном вопросе.

Алгоритм никогда не ошибается, но у него нет критерия истины. Можно поставить и настроить всевозможные фильтры, но результат всё равно будет нуждаться в проверке.

Тем не менее, нейросеть уже счейчас решает кучу вопросов, нудных, требующих дотошности, выполняет большое количество рутинных операций, делает переводы и тексты. Да, тексты простые, и мы смеёмся, читая сгенерированную нейросетью лабуду книгу.

Это или такая откровенная гладкопись, по которой скользишь, как по обледенелому склону, и не за что зацепиться. Ищешь среди красивых лингвистических построений мысль – и не находишь её. Возможно, она есть, но – увы – утонула в лавине ненужных слов.

Или же отсутствие критерия истины приводит к тому, что непонимающая сути в первую очередь моральных критериев «хорошо – плохо», нейросеть генерирует абсурд под видом литературного произведения.

Инструмент мощный, всё-таки работу делает хорошо, что уже привело к массовым увольнениям айтишников на западе.

Первыми попали под сокращение гугловцы – 21 тысяча пошла ровным строем в свободное плавание. Дальше кодеры, маркетологи, за ними бухгалтеры, теперь веб-дизайнеров подтряхивает – девочкам-дизайнеркам приготовиться.

Вы возразите мне, вы скажете, но ведь кто-то должен дать задание нейросети? Если взять образ лавины и провести аналогию с нейросетью, то получится следующая картина: вы толкнули камень, он покатился, увлёк за собой другие камни, дальше больше и вот уже со склона мчит вал. Но куда мчит этот вал, какое направление он возьмёт – этого вы, увы, не контролируете. То же с нейросетью.

А теперь вернёмся в начало статьи: наши представления о нейросети?

Человек существо, конечно, социальное, и, благодаря социуму, живёт он в первую очередь в мифах. То есть в общих представлениях о том или ином аспекте жизни, которые свойственны большинству. Опять то самое «что такое хорошо и что такое плохо». Большую роль в социальной мифологии занимают страхи имени Терминатора и Матрицы-два.

Страхи были и раньше, но именно наш кинематограф вытянул их из подсознания, опредметил, структурировал и вновь загнал в подсознание – уже ааа мы все умрём многократно усиленными, образными, ужасающими. В принципе, это нормальная реакция общества по поводу нового фактора.

Наши представления о нейросети во многом складываются благодаря нашим страхам. И ошибки, которые нейросеть (на наш взгляд) допускает, во многом запрограммированы именно нашими страшилками. Или мифом о ужасном бунте машин и человеке как вымирающем виде. Апокалипсис велком, короче.

У нейросети нет двух вещей: первая – критерий истины, который как раз таки задают общественные мифы; и вторая, как бы это было не парадоксально – животная сущность человека. То есть та самая интуиция, когда человек смотрит на расчёты, видит, что всё правильно, но интуиция вопит: ошибка, не то, не надо! И потом оказывается, что правильно вопила интуиция, включился какой-нибудь неучтённый фактор, например – доллар упал или подпрыгнул, или народные волнения и бунты, или… Да много чего, экономисты такие факторы называют чёрным лебедем.

Прогресс не стоит на месте, и вектор развития уже определён. Но…

Проклятое но, после которого остаётся только вздохнуть и сказать: хотели как лучше, а получилось как всегда какой будет цена этих перемен?..

Дело в том, что разработчики нейросети попали в ловушку общей культурной деградации, и нейросеть, не обладая критерием истины, берёт за чистую монету всё, что есть в сети. А это и тупые коментарии, это и фейки ради фейков, это розыгрыши и шутки, это и откровенная шиза.

Что будет дальше? А дальше начнётся большая чистка. Это просто обычная логика: у вас есть ну очень хороший экскаватор, вам надо копать котлован и строить дом, но блин – устроили вокруг него туалет. И ходят в этот туалет тысячами, десятками, сотнями тысяч – к эксковатору не подойти. А инструмент нужен.

Как будут чистить социальные сети – не знаю. Наверное, руками самих же пользователей. К примеру, как сейчас убирают нецензурную брань, порнографию, злобные комментарии и совсем уж недобросовестные фейки. Несёт человек откровенный бред – оппа – выскочила кнопочка пожаловаться.

Как говорил Станислав Лем: «Исскуственный интелект должен быть этически стабилизирован».

Тот же Лем: "Уловить исторический миг, когда счёты обзавелись разумом не легче, чем миг, когда обезьяна превратилась в человека".

Чего нам ждать? Новых профессий. И как бы не было трудно айтишникам в предстоящий период, они будут востребованы. К примеру, как полиция нравов тестировщики нейросетей.