Чем нам грозит ИИ и при чём здесь Б787 AirIndia171? (Текст про ИИ одиннадцатимесячной давности)

В моей книге «Шахматный клуб» герой разговаривает с мамой своей избранницы.

«— …. ответьте на вопрос: что вас заставляет утверждать о наличии свободы в интернете?

Я немного замялся, настолько наивным мне казался вопрос.

— Как что? — постарался я сформулировать очевидные вещи. — В Сети я могу смотреть, читать что угодно, получать любую информацию.

— Каким образом?

— Делаю запрос через поисковую систему и выбираю любую из миллиона ссылок.

— Вы когда-нибудь пытались открывать ссылку на третьей странице из представленных поисковиком? А на двадцатой? Вам представляют иллюзию выбора. Различные специалисты работают над тем, чтобы управлять вашим выбором. Вот, если человеку, сидящему в заключении, ограничить его желания так, чтобы ему ничего не требовалось за пределами пенитенциарного заведения, то он и знать не будет, что находится в заключении. Так и интернет. Он ограничивает ваши желания, и вы считаете себя свободным.

— Ваши аргументы логичны, но в любом случае я могу выбрать источник информации. Даже если я выбираю на одной странице, то там десять — двадцать ссылок, — пытался я возразить.

Елена Павловна только улыбнулась.

— Лаврик, вы слышали анекдот про студента, который выучил к экзамену только одну тему «Блохи» и на неё переводил все вопросы. Раскусив это, профессор предложил поговорить про рыб. На что студент заявил: «У рыб нет шерсти, но если бы шерсть была, то там обязательно бы завелись блохи…» Так и с поисковыми системами. Если в алгоритм заложено, что человек, интересующийся, например, темой свободы, должен получить информацию, которая убедит его в свободе выбора в сети, то так и будет. Это как эффект закрытой двери. Мы никогда не узнаем, что было за закрытой дверью, если её не откроем. А если перед нами три двери, а мы способны открыть только одну? Всё, что скрывается за остальными, останется тайной.

— Почему? — удивился я, увидев нелогичность утверждения. — Я просто могу открыть сначала одну дверь, а потом вторую, и вуаля — я знаю, что за ней.

— Не всё так просто, — продолжила Елена Павловна, как будто ожидая мою реплику. — Вот возьмём три двери, — и она положила на стол три одинаковые салфетки с узором. — Я хочу, чтобы вы, обладая свободой, выбрали мой кекс. И прошу вас открыть любую дверь. Выбирайте, — попросила она.

Я ткнул пальцем в правую, и собеседница с возгласом: «Тадам!» перевернула салфетку, и там было написано «кекс». Не успел я предположить, что такая надпись была на всех салфетках, как Елена Павловна, продолжила:

— Вы никогда не узнаете, что было за двумя оставшимися дверьми. Но, решая это узнать, вы просите отворить другую дверь.

Я согласно кивнул.

— Но это будет уже новая задача, которая называется «что за одной из трёх дверей, одна из которых уже открыта». А раз задача новая, то и условия новые. — С этими словами на месте салфеток, что были прошлый раз, появились другие.

— Да, но вы их поменяли, — упрекнул я оппонента.

— А откуда вы знаете, что за дверью ничего не происходит после вашего выбора, когда вы выбираете что-то в интернете? — задала резонный вопрос собеседница. — Это и есть иллюзия выбора. И только читая книги, вы можете осуществить выбор свободно.

— А то продавцы книг не занимаются манипуляциями. А реклама? — возразил я. — Заходишь в магазин, и стоят пирамиды книг одного-двух писателей. В книготорговле такое же продвижение одних товаров и игнорирование иных. Какая же это свобода?

Елена Павловна вздохнула:

— Вы правы, Лаврик, правы, но для читающего книги всё же есть шанс выбрать желаемое. И читая, навык такого выбора у вас вырабатывается. А в Сети никаких шансов быть свободным нет. Аб-со-лют-но».

Этот текст писался, когда нейросети ещё не внедрились в браузеры. И была ещё иллюзия свободы. Сейчас мы столкнулись с тем, что ИИ ограничивает работу поисковиков.

Человек ленив и зачем ему открывать ссылки, если это может сделать нейросеть. И достаточно в первые пять-шесть раз убедиться, что новоявленный помощник выдаёт приемлемый результат, и всё — забываем про поисковики.

Напрочь.

Уже сейчас сетевые ресурсы бьют тревогу. Посещение сайтов сокращается на десятки процентов. Это пока, поскольку не всё ещё доверяют ИИ.

А что нас ждёт далее?

В части возможностей манипулировать населением нейросети, мониторящие новостные сайты и выдающие концентрированный результат, имеют перспективы огромные. Уже сейчас, открывая некоторые поисковики, мы видим, как на отправленные запросы представляется краткая выжимка. Это приучает нас не копаться дальше, а принимать информацию на веру.

Такая привычка делает человека легко управляемым. И несвободным.

Ещё более несвободным по сравнению со временем, когда мы имели ещё иллюзию выбора и листали страницы результата поиска.

А самые продвинутые заходили в архивы, изучали справочники, переходили по ссылкам к статьям в википедии.

Но, уже тогда было понятно что, коль, существует контекстная реклама, то уже нами манипулируют.

Критически настроенный читатель может возразить, мол, не ленись — листай страницы, переходи на сайты. И будет тебе свобода.

А сейчас мы видим возможности нейросетей.

И что мешает заинтересованным лицам, имеющим соответствующие средства, поставить задачу нейросети создать много сайтов, на которых разместить ложную информацию, проплатить за продвижение этих ресурсов и настроить ИИ таким образом, чтобы он большей частью брал информацию из нужных ресурсов?

Возьмём недавнюю трагедию с Боингом 777, выполнявшим рейс AI171.

По сети завирусился «предварительный отчёт» комиссии по расследованию. Очень складно там говорилось о причине. Мол, отъехало кресло капитана и он убрал мощность двигателей со взлётной до малого газа. Все атрибуты настоящего отчёта имели место. С одной неувязочкой: дата отчёта обозначалась ненаступившим 25.06.2025

И в сети начали серьёзно обсуждать «причину».

Я не специалист в области ИИ, но уверен, что тот, кто разбирается лучше меня, может привести и иные возможности нейросетей для манипуляций.

И что делать?

Соглашусь с героиней моей книги «Шахматный клуб»: читать книги.