Нейросети: взвешенный взгляд со стороны

Сразу скажу, статья не моя, как и комментарий. Но дельно сказано

**

Крупнейшая афера тысячелетия?

Цена вопроса 35 трлн, именно настолько «надрочена» избыточная капитализация американского рынка от ожиданий первичных, вторичных и третичных эффектов от потенциального применения ИИ, причем никто вообще не понимает и самое печальное, что даже понять не пытается, что вообще происходит.

Да, LLMs – это удивительное изобретение, которое позволяет «оживлять» мертвецов (с очень правдоподобной симуляцией голоса, анимацией лица и движений), создавать удивительные дипфейки, что открывает фантастические возможности в мошенничестве, генерировать бесконечные потоки мемасиков и контента, не отличимого от человеческого бреда в социальных сетях, писать душещипательные поздравительные открытки для друзей, с которыми не хочется разговаривать, и, конечно же, помогать школьникам и студентам списывать домашние задания на качественно новом, доселе невиданном технологическом уровне.

LLMs способны создавать миллионы рецептов несъедобных блюд, сочинять бездарные стихи в промышленных масштабах и убедительно доказывать в интернете, что земля плоская, используя для этого тысячи безупречно сгенерированных псевдонаучных статей.

По всей видимости, в этой новой идиотической нормальности возможность сгенерировать дипфейк Элвиса, поющего о преимуществах нового пылесоса, и является тем самым драйвером производительности, который оправдывает оценку, превышающую ВВП нескольких континентов. Логика покинула чат, оставив вместо себя нейросеть.

Вся эта конструкция держится на фундаментальном принципе современной финансовой алхимии: ценность актива определяется не его реальной полезностью или способностью генерировать денежный поток, а исключительно плотностью и агрессивностью информационного потока вокруг него.

Реальность отменили. Факты и фундаментальные показатели объявлены устаревшим, токсичным наследием прошлого.

Главным сырьем в этой новой экономике стала концентрированная, дистиллированная вера в чудо, помноженная на панический страх упустить возможность поучаствовать в коллективном безумии (FOMO).

Любой абсурд легитимизируется самим фактом своего существования: если рынок оценил компанию, сжигающую миллиарды на генерации картинок с котиками, в триллион долларов, значит, так тому и быть.

Это и есть та самая «новая постковидная нормальность цифровой ИИ эпохи», которую пытаются навязать сверху, – мир, где галлюцинации официально признаны более весомым активом, чем нечто, что отдаленно похоже на реальность.

Если рынок оценивал индустриальную революцию и фундаментальные прорывы в телекомах, интернете, компьютерах, мобильных устройствах, экосистеме мобильных приложений, в социальных сетях в 2 трлн 10 лет назад, то почему чатботы, которые не генерируют ничего, кроме убытков, должны оцениваться в 22 трлн? Совсем рехнулись?

Если серьезно, да LLMs очень полезны в написании кода, помощи в решении прикладных задач, помогают обобщать, систематизировать, сравнивать огромные массивы информации и агрегировать, классифицировать неструктурированные массивы данных, могут помочь в «мозговых штурмах», в разборе инструкций, законов, открывают некоторые возможности для исследований и в ответах на вопросы.

Вне всяких сомнений, LLMs –  это величайшее изобретение человечества, способное принести пользу, автоматизируя рутинные задачи, открывая уникальные возможности (и даже совершать чудеса) при правильном использовании, но не тем заявленным эффектом в десятки триллионов, которые рынок уже по факту вшил в ожидания.

Вопрос не в пользе (не оспаривается), а в оценке экономического эффекта, который не так очевиден, как кажется, но об этом подробно в других материалах.

Здесь же закончу тем, что даже сами провайдеры ИИ не понимают, что происходит. Я перечитал все их публичных отчеты и интервью с 2023 года, но ни в одном не было ни одного намека на концепцию монетизации ИИ и прямой эффект для их бизнеса (не потому, что скрывают, а потому, что сами не знают). Действуют на ощупь, боясь упустить развитие технологии на начальном этапе. Верят, что это круто, не понимают, как будет работать и что даст в итоге.

**

Комментируя всеобщее сумасшествие и эфорию по поводу нейросетей, могу сказать, что такого же эффекта ждали от 3D и VR технологий. Сейчас они стоят на полке. Технологическая сингулярность не наступит без человека. Потому что в итоге LLM - это автоматизация ML (machine learning) технологий. Но ни одна автоматизация не дает в долгосрочной перспективе бесконечного прироста капитализации. Не столкнёт развитие нейросетей и в разнообразный киберпанк и замещение человека, как пугают определённые круги. Киберпанк  - это не единичная супертехнология. Это массовый рыночный продукт. Простой и реплицируемый. Сегодняшние технологии нейросетей по  сути аналог имплантированных неодимовых магнитов в клиторе для дистанционной мастурбации (не удивляйтесь, в некоторых странах врде США в определённых кругах массово ставят). И да, сам неодимовый магнит очень полезное и востребованное изобретение... на своём месте. Нейросети превратились в суррогат мысли для дебилов, неспособных к самостоятельному творчеству в массе. Единицы талантливых людей способны выжать из LLM максимум и они-то и создают флёр великого прорыва.

Этот пузырь наращивания возможностей нейросетей как гигансткого калькулятора упрется в простую формулу экспоненциального роста по закону Амдала, когда каждое последующее улучшение модели будет замедлять и ухудшать ее качество ввиду задействования бОльшего количества серверной мощности при масштабировании. При неизменном подходе к капитализации LLM, его ждет место голосовых помощников, а все миллиардеры поделятся на тех, кто снял сливки и вовремя слил бизнесы и тех, кто потерял вложенные деньги на пустой технологии.

UPD. Из свежего так сказать в качестве иллюстрации.

Оказывается, фирмы с громкими названиями Deloitte, KPMG, EY, PwC и др. забывают проверять данные от ИИ. Или просто не хотят. Фактически, они забили болт на то, как повсеместное внедрение ИИ влияет на их качество аудита. Соответствующее расследование провел Совет по финансовой отчетности Великобритании. Представьте: вы нанимаете крутую фирму, чтобы она разобралась с вашими налогами или бизнес-планом, а тамошний ИИ, вместо того чтобы всё посчитать, выдаёт отчёт, где половина цифр — просто красивая фантазия. И почти все «ссылки на источники» не существуют. Фантастика? 

Аудиторы из Deloitte готовили исследование для правительства Австралии. На первый взгляд всё было классно: ссылки, различные мнения… Однако, чиновники стали смотреть внимательно и выяснилось, что многое — просто выдумка. Припёрли к стенке ответственных в Deloitte, и те признались: нейросети вот так «помогли»…  Теперь компания готова заплатить заказчику 440 тыс. долларов. Нет, не потому что осознали ошибку, просто их поймали. А сколько не поймали и как быстро начнётся обрушение рынка, когда число липовых отчётов аудиторов перешагнёт пороговое значение?