Хроники нейропокалипсиса. Выпуск 3

Что ж, продолжаем веселье.

Пока всё дорожает, дата-центры строятся, бабосики мутятся, глазастые граждане подметили очень нехорошую тенденцию.

Исследования уже демонстрируют тревожную закономерность: нейросети постепенно «поедают» собственный контент, и это приводит к неуклонной деградации качества. С каждой новой итерацией генерируемые результаты становятся всё более шаблонными и искажёнными, теряя разнообразие и выразительность.

В недавней работе, опубликованной в журнале Patterns, международная группа исследователей смоделировала этот процесс. Они объединили генератор изображений с системой автоматического описания картинок и запустили их в замкнутый цикл — без привлечения новых данных, созданных человеком. Спустя несколько итераций система начала выдавать крайне безликие изображения, лишённые индивидуальности. Авторы метко окрестили их «визуальной музыкой для лифта» — предсказуемой, невыразительной и лишённой творческой искры.

Этот эксперимент вскрыл фундаментальный феномен: даже без дополнительного обучения автономные петли обратной связи в ИИ естественным образом дрейфуют к общим аттракторам — усреднённым шаблонам, которые кажутся системе наиболее «безопасными» с точки зрения статистики. Вместо развития модель постепенно схлопывается в зону максимальной предсказуемости и минимального риска, утрачивая способность к генерации оригинальных решений.

Ситуация осложняется тем, что алгоритмы уже активно продвигают ИИ‑контент в топ поисковых и рекомендательных систем, вытесняя человеческие творения. Хотя сторонники технологии настаивают, что человек останется «финальным судьёй творчества», реальность оказывается сложнее. Медиация культуры через ИИ всё чаще фильтрует поток контента в пользу знакомого и предсказуемого. Сам механизм работы статистических моделей подталкивает их к усреднению: система естественным образом выбирает наиболее вероятные, а значит — наиболее шаблонные решения. В результате возникает замкнутый цикл самоподкрепления, где каждое новое поколение контента становится ещё более обезличенным.

https://www.goha.ru/generativnyj-ii-nachal-degradirovat-iz-za-otsutstviya-novyh-dannyh-d2yJz5

В статье, правда, есть довольно наивные и глупые слова:

Чтобы предотвратить культурную стагнацию, исследователи подчёркивают необходимость принципиальных изменений в подходе к разработке ИИ. Ключевым условием сохранения творческого разнообразия становится активное вовлечение человека в процесс генерации. Именно коллаборация человека и машины способна противостоять дрейфу к усреднённым результатам.

Без таких мер генеративный ИИ рискует превратиться из инструмента творчества в механизм его усреднения. Вместо обогащения культурного ландшафта он будет воспроизводить и усиливать шаблоны, постепенно сводя на нет разнообразие человеческого выражения.

Как-будто производителям хрючева важно, чтобы "контент" был хорошим, ага-ага. Достаточно поглядеть на топ АТ, чтобы понять: качественное нахер не впёрлось ровным счётом никому. А вот средненькое, гладенькое, серенькое - это то, чего потребитель жаждет всей душой. 

И он может возрадоваться - нейронки, даже если надуваемый пузырь и лопнет, дадут ему желаемого. Зальют с кормовой лопаты в широко раззявленую пасть. Уже заливают.

Тем не менее, в статье поднята действительно важная проблема - деградация самообучающихся систем в отсутствии притока "свежей крови". Она же перекликается с другой фундаментальной проблемой, о которой я не раз говорил знакомым. Имя ей - разрушение цикла обучения.

Система ученик -> подмастерье -> мастер тупо рассыпается, потому как нейронки железным сапогом проходятся именно по низкому и (отчасти) среднему уровню.

Да, суровому профи, они не помеха сейчас и не конкурент в будущем. Он использует их себе во благо. Вот только чтобы стать таковым этот профи годы и десятилетия отдал саморазвитию. Делая простенькие арты, создавая посредственные песни, озвучивая эпизодических персонажей и т.д. Сейчас же это всё становится не нужно, потому что нейронка гарантированно сделает дело лучше, чем новичок. А раз так, то зачем ему платить? А если нет хотя бы какого-то дохода, то как новичку развивать навыки? В свободное от работы на заводе время? Ну-ну, удачи.

К чему это может привести? Ну, тут советую послушать вот этот видос:

Не обращайте внимание на кликбейтное название "Как нейросети убивают игры". Проблема, поднятая в ролике, куда глубже и серьёзней. И она УЖЕ есть, она УЖЕ гробит целую профессию. Профессию актёров озвучания.

Правда автор, увы, не стал указывать на то, что это всё просто создаст ещё один стеклянный потолок, благодаря которому в профессию, занятую нейрослопом, сможет пробиться либо очень богатый человек, либо человек, сумевший соснуть продюссерского хуйца попасть в систему и получить протекцию. Например, на условиях кабального договора вроде тех, что подписывают южнокорейские трейни.

В любом случае, будет весело. Но, боюсь, не нам.

Ну а нам я могу дать лишь один совет, который вы и так знаете. Терпим, карлики!

Ну и чтобы терпелось бодрее, поставлю какой-нибудь заводной нейротрек.