Какого хрена LLM за деревьями леса не видит и как это относится к литературе?

 (spoiler: authors are safe, for now)

Мы живем в эпоху, когда из каждого утюга кричат: «Нейросети напишут книгу за тебя!», «Сценаристы больше не нужны!», «ChatGPT — новый Шекспир!». Но любой, кто пытался заставить языковую модель (LLM) написать нечто сложнее, чем пост для VK или рецепт шарлотки, знает горькую правду.

Текст выходит... нормальным. Гладким. Правильным. И абсолютно мертвым.

Почему, когда мы просим ИИ улучшить структуру текста или «причесать» черновик, он попутно убивает в нем всё живое? Почему за идеальными синтаксическими «деревьями» он в упор не видит смыслового «леса»?

Давайте разберем механику этого процесса. И вы поймете, почему настоящим писателям пока рано (или вообще не стоит) идти переучиваться на операторов станка.

Иллюзия «Тёмного Властелина» (или почему Jailbreak не спасет)

Тут обычно вылезают «мамкины хакеры» и говорят: «Пф-ф, просто ты не умеешь промптить! Я могу заставить ИИ материться, писать влажную порнуху и генерировать кровь-кишки-распидорасило».

Да, я в курсе. Обойти фильтры этики можно. Можно заставить модель выдавать запрещенные слова и описывать расчлененку. Но проблема не в цензуре, а в компетенции.

Даже «взломанная» модель страдает фундаментальным непониманием физиологии и её жесткой связки с психологией.ИИ может написать слово «оргазм» или «агония», но он не понимает механику процесса. У него нет тела. Он не знает, как адреналин сначала бьет в ноги, потом сушит горло, и только потом рождает мысль «беги».

Вместо живой сцены вы получаете механическое перечисление действий порно-актеров или анатомический атлас. Чтобы заставить ИИ написать сцену, от которой у читателя реально (физически!) перехватит дыхание, а не просто вызвать чувство неловкости, требуется сотни пинков ИИ «по нижней части спины». Вам придется вручную вписывать ему каждый нервный тик и каждую каплю пота, потому что для него это просто текст, а не рефлексы.

Синдром «Хорошего мальчика»

Главная проблема современных моделей — они слишком хорошо воспитаны. В процессе обучения (RLHF — Reinforcement Learning from Human Feedback) их жестоко дрессируют быть «безопасными», «полезными» и «вежливыми».

В литературе это катастрофа.

Литература — это конфликт. Это грязь, боль, неправильные решения, грубость, физиология и неудобные темы.Когда вы даете модели живую, «мясную» сцену и просите её отредактировать, включается внутренний цензор модели. Она видит слово «жопа» или описание насилия и думает: «Ой, это токсично. Это может кого-то обидеть. Давай я заменю это на "неприятные ощущения в нижней части спины"».

Результат: Вместо драмы вы получаете стерильный отчет для корпоративной рассылки. ИИ «сглаживает углы», потому что его так учили. Но именно об эти углы читатель должен раниться, чтобы сопереживать.

Дьявол не в деталях, дьявол и есть детали

Есть старая поговорка: «Дьявол кроется в деталях». В случае с ИИ это не совсем верно. В хорошей прозе дьявол и есть детали.

ИИ, обученный на миллиардах текстов, работает как усреднитель. Для него деталь — это просто декорация, «гарнир» к основному смыслу.

• Вы просите атмосферу упадка.
• ИИ пишет: «Обои были старыми и облупившимися».

Это «нормально», но это мертвечина. ИИ не понимает, что суть упадка не в слове «старый», а в конкретном пятне плесени, похожем на карту Африки, или в запахе вареной капусты, въевшемся в шторы.Модель пытается отбросить эти «случайные» мелочи, чтобы выделить «главное». Но в литературе именно эти мелочи и являются главным. Без них текст превращается в пересказ сюжета в Википедии.

Специалист подобен флюсу

Козьма Прутков гениально заметил: «Специалист подобен флюсу: полнота его односторонняя». Это — лучшее описание современной LLM.

Нейросеть — это абсолютный, недостижимый для человека специалист... но только в одной узкой области: синтаксическая вероятность.Она знает всё о том, как слова стыкуются друг с другом. Она знает грамматику лучше любого профессора филологии. Но её полнота односторонняя.

Она ничего не знает о жизни.Она знает слово «боль», но никогда её не чувствовала. Она знает слово «любовь», но это лишь вектор в многомерном пространстве эмбеддингов. Поэтому, когда вы просите её описать человеческий опыт, она выдает вам симуляцию опыта, построенную на статистике, а не на реальности.

Мультиагентные системы: банда вместо консилиума

Сейчас модно кричать, что проблему тупости одной модели решат мультиагентные системы. Мол, мы возьмем «Агента-Писателя», «Агента-Критика» и «Агента-Редактора», заставим их общаться друг с другом, и в споре родится истина (читай: шедевр).

В теории это звучит как симфонический оркестр. На практике это напоминает басню «Квартет», только у всех музыкантов, возвращаясь к Пруткову, — флюс. Причем флюс с одной и той же стороны.

Если один «специалист с односторонней полнотой» видит мир через призму безопасных и вероятных токенов, то что будет, если собрать их десяток? Вы получите не синергию, а эхо-камеру.

• «Агент-Писатель» выдает стерильный текст.
• «Агент-Критик» (обученный на тех же RLHF-рельсах) хвалит его за безопасность и просит «добавить структуры».
• «Агент-Редактор» вычищает остатки живой речи.

Вместо того чтобы компенсировать слепоту друг друга, они её усиливают. Это не консилиум врачей, где хирург спорит с терапевтом. Это собрание людей, которые читали одни и те же методички по вежливости.

Более того, мультиагентность в литературе порождает Эффект Франкенштейна. Текст — это цельный поток, где ритм первой фразы влияет на эмоциональный удар в финале. Агенты же работают дискретно: один пришивает ногу, другой — ухо. Швы видны, кровь не циркулирует, монстр ходит, но жизни в нем нет.

Сумма десяти «флюсов» не дает здоровое лицо. Она дает опухоль. Без человека-Директора, который будет бить каждого агента палкой и орать: «Не структуру правь, идиот, а добавь боли!», эта банда просто вежливо заболтает ваш сюжет до смерти.

Ловушка структуры: форма пожирает содержание

Представьте, что вы просите архитектора построить дом с привидениями. А он настолько увлекается соблюдением СНиПов, ГОСТов и идеальной кладкой кирпича, что в итоге строит стерильную поликлинику. Привидениям там жить негде — слишком светло и чисто.

Это то, что происходит при «рефакторинге» текста. Когда вы просите модель: «Структурируй этот отрывок, разбей на пункты, проверь логику», — её вычислительные ресурсы («внимание») переключаются на форму.

Модель начинает думать:

• «Здесь нужен жирный шрифт».
• «Здесь маркированный список».
• «Здесь надо закрыть скобку».

В этой погоне за идеальной структурой (те самые «деревья») теряется «лес» — уникальный стиль, авторская интонация, жаргон, намеренные ошибки в речи персонажа. Для модели это «шум», который мешает идеальной структуре. И она этот шум удаляет. Вместе с душой текста.

Проклятие усреднения (Semantic Sterilization)

Как работает LLM? Грубо говоря, она предсказывает следующее наиболее вероятное слово. Ключевое слово — вероятное.

Великая литература строится на маловероятном. На неожиданных метафорах. На странных сочетаниях слов. На том, что Набоков назвал бы «божественной деталью».

• Человек напишет: «Закат кровоточил, как раздавленная ягода».
• ИИ (стремящийся к среднему значению) исправит: «Закат был ярко-красным и красивым».

Почему? Потому что статистически слово «красивый» встречается рядом со словом «закат» в миллиард раз чаще, чем «раздавленная ягода». Модель всегда тяготеет к «среднему по больнице». Она берет ваш уникальный, странный, кривой стиль и приводит его к общему знаменателю. Она делает текст «нормальным». А в искусстве «нормально» — это синоним «плохо».

Почему авторы в безопасности?

ИИ не понимает контекста боли. Он может имитировать стиль Хемингуэя, но он никогда не чувствовал, каково это — получить ранение на войне или потерять любовь.

1. Отсутствие тела: У ИИ нет «рептильного мозга». Он не знает, как сжимается желудок от страха. Он знает только слова «желудок» и «страх». Поэтому его описания всегда будут чуть-чуть «пластмассовыми», пока человек жестко не заставит его добавить физиологию.
2. Отсутствие намерения: Автор использует "плохой" синтаксис или обрывает фразу не потому, что ошибся, а чтобы создать напряжение. ИИ видит ошибку и исправляет её, убивая ритм.

Итог: Кто кого?

ИИ — это великолепный инструмент для создания «скелета». Он отлично справляется с клише, структурой и рутиной. Но не надейтесь, что «взлом» фильтров или сложный промпт заменят вам понимание человеческой натуры.

Если вы отдадите ИИ контроль, он превратит ваш рок-концерт в утренник — даже если на этом утреннике будут материться. Материться они будут без души.

Spoiler: Авторы в безопасности, пока у ИИ не появится тело, способное чувствовать боль. А до тех пор ваша способность замечать дьявола в деталях и ваша «односторонняя полнота» живого человека — это то, что делает вас незаменимыми.