Почему нейросети не заменят писателей

То есть, не всех! И не в ближайшие 5 лет!)

Как читатель я, конечно, сильно страдаю от засилья на площадке ИИ-текстов. Лидербордам верить нельзя, взаимные авторские рекомендации – ложь и маркетинг, отзывы/лайки/оценки – это, во многом, вопрос того же маркетинга. Приходится читать любимых проверенных авторов (не доверяя их рекомендациям) и искать НЕкоммерческие тематические подборки. Ужос(

Чего не нравится в ИИ-текстах: водянистость и преснота. Безупречно грамотные, с правильно расставленными тире-дефисами, отлично настроенной темпоритмикой, по-бунински вылизанной сочетаемостью слов, натасканные на авторский стиль.... и абсолютно нечитаемые, если ты ждешь от каждого абзаца юмора, самоотсылок, забавного рефрена мыслей, качелей ценностей, динамики отношений и диалогов, консистентности и креативности в проблемах-решениях главного героя. 

Почему же тексты очищены от этих излишеств? И исправится ли ситуация? 

И сразу же мой прогноз#1: нет, лучше не станет, тренд AI-генерации текстов логично пройдет до упора, к 2030-му году 80% читательского контента будет безавторным, полученным в нейроконструкторе: настраиваешь сеттинг, жанр, любимого автора, уровень нуарности, процент промежуточных хэппи-эндов.... и читаешь/слушаешь гигабайты текста-жвачки, построенного специально для тебя любимого. Скучновато, пресновато, но с идеальной для озвучки темпоритмикой. Перед сном – идеально.

Сейчас оно уже почти так и работает, просто площадки пока еще готовы делиться прибылью с операторами нейросетей, которые ставят на такие тексты свое имя. И вместо динамической генерации читателям приходится прокликивать заранее собранные коллекции в 50 томов.

Почему площадки пока что разрешают собирать прибыль внешним "авторам"?
Потому что анализ трендов, запуск маркетинговых компаний, настройка AI-систем продуцирования стилизованного текста ... все эти довольно трудоемкие задачи пока не запакованы в единый удобный инструмент, требуют приличной квалификации и энтузиазма. Ну и немножко стесняются площадки, робко перекладывая репутационные риски на "авторов". Что, разумеется, вопрос временный. Про капитализм и 300% прибыли все сказали еще до нас.

Что же останется авторам, которые авторы? И что за проблемы есть в AI-текстах? Почему бы просто нормальным авторам не взять этот новый удобный инструмент и не создавать каждую неделю новый том "настоящих текстов"?

Почему мы должны неделями выпрашивать у Ильина проду "Черновика для Эффы?")

Простой ответ – LLM-модели плохо решают задачи креативной генерации, они созданы для другого. И обычный автор из этого инструмента качественного текста быстро получить не сможет. По техническим объективным причинам. Не от нежелания или ретроградности, а от непригодности инструмента.

Почему так получается? Потому что LLM – эта эволюция концепта рекурентных сетей до математического трансформера, оптимизированного под решение задачи прогнозирования токена. Звучит сложно, но по факту это обычное угадывание следующего слова. Все остальные задачи, хоть AI-модели игры в Го, хоть перевода на испанский, хоть решения олимпиадных задач по химии – это обертка над угадыванием слова... с очень неприятным сайд-эффектом: основной вариант подбирается отлично, запасной – сильно хуже, дальше начинается ересь. И что самое фатальное – ересь, неразличимая в терминах вероятностей. В математике это называется неустойчивой задачей, когда незначительные изменения входных данных очень сильно (и даже неконтролируемо) влияет на получаемое решение.

У Google есть мощный курс обучения их AI-инструментам. И там в лабораторной по настройке внутри AI-Studio параметров gemini моделей есть классный пример:
на низкой температуре LLM заканчивает фразу "у нас в саду..." вариантами
"высокие деревья"-50%, "красивые цветы"-25%, "густые кусты"-24%. Все остальные варианты "креатива" теряются в долях процентов. 

А если поднять LLM температуру или отбросить первые, самые скучные варианты, то начнется неуправляемый ад про "у нас в саду фиолетовые жуки", "у нас в саду трупики кротов", "у нас в саду оргия марсиан" ... и еще большая ересь с примерно одинаковыми вероятностями без четкого понимания, что именно тут можно выбрать. Вся корректная математика закончилась на первых вариантах, дальше без подсказки человека креатив быстро разнесет художественный текст в куски.

И текущая Американо-Китайская гонка моделей нацелена на улучшение первых вариантов, на оптимизацию задачи прогнозирования самого вероятного токена. В условиях жесткой конкуренции и триллионных расходов на инфраструктуру датацентров улучшений в выборке высокотемпературных креативных опций я в ближайшие годы не ожидаю.

Из-за этого авторы гигабайтов текста в единицу времени вынуждены работать на низкотемпературных скучных настройках для моделей. И так оно и останется в ближайшие годы.

И чем же плох низкотемпературный нейрорслоп, которым сейчас забита площадка? Может быть надо чуть-чуть потерпеть и привыкнуть? Это просто вопрос вкусовщины?

Нет! Тут ответ однозначный. Нейротексты не просто "на любителя", они именно, что плохие. Любой автор текстов, сценариев, нарративных квестов и т.п. знает (ну, или интуитивно чувствует) правило отбрасывания первых вариантов.

Если ваш главный герой задумался, стоит ли убивать злодея, то варианты "убить" и "не убить" можно сразу выбросить. Возможно, пистолет даст осечку, может быть, злодей сам себя застрелит в бессильной злобе, может, второстепенный герой вдруг вмешается.... но два самых очевидных варианта надо выбросить.

То же самое с диалогами. Если героя спросили, как его зовут, то он может ответить сотней разных способов.
– А кого ты ищешь?
или
– А какое имя, милый, мне больше подходит?
или
– Не придуривайся, Джон, ты и так знаешь.

И еще сотня разных вариантов... единственное, что он не должен делать, это реально отвечать, как его зовут.

Но низкотепературная ИИ-генерация так не может. По техническим соображениям. Поэтому мы получаем сцены "служанка постучалась, я ее впустил, она спросила как я, я ответил как я, она подмигнула, я пожамкал, она ушла, я закрыл дверь". И интриги уровня "и тут появился убийца, а я и не подумал, что будет убийца, и он наставил пистолет, а я подумал, как же я лопухнулся, и он выстрелил, а я умер, но тут я воскрес...". И так тысячи сцен подряд на десятки томов. И с этим явлением уже ничего не поделать, думаю, большая часть нарративного контента вокруг нас вскоре будет именно такой.

Но появляется ниша для авторов нового типа, генераторов креативного нейротекста.
И это мой прогноз#2: к 2030 году появится новый тип авторов художественных текстов, использующих LLM в режиме human-in-the-loop (человек выбирает или дополняет LLM во всех критических точках). Этим можно и сейчас заниматься, но такой процесс написания художественного текста очень трудоемкий и выматывающий, лежит на стыке "автор с интересными ходами и нестандартными идеями" и "оператор нейросетей, знает особенности LLM, заранее оценивает перспективные и тупиковые варианты". Традиционным авторам в этой нише делать нечего, их подобный вариант использования нейросетей только замедлит. Удобных инструментов для такой работы я пока не видел. Хотя потенциал высокий, и, я думаю, как минимум 10% литературного рынка в будущем уйдет в этот сегмент.

А старые авторы? Остается ниша для классического буквосложения?
На мой взгляд, крошечный процент рынка – абсолютно да, вообще без сомнений. Ручная резьба по дереву или изготовление костяных свистулек присутствует и в XXI-веке. И всегда будет. 

А более массовый вариант? Тут уже более дискуссионно, но мой прогноз#3: "тоже, да". Думаю, последние 10% рынка уйдет авторам старой школы. У которых предложения составлены слово за словом вручную, решения персонажа вызывают "вау", диалоги провоцируют улыбку, а сквозная характеристика персонажа неявно сквозит во всех его решениях и поступках. Не гипертрофированно и строго по чек-листу, а в сложно формализируемой гармонии, приносящей эстетическое удовольствие.

И сцены проскальзывают не в пустом бессмысленном порядке наполнения объема, а в последовательности сложных выборов, раскрывающих суть персонажа.

И интересный вопрос, а откуда в 2030-м году будут появляться такие авторы? Если любое написание письма, сочинения, школьного доклада, служебной записки и даже сообщения в чат будут идти через LLM? Откуда взяться навыку интересного составления слов, нагнетания атмосферы и т.п.?

Вот тут мой прогноз#4: прежний цикл формирования новых авторов сломается. Уже не будет такого, что "сначала мне захотелось записать интересную сценку, потом я составил историю, потом я написал первый рассказ, потом научился литературно оформлять текст: убрал слова-паразиты, распрямил гусеницы, развернул обороты, правильно согласовывал времена, вычистил аллитерации и т.п.". Вместо этого уже первый свой текст авторы научатся оформлять "не хуже, чем LLM". Не представляю, как это будет происходить, но без этого, на мой взгляд, заход на поле словокомбинирования не будет жизнеспособным, что-то в обучении должно будет поменяться.

А можно как-то все это отменить и сделать как раньше?
Думаю, если только на руинах цивилизации.
В ином варианте запихнуть джина обратно в бутылку не получится даже берцами.
Просто отмахиваться на "да там же бывают галлюцинации" или "сейчас побалуются пару лет, а потом все вернется как встарь" – это самообман.

Уже сейчас ИИ хорошо справляется с предоставлением справочной информации, переводом реплик, подсказками по синонимам, улучшением в реальном времени качества текста (водность, тошнотность, лексикон, неудачные аллитерации, грамотность, близкостоящие однокоренные, слова с избыточной частотностью итп).

Проблемы галлюцинаций и ложных аффирмаций (бессмысленных поддакиваний по любому вопросу с тягой к позитивным ответам) от ИИ, на моей практике, легко устранялись спецификациями, циклами самодиагностики и обычными инструментами промпт-инжиниринга (цепочка размышлений, пруф-цитаты, встречный диалог агентов и т.п.). Более того, с каждой новой моделью эти проблемы становятся все незаметнее, так что даже в среднесрочном прогнозировании я бы на них не обращал внимания и вовсе.

И даже без учета позитивной динамики, AI и сейчас ошибается реже обычных людей. От специализированной шахматной ИИ-модели вы не дождетесь слабого хода, не смотря ни на какие размышления про "но тут же случайные математические веса, могут быть ошибки".... нет, ошибки не будет. Стокфиш или АльфаЗиро размажут в шахматы Магнуса Карлсона в миллионе случаев из миллиона. В миллиарде из миллиарда.

Так что новая реальность с тектоническим сдвигом уровня "появление в жизни людей ЭВМ" уже состоялся, мир прежним не будет.

Ну а пока остается угадывать и вписываться в тренды. Или игнорировать и страдать.

И в любом варианте просить у Ильина проды "Черновика для Эффы")

Cводный список моих прогнозов на 2030, "скриньте этот твит!")
прогноз#1: 80% контента будет из нейроконструктора: настраиваешь сеттинг, жанр, любимого автора, уровень нуарности, процент промежуточных хэппи-эндов.... и читаешь/слушаешь гигабайты текста-жвачки, построенного специально для тебя любимого.

прогноз#2: 10% контента от авторов, использующих LLM в режиме human-in-the-loop (человек выбирает или дополняет LLM во всех критических точках).

прогноз#3: 10% рынка уйдет авторам старой школы

прогноз#4: новая методология становления "автором старой школы", с другой логикой обучения писательству "первый текст не хуже, чем LLM"