Скандал с Застенчивой девушкой

Ну вот, наконец можно поговорить о реальных проблемах нейросети, а не гонять одни и те же мысли по кругу, допустимо ли автору использовать ИИ. И смогут ли бездушные алгоритмы заменить автора. 

После поста  Кью я тоже решила высказаться. Тема как раз, считаю, важная и нужная. И подсвечивает все с неожиданной стороны.

Сразу скажу, что книгу не читала, видела только фрагменты и цитаты, что остались в сети, но мне их хватило для понимания. Я такое в принципе не читаю, не мой формат, даже если это считается новым словом в литературе.

Роман взлетел черным лебедем над книжной индустрией. И, скорее всего, изменит правила игры на рынке. И мне очень любопытно, во что это выльется в итоге. Индустрия и так на ладан дышит, а тут что-то вроде агонии уже. В общем, возможно это начало конца эпохи.

Давайте пойдем по хронологии.

Начало

Мия Баллард выложила Застенчивую девушку на Amazonв прошлом году. Книга самиздатная, но быстро стала хитом на площадке, и за права на нее бились издательства Большой пятерки. Hachette выиграли, выложив, по слухам, шестизначную сумму аванса. Они планировали масштабный проект с переводом сразу на несколько языков.

Продолжение

Книга прошла через штатных редакторов. И это самый позорный момент во всем деле – все, кто работал на разных этапах, либо не заметили триггеров, либо закрыли на них глаза, потому что проект уже был в стадии запуска.

Они даже оставили оригинальную обложку, слегка поправив ее, что стало главной похоронкой для книги.

Конец

После выхода книга попала в поле критиков NYT. Одно дело самиздат, на него никто внимания не обращает, но флагманский хоррор одного из крупнейших издательств, это уже серьезно. 

И самое любопытное, что  инициировали они масштабную проверку не потому что посчитали текст генерацией, а потому что были шокированы этической пустотой текста, который официально считался литературой первого эшелона.

Причина

Издатели стали ориентироваться на статистику просмотров и покупать готовый успех, а не искать авторов самим и работать с ними как раньше. Они перестали доверять своему вкусу и полностью стали зависимы от алгоритмов.

Роман вышел в феврале и позиционировался как интеллектуальный хоррор нового поколения, исследующий темные грани зависимости. Книга успела попасть в бестселлеры по нескольким категориям.

Но 12 марта были опубликованы результаты расследования NYT.  И сразу после этого книгу стали отзывать из магазинов и удалять на всех платформах.

Расследование NYT  включало:

Техническую экспертизу текста

Этим занимался не кривой детектор, а группа лингвистов из Стэнфорда.  Анализ показал высокое совпадение структуры большинства предложений с логическими цепочками модели Claude 4. Но даже такой глубокий анализ не дает стопроцентных гарантий доказательств генерации текста.

Разоблачение обложки
Шотландская художница Вин Льюис узнала свою работу, которую она выкладывала на Pinterest.

Это стало юридическим основанием для немедленной блокировки продаж.
Ловушка
Критики заметили, что в тексте присутствуют галлюцинации объектов, что характерно для ИИ, который не держит физическую модель мира.

Общественный резонанс

Но главной проблемой литературное сообщество посчитало не использование ИИ, а этическую подмену.

Не секрет, что издательства массово увольняют редакторов, заменяя их алгоритмами. И это стало одной из причин, что никто не заметил аморальности сюжета, посчитав тему коммерчески успешной.

Этический аспект

В рецензиях это называлось порнографизацией ментальных расстройств. Страдания девушки с ОКР описаны не как художественное исследование, а как технический процесс. В тексте отсутствует рефлексия и  эмпатия к состоянию героини. 

Slate

Это выглядит так, будто нейросеть прочитала медицинский справочник и решила, что самоповреждение - это отличный эстетический штрих для хоррора.

The New York Times 

В колонках писали, что проблема не в сюжете, литература знала сюжеты и похлеще, и не в том, кем это написано, а как все подано. В тексте отсутствует рефлексия и авторская оценка. Финал, где героиня звереет и принимает насилие как свободу, это этический провал и отключение морального компаса в погоне за прибылью. 

Reddit и соцсети

Здесь обсуждались именно этические моменты. Одни говорили, что для темного хоррора это допустимо, другие считали опасным текст, который показывает зло без какой-то авторской надстройки.

Publishers Weekly

Они писали о кризисе доверия, что пугает не то, что ИИ напишет книгу, а что издатели перестали отличать искусство от опасного суррогата.

В общем, официально книгу забанили за обложку, но  возненавидели за содержание.

Издательству выгодно слить книгу именно по техническим причинам (обложка и ИИ) и перевести стрелки на автора, потому что это снимает с них ответственность за одобрение аморального контента. 

В чем  главная проблема?

У нейросети нет никакой позиции, она не высказывает мнение и не чувствует боли, и главный риск, что без понимания специфики работы с ней история рискует превратиться в психопатический отчет. Пока автор не знает, как задавать вектор тексту, он будет выглядеть аморально пустым.

В случае с развлекательными жанрами это не так страшно, потому что они не несут серьезных проблем как правило и держатся исключительно на сюжетных ходах. Но когда дело доходит о острых социальных проблем, которые поднимают в литературе, это становится критически важным.

Если посмотреть на известные темные истории, можно увидеть, что в каждой из них есть ярко выраженная авторская позиция. Например, Декстер страдает от своей природы. Это диалог с тьмой.

Или Молчание ягнят не история про крутого маньяка, а про девушку, которая учится смотреть в бездну, не теряя себя.

Мы проходим через ужас и чувствуем отношение автора к происходящему. У нас есть ориентиры и свет.

А что в Застенчивой девушке?

Главная проблема - отсутствие точки опоры. Алгоритм описал унижение и насилие как если бы это был рецепт пирога. За этим текстом только перебор тропов без вектора. Без какой-либо авторской надстройки.

Hachette хотели нового «Коллекционера», а получили пыточный чек-лист и не заметили этого. И подсветили тем самым главную проблему нейросетей, о которой до этого мало кто говорил. Она в том, что ответственность автора никуда не девается, если он пользуется этим способом работы с книгой. Важно руководить процессом, а не отдавать его на произвол. 

Нейросеть работает как зеркало и усилитель автора. Если вы ставите задачу написать шок-контент на определенную тему, она выдаст набор штампов и жестокости. Сеть не понимает, для чего это нужно, зачем та или иная сцена в истории, ей все равно. Что описания страданий человека, что описания деревьев в лесу, для нее все едино. 

Для автора, если он хочет работать с сетью, жизненно важно научиться задавать вектор. Нейросеть может описать комнату, но она не понимает, зачем, что вы хотите показать через него – герою здесь неуютно или наоборот, хорошо. У ИИ нет цели.

Можно попросить написать сцену насилия, но только автор сможет сделать так, что она будет выглядеть либо трагедией, либо пустым аттракционом. Все зависит от задачи, которую вы задаете, и как потом работаете с текстом.

Автору надо развивать навыки управления историей, накладывать свой этический фильтр на текст, добавлять ту уникальную грязь и личный опыт, который недоступен алгоритму.

Если вы не задаете истории человеческий вектор, вы получаете Застенчивую девушку, технически правильный, и даже востребованный, но мертвый и опасный продукт.
Дальнейшее за теми, что понимает, что смысл и этика всегда работа живого человека.