Признаки жизни в тексте вместо признаков ИИ

Пора признать, что охота на нейроведьм зашла в тупик. Пока одни пилят все более сложные модели для анализа, другие проводят эксперименты, показывая, что за пару дней и пару сотен итераций можно добиться текста, который детектор будет маркировать человеческим.

И теперь нам грозит новый виток – любой текст, независимо от показаний детектора, можно признать генерацией. Синий цвет отныне вовсе не означает, что текст прошел проверку. Так что в опасности все, даже те, кто яростно борется против, могут получить обвинение в качественной правке генерата. 

В общем, за что боролись…

То, что все детекторы ведут в тупик, стало понятно, когда сами создатели признали их неэффективность. Но у нас есть странная традиция – все, что там утрачивает актуальность, у нас подхватывается и развивается, особенно если за этим стоит освоение средств.

И пока мы варимся в своем бульоне, основные цифровые игроки уже сменили критерии оценки и ввели модель EEAT 

(опыт, экспертиза, репутация, доверие), где алгоритмы ищут не внешние признаки генерации, а признаки жизни. Большинство соцсетей в этом году уже перешли на этот принцип в рекомендациях и пессимизации контента.

Все это вполне применимо и к художественному тексту, особенно первые два критерия, про личный опыт и экспертизу.

И вместо того, чтобы искать характерные обороты и конструкции, которые могут вообще ни о чем не говорить, можно попробовать найти в тексте то, что невозможно подделать.

Есть вещи, которых невозможно добиться перебором слов.

Опыт - личные детали

Нейросеть берет детали из базы данных, они часто носят обобщенный характер, либо это какое-то клише, либо странное сравнение, которое кажется нелепым. 

Например, нейросеть может написать, что кофе был горячим и горьким. Это общие, наиболее часто встречающиеся характеристики кофе. Так может написать и живой автор, если он новичок, и не знает пока, как доставать из памяти ощущения. Или профи, если это нужно для ситуации. Ну и человек, который кофе не пьет, и для него это просто напиток.

Общие детали – это безопасная зона, где риск ошибиться минимален. Но там и нет жизни. На этой территории нейросеть чувствует себя хозяйкой. Для машины кофе – это концепция, для человека – столкновение с реальностью. 

Если задать более сложную задачу, то можно получить сравнительный ряд, похожий на абстрактный китч.

Вкус кофе был глубоким, как сама полночь, и горьким, как разбитая мечта.

Человек обязательно бы ушел в более личный сравнительный ряд, пытаясь связать между собой что-то вроде того, как кислый вкус дешевой арабики, которым его поила пожилая родственница, стал для него символом пропавшей жизни.

И это именно те детали, которые обязательно всплывают в тексте, если кто-то рассказывает историю из себя.

Описание вкуса кофе у нейросети может опираться на какой-нибудь маркетинговый ряд. 

Кофе обладал симфонией нот темного шоколада с легким оттенком лесных ягод и послевкусием горного воздуха.

Если такую характеристику мы видим без привязки к герою-дегустатору или гурману, то это просто набор характеристик без контекста.

Или вот такое

Кофе на вкус был бархатистым и темно-фиолетовым, наполняющим сознание энергией электрических искр.

Что тут происходит? Клише с бархатистым вкусом разбивается оригинальностью фиолетовых искр, которые добавлены, как говорится, от балды.

Все эти детали имеют один общий признак – дистанцию. Если на протяжении истории автор ни разу ее не сократил, не подмигнул личной деталью, которую невозможно вычислить логически – вот это уже повод задуматься.
Человека выдает не отсутствие штампов, все ими грешат, а появление в тексте микро-раздражителей, которые нейросети всегда считают мусором и выбрасывают из текста при редактуре. Они и есть доказательство присутствия автора в тексте. Это детали, которые невозможно извлечь из базы данных, а только из памяти. Личный, реально прожитый опыт всегда подмигивает читателю из текста.

Экспертиза – плотность контекста

Это про глубину погружения в историю, про знание изнанки описанной ситуации. В живой истории то и дело будет всплывать специфическая нелогичная правда, которую любая нейросеть отвергнет как ошибку описания. 

Если личные детали говорят читателю, что автор там был, то экспертиза показывает, что он знает, как все устроено под капотом.

В сцене ссоры нейросеть чаще всего заставит героев бить посуду, плакать или кричать друг на друга. Это клише, описанное в девяноста процентах баз данных.

Человек тоже знает, что это самые вероятные модели поведения в ситуации, но он прошел через сотни и тысячи таких ссор, и знает, что в них часто вылезает тот самый абсурд бытия, когда какая-нибудь мелкая деталь вроде спокойного тона ответа может стать триггером и вызвать неадекватную реакцию. Он будет стараться показать боль героя, а это невозможно сделать при помощи штампов. Нейросеть выберет правильность, человек – погрешность. И это и будет его пониманием механизма работы ссоры. И если в тексте нет таких вот странностей, изнанки мира, а лишь описание типичных вариантов – то это и есть отсутствие реальной экспертизы.

Репутация - риск

Нейросеть ничем не рискует и не отвечает за базар. Ее не волнует собственная репутация, у нее нет боли, стыда или мотивации что-то рассказать. Она всегда будет стремиться к среднему арифметическому, универсальному. 

Автор всегда ставит на кон свою репутацию. Он понимает, что его могут не понять, он может выглядеть нелепым, смешным или даже занудным. Автору сложно спрятаться за текстом. Он обязательно будет говорить в тесте о том, что его волнует, даже если будет говорить о чем-то другом.

«О чем я говорю, когда говорю о беге» Харуки Мураками – это фактически манифест того, как автор просвечивает сквозь текст.
Автор всегда фонит в тексте. Нейросеть заполняет пространство текста, чтобы получить среднестатистический продукт, автору важно высказаться о чем-то при помощи истории. У них разные цели, и именно это отличает живой текст, за ним всегда что-то стоит. 

Так что пора уже перестать искать в книгах цифровой след или высчитывать частотность слов. Это бессмысленно, детекторы лгут, имитация становится все совершеннее.

Чтобы понять, кто написал книгу, нужно смотреть не на то, как построены фразы, а на просвечивающий за ними смысл, живой опыт и боль. Искать не признаки ИИ, а признаки жизни. Если в тексте автор ни разу ничем не рискнул, не открыл ничего, кроме стандартных истин, то какая, в принципе разница, кто нажимал на кнопки? Это в любом случае имитация, даже если написано человеком.