Немного про нейросети или почему нейронки пишут отвратительно плохо #1

В последнее время нейроавторы стали оправдывать нейросетевые тексты как по единой методичке. Ключевой аргумент:

Нейросети могут копировать любой стиль. Они пишут неотличимо от человека, а человек может написать как нейросеть. Объективной оценки нет и быть не может. Нет механизмов, позволяющих понять, написал человек или нейронка. А детектор часто ошибается.

И знаете, что?

Я даже согласен со многим. Детектор действительно часто ошибается на маленьких объёмах, а человек может написать текст, очень близко похожий на нейросетевой. Но «близко» — не значит «точь-в-точь».

И у меня плохие новости для тех, кто не видит разницы между нейросетевыми текстами и авторским слогом: у вас крайне плохо работает стилистическое языковое чутьё.

В этой статье я решил разобрать, по каким признакам я понимаю, что передо мной нейросетевой текст.

Нейропаттерны.

Про нейропаттерны сейчас не говорит только ленивый, но не все понимают, что это такое. Я попробую объяснить, о чём речь с точки зрения логики языка и логики текстовых нейроагентов.

1. Антитеза («Не… а…»)

Конструкция «не X, а Y» (или ее вариации вроде «это не просто…») — это достаточно надёжный, хоть и явный маркер нейросетевого текста.

Но почему? Ведь человек тоже использует такой стилистический приём! И Гоголь, и Чехов, и Булгаков его использовали! Значит, по нему нельзя определить нейронку!

Можно.

Антитеза — это стилистический приём, основанный на резком противопоставлении понятий, идей, образов или состояний. Её цель — подчеркнуть контраст, сделать различия более заметными и через это глубже раскрыть суть описываемого.

Модель обучена на миллионах текстов по писательскому мастерству и риторике. А там написано, что антитеза делает фразу объемной и драматичной. С помощью этого приёма ИИ как бы отвергает упрощение, чтобы тут же предложить более сложное объяснение.

Проблема этого шаблона в том, что человек использует его тогда, когда ему действительно нужно столкнуть два понятия. У модели же эта конструкция встречается с подозрительной регулярностью.

Кроме того, модель часто выбирает банальную пару для противопоставления («Это не проблема, а возможность», «Это не конец, а начало»), а когда нейронка понимает, что противопоставление должно быть более глубоким, она начинает противопоставлять…

Как бы это правильнее сказать…

Очевидное с некой метафизической тайной, что ли…

Так появляются очень глубокие на первый взгляд, но совершенно пустые по смыслу фразы, которые не значат вообще ничего:

Это не просто… , а присутствие.

Ох уж эта псевдоглубина! Присутствие чего? А ничего. Просто присутствие. Это абстракция. Такая возвышенная, околоэзотерическая, почти философская… белиберда.

Да-да, всё именно так. Это абстракция в… антитезе! (Чего, блин?)

Давайте ещё раз напомним себе, для чего нужна антитеза:

Антитеза — это стилистический приём, основанный на резком противопоставлении понятий, идей, образов или состояний. Её цель — подчеркнуть контраст, сделать различия более заметными и через это глубже раскрыть суть описываемого.

Антитеза по своей природе требует конкретики: чтобы столкнуть два понятия, они должны быть осязаемыми.

Абстракция в антитезе полностью уничтожает смысл и абстракции, и самой антитезы в целом.

«Присутствие» — это такое возвышенное слово-паразит от нейронки.

Да и вообще слово «присутствие» в нормальной человеческой речи возможно только в религиозном, мистическом или психотерапевтическом контекстах. А ещё в… маркетинговом!

Вот именно оттуда нейросети и тащат в художественные тексты эту белиберду!

«Этот старый стул — не просто мебель, а молчаливое присутствие истории в интерьере»

«Наш сервис доставки еды — это не просто вкусный ужин, это присутствие нашей заботы на вашем столе».

Узнали? «Тефаль думает о вас» и вот это вот всё.

И в художественном тексте это совершенно чужеродный объект, который видно невооружённым взглядом так, словно он аж светится. То есть нейронка буквально пытается вам понравиться и продать ничего не значащую фразу с помощью банальных маркетинговых манипуляций.

Следующий вариант антитезы сделан примерно из того же теста:

Это не просто… , а диагноз.

В данном случае это имитация категоричности и публицистического стиля… опять же, в художке.

Что такое в данном случае, это слово «диагноз»? Ведь речь же не идёт о настоящем медицинском диагнозе или какой-то иной профессиональной диагностике. А это у нас гипербола, друзья.

Гипербола — это намеренное преувеличение какого-либо качества, свойства предмета или обстоятельства события. Цель такого преувеличения — сделать речь ярче, эмоциональнее, сильнее подчеркнуть какую-то мысль.

• «Мы с тобой сто лет не виделись!»
• «Я так голоден, что слона бы съел».
• «Я говорил это тысячу раз».
• «Море слёз», «пот катился градом».

Итак, ещё раз: мы сейчас говорим о гиперболе, задачей которой является преувеличение, в антитезе, которая нужна, чтобы… подчеркнуть реальный контраст.

Давайте попробуем применить смеха ради этот нейросетевой приём в обычном тексте:

Мы с тобой не просто долго не виделись, а тыщу лет!
Я был не просто голоден, я хотел сожрать слона!

Чувствуете? Сам факт антитезы придает весомость и реальность противопоставлению. Мы вдруг верим, что это два эльфа или вампира, которые на самом деле не виделись тысячу лет, и что герой второй фразы, кем бы он ни был, способен съесть слона.

То есть гипербола исчезает. Она несовместима с антитезой.

Угадайте, откуда этот паттерн пришёл в нейросети?

Кто подумал, что из рекламных объявлений — тот молодец)

«это не просто сковородка, а самое важное приобретение в вашей жизни»

«Это не просто пылесос, а философия чистоты»

Но вернёмся к «диагнозу». Разумеется, вам потом в тексте никто не скажет, какой конкретно диагноз. Просто диагноз. Просто попытка промаркировать ситуацию или явление в качестве некоего «системного порока», поставить точку с помощью семантической кувалды.

И да, это тоже слово-паразит. Нейросетевое.

Поэтому знайте, если вы видите в тексте в одном предложении несовместимые антитезу и гиперболу или антитезу и абстракцию, то перед вами либо нейротекст, либо рекламное объявление.

Рекламным копирайтерам нужно было продавать стандартизированные товары через иллюзию уникального опыта. Языковые модели теперь тащат эту логику продаж всюду, в том числе и в художественные тексты.

Что?

Вы в этот момент читаете книгу? Значит, автор писал либо с помощью нейронки, либо с помощью друга-SMM-щика.

А представьте моё удивление, когда подобное встречается в… комментариях!

Да-да, есть люди, которые вот прям загружают переписку в нейронку и просят сгенерить ответ. Иначе объяснить это, увы, нельзя.

Составление слов в предложения — это неотъемлемая часть мыслительного процесса. Делегировать мыслительный процесс машине, не имеющей сознания и работающей по принципам подсознания? Что-то в этом есть от магического мышления и веры в вещие сны…

И всё вышенаписанное — лишь малая часть того нейробардака, который я легко вижу в текстах.

Но о других нейропаттернах и логических дырах нейросетей в следующих выпусках. Оказалось, что в один я всё не впихну…