Про нейротексты и нейрослоп

(Предыдущие мои мысли по поводу нейросетей можно найти вот тут.)

Наткнулся я на очередной пост в блогах. Суть "отметка 'Написано без ИИ' есть охота на ведьм, и авторы боятся потерять доходы". Попытался человеку донести точку зрения. Человек обиделся, на третьем комментарии засунул в игнор лист. При этом пост был написан ботом (видно по структуре плюс проверку проваливает), и незаконченные произведения также провалили тест на человека.

Не будем показывать пальцами, кто это был, хотелось бы осветить, несколько моментов, что и почему, чтобы не писать их по пять раз потом.

Типовые аргументы у создателей нейротекстов такие: "Решать должен текст а не личность автора", "вы просто не понимаете, это прогресс", и "беспокоятся о доходах".

Проблема первая. Если решать должен текст, то бояться маркировки создатели нейротекстов не должны. Если их текст лучше, должны быть популярней, не взирая на личность автора. Но почему-то пользователи ИИ жёстко против маркировки. Это не совпадает с их утверждением, что решает текст.

Личность автора влияет на восприятие его книги, и "решает"  не только текст. Представьте книгу. Представьте, что её написал именитый автор. Отношение изменится. Представьте, что написал серийный убийца. Отношение поменяется снова. И точно так же отношение изменится, если читатель узнает, что писал книгу робот, ОСОБЕННО если читатель ждал человеческую работу. В этом случае будет довольно сильный негатив.

Если бы "решал" только текст, мы бы сейчас видели восторженных людей, читающих ИИ книги, и пометка "сделано ИИ" их бы не остановила. Вместо этого  у нас появилось понятие "нейрослоп", куча мусорного контента в сети, плюс негатив, когда кого-то ловят на использовании нейротекстов и нейроартов. Примером этого была Clair Obscur, у которой награды забрали за ОДНУ сгенерированную картинку.

Есть понятие "AI Label Effect". Если человеку сказать что вот это сделал робот, а это другой человек, то оценка работа другого будет выше. Эффект также замечен в производстве люкосвых вещей. "Ручная работа" делает вещь дороже и люди ценят такую вещь выше. Происходит, возможно, потому что люди существа социальные, существуют в группах, и в рамках группы друг друга хоть и минимально, но часто поддерживает. Вот с этой точки зрения другой человек будет "свой" а робот будет "чужой". Потому что не человек. Но это гипотеза. Относится эффект ярлыка к творческим работам. Если речь идёт о функциональном инструменты, зачастую не важно, человек писал или робот, хотя тут тоже есть нюансы.

Так вот. Проблема возникает, если стоит пометка "сделано человеком", или читатель ожидает работу человека, а его обманывают. Это порождает сильный негатив.

И вот суть маркировок, в том, чтобы не обманывать читателя. Ставьте маркировку (есть ИИ/нет ИИ), и люди, которым неинтересно, не будут в работу заходить. Но почему-то часто вместо этого очевидного действия идёт попытка доказать "что это будущее а вы не понимаете" или обвинения в луддизме. Человек просто не хочет читать ИИ работы. Причины не важны, зачем пытаться обманом работу пропихнуть человеку, который её не хочет, на ресурсе, которые ИИ работы запретил?

Часто также звучит аргумент "вы всё равно определить не можете". Могут. ИИ текст заметен, определяется, в худшем случае прямо на структуре параграфов. Открыл, увидел типовую картину, выбросил книгу. Продвинутые читатели определяют даже ИИ редактуру, это когда ИИ правки делает. Разбираться он правил или нагенерил всё в этом случае часто желания нет. Навык развивается не мгновенно, за пару месяцем.

Теперь про экономику. Ситуация с ИИ напоминает ситуацию с быстрыми заработками. Несколько лет назад у нас была популярна идея что вот "пиши блог и поставь рекламу, и будут деньги". Или вот "дроп шиппинг". Или видеоблоги. Стримерство. Продажа предметов из игр. Пять кошельков. Криптовалюты. Создание альткойнов. Заполнение тестов в онлайн. А теперь нейрокартинки и нейротексты.

Объединяет эти направления общий момент, что много людей ищут кнопку, которую если нажать, то будут деньги и много. А потом "счастье, для меня любимого".  Работа, которую может легко делать любой обычно не может дорого стоить. Просто за счёт конкуренции цена упадёт. Или порог вхождения увеличится. Нажиматели кнопок зачастую вступают в конфликт с людьми, которые уже в индустрии работают. В худшем случае на почве нейроплагиата, о котором можно почитать вот тут.

Теперь возвращаемся к нейрокнигам. Берём толпу людей с орящими глазами, что верят в светлое будущее, и быстро быстро нажимают кнопочку "сгенерить". На некоторых ресурсах это уже произошло. Получаем вал однообразного низкокачественного контента. Потому как многие нейросети сваливаются в определённый универсальный стиль, с узнаваемыми решениями. И получаем, допустим, мы через месяц несколько десятков миллионов книг.В этой ситуации в случае рыночной экономики произойдёт следующее. Цена книги пойдёт вниз. Любая работа будет стоить рубль. Можно также ожидать дальнейшее уменьшение печатных тиражей. Но люди в индустрии у нас не идиоты, ситуацию быстро заметят, и будет введена обязательная маркировка контента. Потому как альтернатива полный обвал рынка. Не "нейроавторы больше заработают", а "никто не заработает ничего". Возможно со штрафами за обман при маркировке. А ещё можно ожидать что крупные издательства будут просить подтверждения авторства. Например, видео, где записано создание книги с начала до конца. Это уже произошло с картинами и рисунками.

Ситуация с обязательной маркировкой происходит сейчас. Например, на игроплатформах, пометка, что именно разработчик нагенерил часто обязтельная. В нашей же стране в разработке находится закон: "Об основах государственного регулирования применения технологий искусственного интеллекта"

О нём можно почитать вот тут, на хабре. Суть такая, что маркировка будет обязательной.

Это должно прояснить ситуацию с пометками для ИИ. Ключевой момент здесь такой, что человек не хочет прикасаться к работам определённого типа, а ему пытаются их пропихнуть обманом. На мой взгляд, так лучше не делать.

И с моей точки создателям нейроттекстов рекомендация. Не жульничать, не пытаться проскользнуть ресурс, где в правилах прописано "работы должен писать человек". А идти на ресурсы, где нейротекст разрешён. Также помним житейскую мудрость. "Насильно мил не будешь". Если пытаться человеку, который нейротексты не любят, их пропихнуть хитрым обходным путём, рад он этому не будет и вашей точкой зрения не проникнется.

Комментарии будут закрыты. Как развивается обычно обсуждение нейросетей я уже знаю, и в обсуждениях неоднократно участвовал.

На этом всё. Всех благ. ниже обязательный кот.