Нейродетектор, или Почему мы снова пришли к сталинским репрессиям

Да-да, тему с нововведением о маркировке к Первомаю на этой платформе уже избили – без суда и следствия. Этим обсуждением уже никого не удивишь, но, может, все-таки попробуем вытащить из него что-то новое и интересное?

Например, как волшебная кнопка «Пожаловаться» в руках обиженных и притесненных запускает охоту на ведьм. Почему русская классика внезапно окажется искусственным интеллектом – и как в итоге под раздачу попадут вполне честные авторы.

Искусственный интеллект может допускать ошибки. Рекомендуем проверять важную информацию.

Все вы наверняка слышали про эксперимент Корал Харт, которая генерировала целые романы буквально за полчаса, и про активно использующего ИИ-инструменты Тима Буше. Не секрет, что и в СНГ-пространстве есть люди, которые клепают тексты один за другим с помощью искусственного интеллекта.

И в чем же здесь главная проблема? Основная, по мнению многих, в том, что «хорошие» произведения авторов теряются под нескончаемым потоком сгенерированных текстов. Собственно, это и наталкивает меня на вполне логичный, казалось бы, вопрос: а действительно ли мы теряем хорошие произведения?

Мое последующее высказывание, скорее всего – а точнее, наверняка – кого-нибудь оскорбит, но я все же скажу это вслух. Единственное, что сгенерированный текст способен вытеснить, – это посредственные и скучные произведения, которые и без того не нашли бы большого отклика. Это раз. А нейрослоп встанет с ними в один ряд. Это два.

Люди останутся заинтересованы в популярных нынче жанрах, будут выбирать себе любимых авторов и те произведения, которые им откликаются. А будет ли потребляемый текст искусственно созданным или авторским, мы, скорее всего, никогда не узнаем. И в этом как раз и кроется главная проблема. Ведь детекторы создает человек – чтобы проверять инструмент, созданный тем же самым человеком. А знаете, у кого учится писать искусственный интеллект? Бинго. У человека.

И вся эта вереница «человеков» подводит нас к другой проблеме: к потерям настоящих авторов и их произведений в попытке искоренить нечистую искусственную силу.

Вот так, по-человечески, мы и подходим к самой сути моего сегодняшнего приступа логореи  

Человеку нужен человек.

Обозначу сразу: почему данное новшество – это хорошо и сколько у него плюсов, я здесь обсуждать не буду. Если у вас есть желание и мысли на этот счет, можете высказать их в комментариях. Я же скажу о минусах (по моему личному мнению) и о том, почему мальчики будут кричать: «Волки!».

В своем посте Сергей Шапин говорит о следующем: Если вы используете нейросеть для вычитки текста, ставить эту маркировку не обязательно.

Дилемма №1. Размытые критерии или «частично создано».

Непонятно, где проходит граница: идея, план, правка, переписывание – все может попасть под санкции. Ведь чуть раньше в тексте мы видим следующее высказывание: «Мы понимаем, что на сайте много нарушений этого запрета разной степени откровенности: от нейрослопа до неплохо отредактированных версий, которые сложно отличить от авторского текста».

Окей, неплохо отредактированные версии. С учетом того, что мир развивается, а эти инструменты получают обновления, и их качество напрямую зависит от подписки, открывающей самые разные возможности, вполне вероятно, что уже в скором времени даже самый базовый текст, выдаваемый искусственным интеллектом, будет на голову выше имеющегося сейчас. А если добавить к этому еще и самостоятельную «неплохую» редактуру… Ай-ай, беда. 

Диллема №2. Нет критериев «человеческого анализа».

Большая часть сегодняшнего дня у меня ушла на обсуждение этого вопроса с моим немалочисленным окружением. И люди, как водится, разделились на два лагеря: в одном говорят, что это рваный текст с короткими предложениями, сырой, слепленный из действия и диалогов. Во втором считают иначе. По их мнению, это текст, забитый красивыми оборотами, длинными предложениями, где чуть ли не на каждый абзац приходится своя «глубокая» цитата. 

А знаете, кто еще вставил свои пять копеек? В студии, собственной персоной, – искусственный интеллект  

И теперь вопрос: как на фоне всех перечисленных критериев быть простому автору, который действительно умеет, старается и выдает качественный контент? Ведь «со 2 мая модераторы начнут проверять книги по мере поступления обращений через функционал "Пожаловаться"», а это значит, что Иосиф Виссарионович наверняка бы оценил мнительную составляющую данной платформы.

А точнее – тех, кто буквально говорит: если им КАЖЕТСЯ, что текст сгенерирован искусственным интеллектом, они отправляют жалобу сразу же. И призывают делать то же самое остальных.

Когда кажется, вроде бы, креститься надо? Но они, судя по всему, не крещеные. И хорошо, если в большинстве своем они будут попадать именно в сгенерированные тексты. Плохо – если им действительно просто показалось. И тут мы плавно подходим к двум последним (опять же, по моему мнению) проблемам. Заключительная из них – самая вероятная и самая страшная.

Дилемма №3. Отказ от обратной связи и отсутствие процедуры апелляции. 

Сергей Шапин прямым текстом заявляет, что они не будут пользоваться исключительно данными нейродетектора. Однако, как можно предположить, к ним все равно будут прибегать повсеместно – пусть последнее слово и остается за реальными людьми. И тут мы снова вспоминаем о той самой человеческой веренице, о которой я говорила в самом начале.

Насколько честно полагаться на финальное заключение проверяющих, которое нельзя оспорить? И если я правильно понимаю, обратной связи по решениям – что, зачем и почему – нам тоже никто не даст. Впрочем, в этом выводе я могу ошибаться.

Практика смертной казни в судебной системе – вещь сомнительная и противоречивая. Но я вижу ее отголоски и здесь, и это становится большой проблемой для того, о чем я скажу в своей заключительной мысли.

Дилемма №4. Фальсификация. Все мы можем попасть под раздачу. 

Участвуешь в конкурсе? Виновен. Поругался в комментариях? Виновен. Высказал свое личное мнение, которое кого-то не устроило? Виновен. Сгенерирован ли твой текст частично или полностью, является ли он авторским, прибегал ли ты к редактуре с помощью искусственного интеллекта – уже не так важно. Если кто-то решил, что ты ему неугоден – вот тебе жалоба, получи и распишись.

Начнется ли дискредитация отдельных авторов и их работ? Да, может. Можете считать, что я перегибаю, но серьезно: сколько у нас, в принципе, людей со скажем так, нестабильной логикой? Не конкретно на Автор.Тудей, а в целом. Какой их процент именно здесь, я утверждать не берусь. Но я видела достаточно (люблю заглядывать в комментарии к произведениям, которые читаю или просто просматриваю между делом).

Не забываем и про существование ботов, с помощью которых можно накручивать жалобы в огромных количествах. По какому принципу будут проверяться обращения – нам неизвестно. Можем ли мы оспорить жалобу, если потратили сутки на создание хорошего текста, а кому-то показалось, что это ИИ или он прогнал его через первый попавшийся кривой детектор? Нет.

Вот так и начинаются голодные игры. Мы можем потерять хороших авторов, можем уйти в сторону бесконечной редактуры и около-качественных искусственно созданных текстов или, наоборот, получить вал второсортных работ с кучей ошибок и бессвязных мыслей. Что еще мы можем – можете написать в комментариях.

Можем ли мы как-то помочь хорошему тексту выйти в люди? Похоже, что нет.

Публиковаться будет все: и хорошее, и плохое, и сгенерированное. В огромных объемах. Каждый текст найдет своего читателя, но не забывайте: на вкус и цвет товарищей нет. Кому-то понравится ваше произведение, кто-то решит, что оно не очень. А теперь к ним добавится еще и тот, кто скажет: «Сжечь ведьму!».

                Оффтопик.