Про искусственный интеллект и натуральных идио...

Этот текст написан в поддержку писательского марафона Сибил Вард: https://author.today/post/846765

Об искусственном интеллекте и натуральных идиотах

Посвящаю этот текст любителям потыкать нейродетектором куда их не просят

   Есть у некоторых удивительная способность: не читать.

   Нет, они умеют складывать буквы, с этим как раз всё нормально.

Буквы складываются в слова, слова в предложения, которые вроде бы проходят через глаза в мозг.  Но дальше происходит следующее: человек не читает текст, а ищет улику. Как пёс на таможне.

   Вот слово, вот оборот. 

Вот подозрительная фраза. 

Вот «не такой ритм».

Вот «похоже на нейронку»

Вот «слишком гладко».

Вот «слишком сложно»

Вот «слишком правильно».

Вот «слишком неправильно».

Дальше человек берет свой карманный молоточек и радостно лупит им по столу:

 — Обнаружено!

Что обнаружено? — Уже не важно, дальше можно не читать.

Машины, научившиеся писать и люди, разучившиеся читать  

Вопрос о возможности создания нейронкой текста задается обычно с таким выражением лица, будто сейчас начнётся философский трибунал.

Способна ли машина вложить душу? Иметь мысль? Чувствовать? Способна ли машина страдать над каждой запятой, ненавидеть первые абзацы, в три часа ночи переписывать финал и всё равно понимать, что получается не то, что было задумано?

   Это хорошие вопросы, но часто их задают, .чтобы получить хорошую дубину.

Ведь за этими вопросами стоит другой, более простой вопрос:

 — Можно ли мне теперь не думать самому?

   Если текст признан «нейросетевым», его можно не читать. Если текст признан «человеческим, то по привычке его можно похвалить. Для неприятного автора детектор пригодится как кувалда. Если автор приятен, детектор можно отложить в сторону.

Удобно, не правда ли?

   Появилось некое новое литературное суеверие: вера в прибор, который скажет, где человек и где машина, будто текст — это колбаса, а детектор —санлаборатория.

   Но есть проблема. Текст работает не так.

Текст, это не проба на нитраты, не кровь на алкоголь и не отпечаток пальца на стекле. 

   Текст дышит. Интонациями, паузами, контекстом, замыслами, ошибками и ритмом, чужими влияниями, усталостью автора, редактурой, жанром, привычкой говорить и привычкой молчать. 

   Живой человек иногда может говорить деревянно, а машина гладко. Иногда человек специально говорит сухо. Хороший текст может выглядеть «подозрительно», потому что автор двадцать лет учился не размазывать кашу по тарелке.

Но любителю детекторов это не интересно. Ему нужен не текст, но приговор.

Детектор как способ не читать  

   Самое смешное, что проблема даже не в детекторе. Это всего лишь новый инструмент старой человеческой глупости. Раньше такие люди прекрасно обходились без детекторов.

   Они находили дневник автора, вырывали одну фразу из контекста. Они читали роман и приписывали автору слова персонажа. Они читали сатиру, принимали на свой счет и обижались.
Они читали исторический роман, и требовали применить к персонажу нынешние моральные установки.

   Теперь у них просто появился интерфейс.

Красивый, эргономичный, с процентиками.

Человек загружает образец теста, жмёт кнопку, получает число и кайфует. 

Наконец-то не надо думать.

Наконец-то отменена сложность.

Наконец-то можно сказать: — Доказано!

Хотя на самом деле доказано ровно одно: человек не хочет читать.

Неудобный дневник Астрид Линдгрен

Недавно я наткнулся на материал о военных дневниках Линдгрен.

Пеппи, Карлсон, Рони и Эмиль из Лённеберги, весь этот тёплый слой нашей памяти.
И вот перед нами не бронзовая бабушка детской литературы, а живой, измученный человек на фоне личной драмы. 

   Война. Планета пылает, погибают люди, ломаются страны. В газетах новые ужасы.  А ей изменяет её муж.

   И в какой-то момент Линдгрен записывает мучительную вещь: кровь льётся рекой, люди становятся инвалидами, вокруг страдание и отчаяние, а её это почти не волнует — её интересуют только собственные проблемы.

   Очень неприятная фраза. 

Потому что мы хотим, чтобы хороший писатель, особенно детский, был устроен правильно.
Внутри мировой беды он должен думать о человечестве.
Личная боль не должна заслонять катастрофу.

   Но дневник —это не памятник. Это слепок души человека.
Человек может знать, что вокруг гибнут миллионы — и страдать из-за собственной семьи, любви, одиночества. Это не красиво, но это правда.

   Плохой читатель видит:
 — Ага, война её не волнует. Ясно. Бессердечная тварь.
Нормальному читателю предстоит тяжёлая работа.
Он видит не манифест, а личный дневник. Женщину, которая не оправдывается, а ловит себя на неприятной правде. Она понимает несоразмерность своих бед мировой катастрофе — но всё равно не в силах заставить себя быть идеально правильной. Святой это её не делает, но возвращает ей  человеческую глубину.

А без глубины любой текст превращается в улику.

Если читать дневники Линдгрен как детектор, можно мгновенно вынести приговор:

Мещанка, бесчувственная эгоистка. 

Если читать по человечески, выясняется взрослая, неприятная вещь: хороший писатель может быть малодушным, уставшим, зацикленным на своём, неготовым к величию момента — и при этом оставаться живым человеком, а не картонной иконой.

Вот такого любитель детекторов и не выносит. 

Ему нужен результат:

Свой — чужой.

Хороший — плохой.

Человек — нейронка.

Наш — враг.

Сложность ему мешает.

Нейросеть как новый козёл отпущения

   С появлением нейронок у плохого читателя появилась новая радость.
Теперь любой текст, который ему не нравится, можно объявить «сгенерированным»

Слишком ровно? — Нейросеть
Слишком образно? — Нейросеть
Слишком грамотно? — Нейросеть
Слишком много метафор? — Нейросеть
Слишком мало ошибок? — Да точно, нейронка!
Не похоже на мой эталон настоящего писателя, поторый должен хрипеть, кашлять и оставлять на бумаге следы копоти? — Нейросеть

При этом детекторщика не волнует, что автор использует ИИ как инструмент, словарь, черновик, редактора или собеседника. Как наждак для своих идей, как зеркало, как спарринг-манекен.

   Карандаш не заменяет художника, Фотошоп не создаёт иллюстратора, камера не делает режиссёра, а нейросеть писателя. 

Инструмент не заменит автора.

Автор начинается, не там, где он впервые коснулся клавиатуры. Автор начинается в момент замысла. Там, где он применяет решение: что выкинуть, что оставить, где соврать, а где признаться, где срезать и где промолчать.

   Автор — это ответственность за результат.
Машина может предложить фразу.
Человек решает, останется ли эта фраза жить.

Человек учится, учится машина, а идиот — необучаем.

   Самое неприятное в спорах о ИИ даже не техническая нестабильность.
Самое неприятное — самоуверенность.

   Человек, не способный разобрать интонацию, композицию, авторскую задачу, жанр, контекст и голос рассказчика, получил чудесную кнопку и почувствовал себя экспертом.

Кнопка сказала, процент указан, расходимся.

   Но литература не обязана подчиняться прибору, созданному для успокоения тревожного начальства и любителей громких разоблачений.

Машина обучаема. Человек обучаем. И лишь идиот продолжает радостно тыкать своим детектором куда не просят.

Потому что проблема не в том, что машина научилась писать тексты. Проблема в том, что многие люди разучились их читать.

Что делать? 

Не поклоняться ни нейросетям, ни детекторам. Не делать вид, что ИИ не существует.  Не подозревать любой текст. 

Просто вернуть тексту человечность и сложность.

Смотреть, что он делает, слышать, как он звучит. Понимать, кто говорит, различать автора, рассказчика о персонажей. Отделять инструмент от результата, а подозрение от анализа.

И главное, не превращать чтение в полицейскую процедуру.

Потому что, когда текст читают как улику, литература кончается. Остаётся только экспертиза.
А эсперт без ума — это просто ещё один дурак с печатью.

Вместо финала

Мне не страшно, что нейросети научились писать.
Страшнее то, что люди, которые и раньше читали плохо, теперь получили технологическое оправдание своей лени. Раньше им надо было хотя бы притвориться, что они разобрались в тексте. Теперь им достаточно загрузить файл, получить вожделенный процент и торжествующе объявить:

 — Я всё понял!

Нет. Не понял. Ты просто нашёл удобный способ не думать.

А текст — любой хороший текст требует другого. Не кнопки, не процента и не охоты на ведьм. Он требует человека по ту сторону страницы.
Живого, сомневающегося и внимательного. 

Именно того, что не может детектор.