Коротко о том, как ИИ создает тексты

ИИ (если точнее, то LLM – Большая языковая модель, но мы привыкли называть это ИИ) – это очень продвинутая версия Т9, который задалбывал нас в мобильниках. 

Общий принцип одинаков: модель смотрит на текст, а потом подбирает продолжение, опираясь на варианты, проранжированные с точки зрения вероятности. Просто в случае ИИ это не сочетание пары слов, как в Т9, а учет контекста и выборка из громадного массива данных. 

Возьмем фразу: Он сказал: «Я тебя ____».

Нежный контекст. ИИ продолжит: Он сказал: «Я тебя люблю».

Агрессивный контекст. ИИ продолжит: Он сказал: «Я тебя убью».

И уж точно он не продолжит: «Я тебя енот», потому что в вероятностной модели такое продолжение маловероятно. Впрочем, если вы дадите ему задание: «Напиши бред», то он специально предложит те варианты, которых обычно избегает.  

В контексте литературы это означает следующее: 

1) ИИ не способен ничего придумать самостоятельно, он просто переставляет доступные кирпичики;

2) он выбирает из того, что есть, и обычно придерживается шаблона – если только вы не прикажете ему вывернуть шаблон наизнанку… получив тот же шаблон, только наизнанку. 

Добавить к этому отсутствие уникального опыта (а у каждого человека этот опыт есть) и реальных эмоций – и на выходе получаем имитацию самых популярных текстов, минус работа, эмоции, чувства, опыт, разнообразие и интеллект (потому что человеческого вариативного, часто непредсказуемого интеллекта у ИИ нет). 

Пока я писала «Чаинки», я скидывала ИИ готовые фрагменты и предлагала ему угадать, что происходит и как в этой ситуации поступит Альтея (нет, я не предлагала ему додумать роман за меня, потому что мои герои все равно делают, что хотят, не спрашивая ни меня, ни ИИ, ни совесть, ни здравый смысл). И каковы были его точность и свежесть решений? Нулевые. Все на уровне «Если надо найти убийцу, поищите отпечатки пальцев». Спасибо, кэп.

Из всего этого вытекает еще одна проблема: человеческие тексты по определению ограничены в количестве, тогда как процент ИИ-текстов растет в Интернете с каждым днем. В плане штампования «многобукв» человек для ИИ вообще не конкурент и обречен проиграть (я вот этот текст пишу уже минут двадцать!). Таким образом, далее ИИ продолжит учиться на базе своего собственного усредненного ИИ-слопа, выделяя его основные характеристики, и на их основе производя еще более усредненный ИИ-слоп. Есть хорошая фразочка в программировании: «garbage in, garbage out» - то бишь если в систему грузить мусор, обработав его, она выдаст мусор. Вот это как раз оно. 

Пока проблема контроля качества входных данных не решена, деградация ИИ-текстов гарантирована. Как по мне, так это довольно забавно: фуфло, которое производит ИИ, способствует одебилению самого ИИ. А пипл хавает, ок. 

PS. Интересно, кто меня тут минусит. Видать те, которые ИИ-слоп выдают за свое творчество. Других причин защищать ИИ я не вижу.