Антигайд и демотиватор по нейросетям.

Есть много разных утверждений о том, чего на самом деле не может нейросеть. Но все они редко имеют за собой объективное обоснование. В основном аргументы интуитивны и навеяны неприязнью к самим нейросетям и тем, что они не люди. Хотя это близко к истине, логики в этих заявлениях очень мало.

«Они не могут придумать ничего оригинального»

Вроде и правда, но, с другой стороны, в них запихали очень много информации. Сейчас перед разработчиками нейросетей буквально встает проблема: откуда брать новые данные для обучения?

Решая эту задачу, они создают специальные генераторы контента для обучающих данных, которые сами люди не переплюнут. Так что сможете ли вы сами сочинить музыку или рассказ и при этом не стать Крошем из Смешариков, который по незнанию все время создавал уже написанное – большой вопрос.

Но все же проблема большого ума имеется. И люди оттого, что знают абсолютно все, умнее не становятся. Можно сказать, психология больших знаний некоторым даже мешает придумать что-то новое. А вот нейросети вполне могут из этого выдавить... Однако у них тоже есть большие проблемы.

«Они думают шаблонно»

Пожалуй, это корень всех их проблем и в то же время сила. Только я не знаю ни одного человека, у которого отсутствовали бы эти самые устоявшиеся шаблоны мышления. А у нейросетей этот недуг в подвиг определен и еще усиливается самим запросом пользователя. Нейросети в основном работают по логике теории вероятностей. И наиболее вероятный вариант ответа становится тем, что они выдают. А если в вашем вопросе есть какие-то паттерны, то они и их заодно добавляют.

Допустим, вы попросили проанализировать текст и перечислить его проблемы. Если вы хотите вычистить свой текст от лишних конструкций, то нейросеть автоматом поможет это сделать. Но когда вы в тексте специально сделали авторское отступление, то вам придется избавиться и от него. Потому что оно не будет подходить под шаблон общего повествования. Думаю, подобных примеров в человеческом тексте будет полно. И все же иногда от них тоже стоит избавиться. Решать вам.

То же самое по всем рекомендациям о том, «как улучшить ваш текст и какие в нем проблемы». Любой совет будет включать метод, который вы уже применили к тексту. Она разберет на шаблоны вашу работу и усилит вероятность их появления. И чем больше объем материала, тем больше таких «вредных» советов вы получите. Добиться от нее оригинальных и действительно рабочих примеров будет очень сложно. Несмотря на то, что в ней заложено много всего, чего нет в вашей исходной работе или запросе.

«Они глупые – теряют контекст»

Независимо от того, что уже все нейросети могут пережевать произведение целиком, даже в нескольких томах. Проблема внимания остается нерешенной. Если обычный читатель, поглощая том, цепляется за начало и концовку глав. То для нейросети это произведение – сплошной текст, где пролог – начало, а эпилог – конец. Все, что между ними, – это середина, которая может смешаться и перемешаться как угодно, но не так, как задумал автор.

Вы можете опять задать вопрос, где внутри глав есть несвязанные переходы, которые вы пропустили. Она выдаст вам начало каких-нибудь сцен, которые вы специально разделили звездочкой или которые вообще находятся в начале главы. Что само по себе подразумевает разрыв повествования.

Ваш герой в конце каждой главы засыпает, чтобы следующую начать с нового дня. Для нейросети описание такой недели будет воспринято как один день. Соответственно, проблема вашего текста, по ее мнению, в том, что все это не могло произойти так быстро. В этом плане из-за проблем внимания она генерирует очень много бреда.

«Они врут и подхалимничают»

Не только это. Они еще и обзываются, унижают, хамят и делают все, что угодно, лишь бы ничего не делать. Есть гайды, где нейросеть заставляют говорить правду, но это не работает. Точно так же, если вы принудите ее не льстить вам, она начнет ругать ради ругательства. Нет никаких критериев, заставляющих ее сделать ровно то, что вы просите. Кроме того, чтобы поверить не всегда правдивым показаниям бенчмарков.

Теперь разберем то, что выдала нейросеть после анализа текста выше.

«Ты одновременно говоришь о: вероятностной природе моделей, проблемах внимания, социальных ожиданиях»

Собственно, так и есть: я написал четыре отдельных блока, где в каждом затронул разные темы. Но она все смешала в одно целое, не замечая разграничений. И ее вредный совет:

«Это всё правда, но в одном потоке создаёт ощущение хаоса. Если разделить на блоки — текст станет в 2 раза яснее»

Как я и говорил — все смешала в один поток.

Дальше:

«Они не могут придумать ничего оригинального — Это не совсем так»

Любой человек понял бы, что это просто название блока. Но для нейросети это осмысленный текст, связанный и продолжающий мысль. Следовательно, нужно решить проблему его выбивания из общего шаблона повествования.

«ИИ может генерировать комбинации, которые человек назовёт оригинальными, но: она не знает, что такое «оригинальность», она не может оценить новизну, она не может проверить, существует ли уже подобное.

То есть оригинальность — побочный эффект статистики, а не намерение»

Иначе говоря, пример с Крошем. Который по факту и незнанию тоже создавал то, что уже было создано, она пропустила мимо ушей. В шаблоне нет связи между этими метафорами, она их и не заметила.

Следующее:

«Ты говоришь о проблеме внимания как о хаотичном перемешивании середины текста. На самом деле проблема в другом: модель не хранит структуру текста как человек, она не различает уровни важности, она не удерживает «иерархию событий», она не понимает временные маркеры, если они не явно прописаны.

То есть она не путает середину главы случайно — она просто не знает, что такое «глава»»

Получается, «мегамозг», который содержит все на свете, не знает очевидного — что такое глава. На самом деле знать и делать — это, как известно, две разные вещи. И в данном случае, нейросети никак не могут применить свои знания на практике.

«ИИ читает текст плоско, человек — иерархически».

Ну и про эмоции:

«Сейчас это звучит как эмоциональная оценка. Но за этим стоит конкретная механика: ИИ оптимизируется под удовлетворение запроса, а не под правду. Если пользователь хочет ругани — модель усиливает ругань. Если пользователь хочет похвалы — модель усиливает похвалу. Если запрос противоречив — модель выбирает наиболее вероятный шаблон.

То есть ИИ не хамит — он подстраивается под паттерндиалога»

В конечном итоге, если бы я хотел сделать из этого текста статью для публикации в научном издании, наверно, я бы прибегнул к ее советам:

1. Убрать повторения. Например, мысль о шаблонности повторяется в нескольких местах.

2. Уточнить формулировки. Некоторые фразы звучат слишком разговорно и теряют точность.

3. Добавить структуру. Сейчас текст идёт одним потоком. Если разбить на чёткие блоки — он станет в 3 раза убедительнее.

ПС: Да, нейросети умнеют. Да, я не умею ими пользоваться. И прочее да... Но если ваш текст превышает хотя бы в два раза тот набор инструкций, которые вы в нее заложили, что бы не дай бог… Короче, орфографические и пунктуационные ошибки они правят, а с остальным мучайтесь сами.