Имитация ума.

Одна программа (ИИшка, естественно, не столь важно какая, думаю, таких сейчас много) берётся определять сгенерирован текст при помощи ИИ или написан человеком. Ну, и "определяет"  - скармливаешь ей текст, и она пишет "этот текст на 100% создан нейронкой" (ИИ, то есть, в принятой нынче терминологии). Или на 70%, Или на 57% и т.д.

Ну, люди принялись тестить эту и другие подобные программы. Стали показывать им свои тексты. - Очень часто оно пишет "текст создан нейронкой на _много_ процентов". Ладно. Стали показывать этой ИИшке тексты классиков. - То же самое пишет. Только процент "созданного нейронкой" пишет ещё больше.

Ну и дальше - как теперь жыть? Куда деваться? Что делать? Как доказать, что сам писал, если меня начнут проверять? В общем, по-человечески понятное, но совершенно душераздирающее зрелище.

Вот мой совет. - Ничего не делать. Писать, как и раньше писали. Вот появляется у вас дурак-комментатор, и начинает гадости вам писать? Что вы станете делать? Доказывать что-то? Писать по-другому чем раньше? Или просто пожмёте плечами и пополните чёрный список?

Или, например, какой-то редактор или судья на конкурсе оказался негодяем и не оценил ваше великое творение. - Что вы будете делать? Доказывать что-то кому-то? Скандалить? 

А тут даже не человек, а какая-то программа вас, и не только вас "не туда записала". И чо?

- Но ведь теперь везде будут проверять, не пишет ли кто-то при помощи ИИ! Оно определит мой рассказ, как написанный при помощи ИИ и рассказ не будет допущен к конкурсу, к публикации и т.д....  А-а-а... мы все умрём!

Что же делать?

Во первых, перестать верить, что в ИИ есть какой-то ум. Его там нет.  И в принципе быть не может. Оно по другому работает. Просто подбирает подходящие слова. Точнее, оно подбирает какие-то слова, а вы почему-то считаете их подходящими. Всё. Подробности можно узнать, посмотрев, например, что Ашманов рассказывает про работу так называемых ИИ. 

Во вторых надо перестать верить, что умом обладает любой человек, который вам что-то пишет. Даже если это редактор известного издательства или известный писатель, член жюри, т.е. заведомо человек, и заведомо обладающий каким-то умом и компетенциями в вопросах текстов.  - Совершенно не факт, что человек этот пользовался своим умом в момент, когда вам что-то там написал.  Скорее всего не пользовался, а имитировал умственную деятельность, экономя ценные силы своего мозга для более актуальных задач. Очень многие вещи, знаете ли, делаются автоматически. Даже теми, кто, порой, действительно думает. Даже самый умный человек бОльшую часть своей жизни действует автоматически, повторяет за другими, или за самими собой уже сказанное, не утруждаясь осмыслением, неприятные вещи пытается не замечать, лишними сложностями себя не грузить... - В общем, даже самый умный человек очень часть ведёт себя как дурак.

Так что, в третьих, надо успокоиться и спокойно делать то, что вы и раньше делали. В полной дураков вселенной появились ещё и программы, умело имитирующие поведение человека-дурака, который не понимая смысла, подбирает слова, чтобы в беседе за умного сойти. Ну и что? Что-то изменилось? 

Да, что-то изменилось. Теперь компьютеры в целом будут употреблять больше электричества. И будут сэкономить людям то время, которое люди тратили на имитацию интеллектуальной деятельности. Думать за людей компьютеры не будут. По крайней мере с той математикой, которая заложена в современные генеративные сети (по какому-то недоразумению называемые у нас "искуственным интеллектом", хотя там нет никакого интеллекта, или называемые "нейросетями" - хотя они устроены совершенно  иначе, чем нервные клетки живых существ). 

В генеративной сети (в просторечии - ИИшке) нет ума. Никакого. И оно не поумнеет, несмотря на любые апгрейды. Нечему там умнеть. В случае с работой с текстом, оно копирует то, что кто-то уже где-то написал. Просто подбирает слова, довольно случайным образом, но опираясь на то, какие слова в похожих ситуациях чаще применяли в своих текстах люди. Ничего нового, и при этом вменяемого ИИшка создать не может. Но как затычка для рутинной работы она вполне годится. Если ошибки не критичны. Например для автоматических ответов на звонки клиентов, на которых фирме совершенно наплевать. Или для написания инструкций, которые никто читать не будет. Или для создания "бизнес-плана", или "плана развития области/отрасли" который никто не собирается воплощать в жизнь. Или для написания курсовой, дипломной, сочинения и т.д., которых никто не будет читать. - Вот тут ИИшка справится. Наметёт подходящих, наиболее часто употребляемых общих слов на нужный объём, ещё и оформит по ГОСТу. И чтобы понять, что это написал идиот, ничего в предметной области не понимающий, разбирать этот текст должен специалист, понимающий эту самую предметную область.

Такой вот, блин, феномен. - Чтобы разглядеть за текстом наличие ума, надо, чтобы читающий применял собственный ум. Т.е. ум должен быть с двух сторон. С одной не достаточно. И ум должен именно использоваться при написании, а затем при прочтении текста. Не просто быть у кого то в потенциале, в наличии, а именно использоваться при осмыслении потока слов. И только тогда возникает понимание и узнавание одного ума другим, происходит передача мысли от одного ума к другому. А вот если с одной стороны имитация, то другая трудится совершенно напрасно.

Так вот - ИИшка умеет "сойти за умного". Этому её десятилетиями учили, и, наконец, научили. Она умеет изображать рассуждения, "умно" формулировать. Но самого ума там нет. Совсем. Он там по технологии не предусмотрен. 70 лет умные люди думали, как программе пройти тест Тьюринга хотя бы на уровне текстов. Т.е. как обмануть человека "на другой стороне", как научиться выдавать себя за человека.  И вот, добились. Программа проходит тест Тьюринга. - Программа генерирует такие тексты, которые среднестатистического человека могут обмануть, чтобы человек поверил, что полученный текст сгенерил другой человек, а не программа. Почти ничего другого эти программы не могут, как выясняется, но уж это-то они точно могут. Они же специально для этого и делались. ИИ имитирует текст выдаваемый среднестатистическим дураком, чтобы обмануть другого среднестатистического дурака. И дурак ведётся. По крайней мере, первое время. Потом, обычно, начинает что-то подозревать.

При этом человек, который специально озаботится отличением сгенерённого текста от написанного человеком, отличить может. Не в коротком диалоге, а в длинном диалоге или внятно написанном, достаточно длинном рассказе. Т.е. там, где разум (или его отсутствие) с другой стороны будет видно. Вот там человек разумный, применяющий свой разум в процессе осмысления текста, увидит, человек перед ним или дурак (он же -  ИИ, имитирующее дурака, имитирующего умственную деятельность, но не пользующегося, на самом деле, умом).

А другой ИИ создания ИИ  от человеческих отличить точно не сможет, т.к. ну нет у него разума, нет понимания контекста, смысла написанного, нет картины мира. Т.е. у ИИшки нет отличалки, чтобы диагностировать наличие или отсутствие разума за текстом.

Дело в том, что формальных признаков, чтобы отличить текст написанный человеком от текста сгенерённого ИИшкой не достаточно. Надо уже смириться с тем, что все формальные признаки, какие только можно заметить и использовать, рано или поздно будут замечены и использованы для имитации человека при помощи ИИ. И бредогенератор - ИИ будет за пару секунд генерировать "рассказ", не отличимый от посредственного рассказа, написанного писателем-ремесленником ради развлечения публики. Уже генерирует, вроде бы. И пипл хавает. Просто писатель пару дней на такой рассказ потратит, а ИИ - пару секунд. И никто не отличит плохой, вторичный рассказ ниачём или плохие, вторичные стихи ниачём от подобной же комбинаторики из кусочков уже прежде придуманного кем-то, сделанной ИИшкой.

И как теперь с этим жыть? Да очень просто. Если вы пишите глупости для развлечения среднестатистического дурака, то начинайте уже искать другой способ заработка. Или начинайте пользоваться ИИшкой - экономьте хотя бы своё время.

А вот если вы пишите для чего-то ещё - то пишите, как и раньше писали. Ничего для вас не изменится. Сквозь текст один разум всегда увидит другой и сумеет его понять. При этом, совершенно не обязательно один разум с другим согласиться. Но уж отличить-то его от имитации разума точно сумеет. В длинном тексте, а, порой, и в коротком.