Написал(-a) комментарий к посту Оферта, нейроозвучка и различные доработки
Не могу не согласиться с некоторыми утверждениями, к примеру то, что я "продвигаю мясокрутку [...] в уверенности, что она полезна на мясокомбинате" - да, факт, только мясокомбинат у нас без машинерии вообще, и вместо мясокрутки используются дай бог человеческие силы, а в их отсутствие - клиенту подаётся, пользуясь вашими же аналогиями, сырое мясо. И с тем, что нет надёжного метода определения нейрогенности - да, полностью согласен.
Но дальше начинаются расхождения.
Любые оценки "нейронности" происхождения текста - это сумма неизвестных критериальных оценок, сложенная с неизвестными весами. Иными словами, мы не знаем, почему один текст детектор считает нейро, а другой не нейро
Если уж говорим в разрезе техники, давайте поговорим в разрезе техники. LLM, большие языковые модели, предсказывают следующее подходящее слово в соответствии со весами, назначенными этим словам (токенам, вообще, но лучше не будем уходить так далеко). Предположим, мы хотим разобраться в том, написан этот текст ПАПОРОТНИК человеком или нейросетью. Банально по тому, что после фразы "написан этот текст" я вставил слово "папоротник", ещё и капсом, можно понять, что такого нейросеть бы не написала, потому что веса для токена, содержащего "папоротник" находятся крайне далеко по тензорам от рассуждений об ИИ моделях.
На обратном принципе существуют (по крайней мере теоретически) методы проверки, которые, по соответствию весам конкретной ИИ / дистилляции весов конкретной ИИ могут не только определить, на сколько процентов текст генерированный, но и какой конкретно моделью он был создан.
Тут много подводных, о которых можно говорить. Начать стоит хотя бы с того, что я вообще не знаю, есть ли такие решения на рынке и предоставляются ли они кому-либо, а закончить тем, что на это требуются серверные мощности. Но тут хочу хотя бы попытаться оправдаться тем, что я не требую от авторов сайта действий, а высказываю мнение, само собой напрашивающееся.
Насчёт "при отметке невозможно оправдаться" - вопрос конкретной реализации функции, будет это метка из разряда "Есть вероятность, что этот текст - нейросетевой. Если у автора не стоит метка и вам кажется, что он действительно написан нейросетью - сообщите нам, пожалуйста." или "Аккаунт автора был заблокирован, к нему выслан ОМОН за то, что он использовал нейросеть для расстановки запятых" - разница большая, и реализация в этом диапазоне может быть какая угодно.
P. S. Мне очень жаль, что вам накидывают минусов, вы действительно спрашиваете правильные вопросы в здоровой дискуссии без оскорблений(
Написал(-a) комментарий к посту Оферта, нейроозвучка и различные доработки
Вот со стороны пользователя я, похоже, и не посмотрел на ситуацию. Справедливо, нечего сказать. Perplexity частично прав, но я имел ввиду слегка другое.
Если у LLM есть текст, к примеру:
И вместо "..." дана задача вставить следующее слово, с точки зрения уже обученной модели, на основе множества текстов у него будет что-то вроде:
33,3% "человеком"
33,3% "машиной"
12,5% "на печатной машинке"
И так далее, в зависимости от базы, на которой он учился. Упрощаю я безбожно, но суть в том, что в этом контексте вероятность появления слова "ПАПОРОТНИК" или любого другого случайного крайне мала. И если у нас будет доступ к весам - да, конечно, мы можем снять с них маску и посмотреть, какая вероятность того, что текст (отрывок, фрагмент) совпадает с маской, причём чем больше предоставлен отрывок, тем больше точность этого определения, а так как маски у нас разные под каждую модель - можно ещё и конкретную определить.
С чем, к сожалению, соглашусь - пользователям это вообще не интересно, и решение этой проблемы действительно не в этом, боюсь вы правы. В любом случае, спасибо.