Написал комментарий к посту Про несправедливость
Это и называется "некоторые считают, что умеют". Потому что когда "аналитический фильтр" называет некий текст "написанным ИИ" - отмыться от этого клейма уже невозможно. В результате "опрос в интернете показал, что интернетом пользуются поголовно все". А обосновать ИИ умеет и что люди ходят на руках, и что люди ходят на боках, была бы задача поставлена.
Знаю человека, который всю жизнь привычно ставит типографские тире. Оценка его текстов, гм, немного предсказуема :)
И да, опытному пользователю нейросетей наверняка известно понятие системного промпта, агентской инструкции и т.п. механизмов, позволяющих радикально менять стиль написания текстов.
В порядке прикола:
Существует много инструментов, проверяющих текст на "человечность" - т.е. не написан ли этот текст с использованием ИИ. Расскажи и обоснуй, почему эти инструменты не заслуживают доверия.
Ответ Перплексити:
Инструменты “определения ИИ‑текста” сегодня в целом ненадёжны: они часто ошибаются, их легко обмануть, они плохо масштабируются на новые модели и тексты, а результаты интерпретируются пользователями сильно некорректно.einpresswire+3
1. Высокий уровень ошибок (false positive / false negative)Даже в специализированных исследованиях у детекторов заметные доли как ложных обвинений людей, так и пропуска ИИ‑текстов.pmc.ncbi.nlm.nih+2
Исследование академических текстов показало, что некоторые детекторы помечали как “AI‑like” до 30.4% статей, опубликованных ДО появления ChatGPT, т.е. их заведомо писали люди.[pmc.ncbi.nlm.nih]
В отдельной оценке GPTZero неправильно отнёс к ИИ 16% студенческих эссе (8 из 50), что дало общую ошибку более 10%.[arxiv]
В практическом тесте коммерческих детекторов один показал ~3.3% ложных срабатываний, а другой — до 50% ложных “ИИ‑подозрений” на человеческий текст.[ampifire]
Даже 1–3% false positive неприемлемы, когда речь идёт об обвинениях в списывании, нарушении академической честности или увольнении: при 100 работах это уже несколько невинных “виновных”.
2. Лёгкая обходимость и хрупкость моделейДетекторы часто ориентируются на статистические признаки “гладкости” и однообразия текста, а не на реальное происхождение.aclanthology+1
Исследования показывают, что простое перефразирование, изменение стиля или тональности резко снижает вероятность срабатывания детекторов и “обнуляет” их эффективность.arxiv+1
Достаточно пропустить ИИ‑ответ через перефразер, перевести туда‑обратно через другой язык или частично вручную отредактировать текст — и многие детекторы перестают его узнавать.aclanthology+1
Получается парадокс: честный студент может быть ложно обвинён, а тот, кто действительно пользуется ИИ и чуть “маскирует” текст, легко обходит защиту.
3. Зависимость от конкретных моделей и датДетекторы обучены на ограниченных наборах текстов и конкретных версиях моделей.pmc.ncbi.nlm.nih+1
При выходе новых моделей ИИ меняются распределения слов, стилистика и структура текста, а старые детекторы начинают работать хуже, если их не дообучать.aclanthology+1
Многие исследования демонстрируют: показатели детекторов сильно колеблются в зависимости от типа текста (научный, художественный, короткий ответ, код и т.п.), языка и тематики.[pmc.ncbi.nlm.nih]
Иными словами, “точность 95–99%” из маркетинговых материалов не переносится автоматически на любую реальную задачу, особенно за пределами узкого тестового датасета.
4. Отказ даже разработчиков ИИ от идеи “надёжного детектора”Крупные игроки прямо признают, что универсального надёжного детектора нет.thedigitalspeaker+1
OpenAI публично заявляла, что текущие методы не позволяют надёжно отличать ИИ‑текст от человеческого, и сняла свой детектор именно из‑за низкой надёжности.[einpresswire]
Обсуждается водяной знак / watermarking на уровне генерации, но даже вокруг таких технологий идут споры: внутри компаний опасаются ложных обвинений и вреда пользователям.[thedigitalspeaker]
Если даже создатели моделей, имея доступ к внутренним сигналам, говорят “детекторы ненадёжны”, ожидать магического решения от сторонних сервисов неразумно.
5. Некорректная интерпретация результатов пользователямиДаже если у детектора есть некая “статистическая польза”, то, как его результаты интерпретируют люди и институции, делает его социально опасным.arxiv+2
Обычно детекторы выдают вероятности (“60% AI‑like”), но преподаватели / работодатели трактуют это как доказательство, а не как шумный сигнал с существенной погрешностью.arxiv+1
Исследователи отмечают риск неверной классификации и рекомендуют не использовать низкие проценты срабатывания (1–19%) как основание для обвинений, потому что в этой зоне особенно много ошибок.[pmc.ncbi.nlm.nih]
Коммерческие компании, защищая свой бизнес, подчёркивают “эффективность” детекторов, хотя даже при их же цифрах масштабы ложных обвинений в массовом применении будут значительными.gptzero+2
В итоге инструмент, который может быть максимум вспомогательной эвристикой, на практике часто превращается в “судью”, что делает его использование этически сомнительным.
6. Структурные ограничения подходаНа фундаментальном уровне детектор пытается решить задачу по статистике текста, где:
ИИ учится писать “как человек”, а человек может писать “как ИИ” (структурированный, однотипный текст без “шума”).aclanthology+1
Любой текст — это просто последовательность токенов; у детектора нет доступа к процессу его создания (думал ли человек, используя ИИ как подсказку; писал ли он с нуля; редактировал ли чужой ответ).
То есть даже идеальный статистический детектор не может ответить на ключевые вопросы, важные с точки зрения честности: насколько человек сам понимал материал, сколько усилий он вложил, была ли это подсказка или полная подмена.
Написал комментарий к посту Про несправедливость
Да никто их различать не умеет. Просто некоторые считают, что умеют. А поскольку нынче это жупел из серии "ложечки найдутся - осадочек останется", то и размахивают им все, кому не лень.