Детектор: почему с ним не все так просто
Автор: Алена ЛамбертНу что ж, господа, мы живем в реальности, когда абсолютно любой текст на АТ (даже рецензии и посты) проверяются через детектор от Яндекса. Ок, а вы читали условия пользования этим сервисом, который принадлежит YandexGPT? Ссылка на них приведена на этой же странице внизу.
А поводом для поста стала вот эта запись в блоге в ВК от сообщества, посвященного использованию ИИ на АТ. Там много анонимных
Итак, мы с Дипсиком, который временно переквалифицировался в юриста, разобрали для вас основные положения этих правил, о которых вам нужно знать, и вот что нашли (предупреждаю вас, что букв будет много, пост длинный, так что запаситесь терпением или просто не читайте, на всякий случай скрою под спойлер, если интересно, откроете):
2.1. Чрезмерно широкая лицензия на пользовательские данные (п. 3.2 Условий)
Согласно п. 3.2 Условий, пользователь безвозмездно предоставляет Яндексу право использовать свои Запросы и созданный Контент «для любых целей и любыми способами по своему усмотрению на территории всего мира без ограничения по сроку».
Это положение представляет собой бессрочную, безотзывную и территориально неограниченную лицензию на весь генерируемый пользователем материал, включая, потенциально, персональные данные, которые могут содержаться в запросах.
РИСКИ:
— Утрата фактического контроля над интеллектуальной собственностью и конфиденциальной информацией.
— Потенциальное распространение персональных данных по неконтролируемому кругу лиц без дополнительного согласия.
— Невозможность отзыва согласия в связи с бессрочным характером лицензии.
2.2. Риски, связанные с обработкой персональных данных
Позиция Роскомнадзора заключается в том, что диалоги пользователей с нейросетями следует рассматривать как персональные данные, поскольку они содержат информацию, характеризующую действия, предпочтения и лексику конкретного лица. Сервисы ИИ сохраняют всю введенную пользователем информацию.
Условия Яндекса не содержат специальных положений, определяющих правовой режим обработки персональных данных, потенциально содержащихся в Запросах. При этом на практике были зафиксированы случаи, когда YandexGPT выдавал персональные данные (номера телефонов) по запросам третьих лиц, что может свидетельствовать о хранении такой информации в моделях без надлежащего согласия субъекта.
РИСКИ:
— Обработка персональных данных без получения явного и информированного согласия, как того требует ст. 9 ФЗ-152 «О персональных данных».
— Отсутствие прозрачности в отношении целей обработки персональных данных.
— Потенциальная передача персональных данных третьим лицам без законных оснований.
2.3. Ограничение ответственности Яндекса (пп. 2.1.1-2.1.9, 4.2 Условий)
Условия содержат массивное ограничение ответственности сервиса. Яндекс прямо заявляет, что:
— не гарантирует создание Контента и его релевантность (п. 2.1.1);
— не проверяет Контент на точность, достоверность, актуальность и законность (п. 2.1.2);
— сервисы предоставляются «как есть» (as is) без каких-либо гарантий (п. 4.2).
При этом вся ответственность за использование Контента, его проверку и соответствие законодательству перекладывается на пользователя (пп. 2.1.3, 2.1.5, 2.1.9).
РИСКИ:
— Пользователь несет единоличную ответственность за все последствия использования сгенерированного Контента, даже если вред причинен вследствие дефектов самого сервиса.
— Данные положения могут противоречить законодательству о защите прав потребителей (Закон РФ «О защите прав потребителей»), которое устанавливает более высокий стандарт ответственности исполнителя услуг.
2.4. Одностороннее изменение условий (п. 1.2 Условий)
Пункт 1.2 Условий предусматривает право Яндекса изменять Условия в одностороннем порядке без специального уведомления пользователя. Новая редакция вступает в силу с момента размещения в сети Интернет. Единственным способом защиты для несогласного пользователя является прекращение использования сервиса.
РИСКИ:
— Данное положение создает «ловушку» для пользователя, который может не отслеживать изменения на сайте.
— Отсутствие надлежащего уведомления о существенных изменениях условий договора может быть квалифицировано как нарушение принципа добросовестности (ст. 10 ГК РФ) и прав потребителей.
2.5. Отсутствие эффективных механизмов защиты прав (пп. 2.1.10, 4.4 Условий)
Условия предусматривают лишь возможность сообщить о некорректном Контенте в службу поддержки Яндекса (п. 2.1.10), а также право сообщить о претензиях «с использованием функциональных возможностей конкретного Сервиса» (п. 4.4). При этом не устанавливаются сроки рассмотрения обращений, порядок восстановления нарушенных прав и меры ответственности за неисполнение обязательств.
РИСКИ:
— Фактическое отсутствие эффективного механизма досудебного урегулирования споров.
— Невозможность оперативного восстановления нарушенных прав.
2.6. Потенциальное нарушение исключительных прав третьих лиц (п. 2.1.8 Условий)
Условия предупреждают, что генерируемый Контент может совпадать с результатами интеллектуальной деятельности, права на которые принадлежат третьим лицам (п. 2.1.8). При этом вся ответственность за возможное нарушение исключительных прав перекладывается на пользователя (п. 2.1.9).
РИСКИ:
— Пользователь рискует стать ответчиком по иску о нарушении авторских прав, используя Контент, сгенерированный сервисом Яндекса.
— Данное положение ставит под сомнение правовую чистоту использования сервиса в коммерческих целях.
ВЫВОДЫ:
1. Условия использования YandexGPT содержат ряд положений, которые создают существенные риски для рядового пользователя, в первую очередь связанные с безвозмездным отчуждением прав на Запросы и Контент, а также с неконтролируемой обработкой потенциально содержащихся в них персональных данных.
2. Широкая бессрочная лицензия на Запросы и Контент (п. 3.2) может рассматриваться как несоразмерное ограничение прав потребителей и противоречить основным началам гражданского законодательства (ст. 1 ГК РФ).
3. Положения Условий, касающиеся обработки персональных данных, требуют дополнительной проверки на соответствие требованиям Федерального закона от 27.07.2006 № 152-ФЗ «О персональных данных» с учетом официальной позиции Роскомнадзора, квалифицирующей диалоги с ИИ как персональные данные.
4. Исключение ответственности Яндекса за качество и содержание Контента при одновременном возложении всех рисков на пользователя может быть оспорено в судебном порядке со ссылкой на законодательство о защите прав потребителей.
5. Право Яндекса на одностороннее изменение Условий без уведомления пользователя создает правовую неопределенность и может быть квалифицировано как нарушение принципа добросовестности.
6. Рекомендация: До приведения Условий в соответствие с законодательством РФ пользователям следует воздерживаться от ввода в сервис любой информации, которая может быть отнесена к персональным данным, конфиденциальной информации или объектам интеллектуальной собственности, предназначенным для дальнейшего коммерческого использования.
Согласно п. 3.2 Условий, пользователь безвозмездно предоставляет Яндексу право использовать свои Запросы и созданный Контент «для любых целей и любыми способами по своему усмотрению на территории всего мира без ограничения по сроку».
Это положение представляет собой бессрочную, безотзывную и территориально неограниченную лицензию на весь генерируемый пользователем материал, включая, потенциально, персональные данные, которые могут содержаться в запросах.
РИСКИ:
— Утрата фактического контроля над интеллектуальной собственностью и конфиденциальной информацией.
— Потенциальное распространение персональных данных по неконтролируемому кругу лиц без дополнительного согласия.
— Невозможность отзыва согласия в связи с бессрочным характером лицензии.
2.2. Риски, связанные с обработкой персональных данных
Позиция Роскомнадзора заключается в том, что диалоги пользователей с нейросетями следует рассматривать как персональные данные, поскольку они содержат информацию, характеризующую действия, предпочтения и лексику конкретного лица. Сервисы ИИ сохраняют всю введенную пользователем информацию.
Условия Яндекса не содержат специальных положений, определяющих правовой режим обработки персональных данных, потенциально содержащихся в Запросах. При этом на практике были зафиксированы случаи, когда YandexGPT выдавал персональные данные (номера телефонов) по запросам третьих лиц, что может свидетельствовать о хранении такой информации в моделях без надлежащего согласия субъекта.
РИСКИ:
— Обработка персональных данных без получения явного и информированного согласия, как того требует ст. 9 ФЗ-152 «О персональных данных».
— Отсутствие прозрачности в отношении целей обработки персональных данных.
— Потенциальная передача персональных данных третьим лицам без законных оснований.
2.3. Ограничение ответственности Яндекса (пп. 2.1.1-2.1.9, 4.2 Условий)
Условия содержат массивное ограничение ответственности сервиса. Яндекс прямо заявляет, что:
— не гарантирует создание Контента и его релевантность (п. 2.1.1);
— не проверяет Контент на точность, достоверность, актуальность и законность (п. 2.1.2);
— сервисы предоставляются «как есть» (as is) без каких-либо гарантий (п. 4.2).
При этом вся ответственность за использование Контента, его проверку и соответствие законодательству перекладывается на пользователя (пп. 2.1.3, 2.1.5, 2.1.9).
РИСКИ:
— Пользователь несет единоличную ответственность за все последствия использования сгенерированного Контента, даже если вред причинен вследствие дефектов самого сервиса.
— Данные положения могут противоречить законодательству о защите прав потребителей (Закон РФ «О защите прав потребителей»), которое устанавливает более высокий стандарт ответственности исполнителя услуг.
2.4. Одностороннее изменение условий (п. 1.2 Условий)
Пункт 1.2 Условий предусматривает право Яндекса изменять Условия в одностороннем порядке без специального уведомления пользователя. Новая редакция вступает в силу с момента размещения в сети Интернет. Единственным способом защиты для несогласного пользователя является прекращение использования сервиса.
РИСКИ:
— Данное положение создает «ловушку» для пользователя, который может не отслеживать изменения на сайте.
— Отсутствие надлежащего уведомления о существенных изменениях условий договора может быть квалифицировано как нарушение принципа добросовестности (ст. 10 ГК РФ) и прав потребителей.
2.5. Отсутствие эффективных механизмов защиты прав (пп. 2.1.10, 4.4 Условий)
Условия предусматривают лишь возможность сообщить о некорректном Контенте в службу поддержки Яндекса (п. 2.1.10), а также право сообщить о претензиях «с использованием функциональных возможностей конкретного Сервиса» (п. 4.4). При этом не устанавливаются сроки рассмотрения обращений, порядок восстановления нарушенных прав и меры ответственности за неисполнение обязательств.
РИСКИ:
— Фактическое отсутствие эффективного механизма досудебного урегулирования споров.
— Невозможность оперативного восстановления нарушенных прав.
2.6. Потенциальное нарушение исключительных прав третьих лиц (п. 2.1.8 Условий)
Условия предупреждают, что генерируемый Контент может совпадать с результатами интеллектуальной деятельности, права на которые принадлежат третьим лицам (п. 2.1.8). При этом вся ответственность за возможное нарушение исключительных прав перекладывается на пользователя (п. 2.1.9).
РИСКИ:
— Пользователь рискует стать ответчиком по иску о нарушении авторских прав, используя Контент, сгенерированный сервисом Яндекса.
— Данное положение ставит под сомнение правовую чистоту использования сервиса в коммерческих целях.
ВЫВОДЫ:
1. Условия использования YandexGPT содержат ряд положений, которые создают существенные риски для рядового пользователя, в первую очередь связанные с безвозмездным отчуждением прав на Запросы и Контент, а также с неконтролируемой обработкой потенциально содержащихся в них персональных данных.
2. Широкая бессрочная лицензия на Запросы и Контент (п. 3.2) может рассматриваться как несоразмерное ограничение прав потребителей и противоречить основным началам гражданского законодательства (ст. 1 ГК РФ).
3. Положения Условий, касающиеся обработки персональных данных, требуют дополнительной проверки на соответствие требованиям Федерального закона от 27.07.2006 № 152-ФЗ «О персональных данных» с учетом официальной позиции Роскомнадзора, квалифицирующей диалоги с ИИ как персональные данные.
4. Исключение ответственности Яндекса за качество и содержание Контента при одновременном возложении всех рисков на пользователя может быть оспорено в судебном порядке со ссылкой на законодательство о защите прав потребителей.
5. Право Яндекса на одностороннее изменение Условий без уведомления пользователя создает правовую неопределенность и может быть квалифицировано как нарушение принципа добросовестности.
6. Рекомендация: До приведения Условий в соответствие с законодательством РФ пользователям следует воздерживаться от ввода в сервис любой информации, которая может быть отнесена к персональным данным, конфиденциальной информации или объектам интеллектуальной собственности, предназначенным для дальнейшего коммерческого использования.
Что же из этого всего следует?
Сначала краткая справка. В Высшей школе экономики в 2026 году защитили работу, где на примере YandexGPT показали: фрагменты личных данных, на которых модель обучалась, могут «всплыть» в ответах при определенных условиях. Проще говоря — нейросеть иногда «проговаривается» чужими секретами. Если модель научилась на реальных переписках или документах, она может выдать кусок этой информации другому пользователю. Такие уязвимости уже находили, когда YandexGPT выдавал номера телефонов по запросам посторонних людей.
Роскомнадзор официально сказал: диалоги с нейросетями — это персональные данные. А раз это персональные данные, их можно изъять, проверить, использовать в суде. Вы пишете нейросети что-то личное, полагая, что это просто «чат с ботом», а на самом деле создаете цифровой слепок своей жизни, который может стать доказательством по любому делу — от административного до уголовного.
Дальше — больше. В марте 2026 года выяснилось, что браузерные расширения тайно перехватывают переписки пользователей с ИИ-чатботами, включая медицинские диагнозы и финансовые данные, и продают их брокерам. То есть даже если сам Яндекс хранит данные прилично, «дыра» может быть на стороне вашего собственного браузера. Мошенники уже создают поддельные версии известных нейросетей: по данным «ФедералПресс», более 10 миллионов россиян рискуют раскрыть свои конфиденциальные данные через такие подделки.
Теперь сложим картину целиком. Что мы имеем:
— Бессрочная лицензия на все, что вы пишете.
— Персональные данные, которые можно изъять и использовать в суде.
— Исследовательски подтвержденные уязвимости, через которые данные утекают.
— Мошеннические схемы, которые специально охотятся за пользователями ИИ-сервисов.
ВЫВОД: Яндекс.Детектор — это договор, который вы подписываете, даже не читая (а если вы хоть раз брали кредит, в курсе, что читать надо все, особенно мелкий шрифт). И по этому договору вы отдаете компании право использовать ваши данные любым способом навсегда. Просто помните об этом, когда в следующий раз захотите обсудить с ботом что-то действительно личное или проверить чей-то текст.
Еще немного про ложные обвинения и репутационный ущерб
Ключевая проблема AI-детекторов — их неточность, которая проявляется в двух формах: ложноположительные результаты (когда человеческий текст принимается за машинный) и ложноотрицательные (когда машинный текст не распознаётся).
Пример: личное сообщение одной из участниц конкурса 33 слова (публикуется с разрешения Лены Александровой). Кстати, присоединяйтесь к конкурсу, прием заявок до 10 июня, подведение итогов — 12 июня.
Можно подумать, что такое ложноположительное срабатывание относится только к коротким или ультракоротким текстам, как в данном случае. И тогда возникают вполне резонные и логичные вопросы по корректности механизма ИИ. То есть Хэмингуэя с его 6 (в оригинале) словами она с порога промаркировала бы как ИИ-шный текст?
Кстати, если интересно про Хэмингуэя, если бы он творил сейчас и если бы его тексты проверялись через детектор: тексты людей, для которых язык не является родным, ошибочно определяются как «сгенерированные ИИ» в 61% случаев. При этом работы носителей языка детекторы классифицируют почти безупречно. Исследование Стэнфордского университета ещё в 2023 году подтвердило эту систематическую предвзятость. OpenAI прекратила поддержку своего AI Classifier в июле 2023 года, признав точность инструмента на уровне всего 26%.
Показателен случай в Австралийском католическом университете: система Turnitin ошибочно определила работы сотен студентов как написанные ИИ. Студентам пришлось несколько месяцев доказывать свою невиновность, предоставляя черновики и историю браузера. Одной из студенток отказали в аспирантуре, и она потеряла несколько месяцев профессионального роста. Лишь позже университет признал ошибку.
Не обойдем вниманием и мошеннические схемы. Сервисы намеренно завышают процент «машинного» текста, а затем предлагают платную услугу «очеловечивания». Классическая литература начала XX века проверялась через сервисы JustDone AI, TextGuard и Refinely на разных языках, и везде обнаруживался высокий процент «искусственного» вмешательства. Пользователю показывают пугающий отчёт о том, что его текст якобы на 80–90% написан роботом, а затем предлагают за 10 долларов «очистить» его от следов ИИ. Исследовательница Дебора Вебер-Вульфф характеризует подобные сервисы однозначно: «Это не детекторы ИИ, а мошеннические схемы для продажи инструментов „гуманизации“».
Приватность и безопасность данных. AI-детекторы анализируют и хранят пользовательский текст, что создаёт риски для конфиденциальности. Технологии «водяных знаков» (watermarking), которые разрабатывают Microsoft, Adobe и OpenAI для маркировки ИИ-контента, могут раскрыть личность автора. Правозащитник, использующий Gen-AI для разоблачения злоупотреблений власти в репрессивном режиме, может быть идентифицирован через встроенный водяной знак — а это уже вопрос физической безопасности.
Что же в итоге:
Пользователь AI-детектора рискует тройственно: его текст могут украсть для несанкционированного использования, его самого могут ложно обвинить на основе ошибочного вердикта алгоритма, а в случае утечки данных конфиденциальная информация может стать достоянием третьих лиц. Доверие к детекторам должно быть ограниченным и критическим — по крайней мере, до тех пор, пока их точность не перестанет колебаться в диапазоне от 26% до 61%.
САМЫЙ ИТОГОВЫЙ ИТОГ
Когда вы загружаете чужой текст в детектор, вы не просто удовлетворяете любопытство. Вы запускаете цепочку событий, в которой становитесь главным звеном ответственности. И вот что на вас падает.
1. Вы публично обвиняете человека. И делаете это вслепую
Вы получили отчет: «Текст на 87% сгенерирован ИИ». Что вы делаете дальше? Пишете автору: «Это не вы писали»? Отказываете в публикации? Выносите вопрос на обсуждение коллег? С этой минуты вы — обвинитель. А обвинитель, как известно, обязан предъявить доказательства. Но что у вас есть? Только циферка из анонимного окна. Ни протокола проверки, ни расшифровки алгоритма, ни заключения эксперта. Вы даже не знаете, как этот детектор работает на самом деле — едва ли Яндекс любезно расшифрует для вас технологию и предоставит все спецификации.
И вот вам звонок от юриста автора (тише, тише, допустим, только допустим, но где гарантия, что этого не будет на самом деле?). Он спрашивает: на каком основании вы обвинили его клиента в плагиате? У вас есть лицензия на использование детектора? Вы в курсе, что точность этого детектора на уровне подбрасывания монетки? А самое главное — вы готовы повторить свои слова в суде? Потому что автор готов судиться за клевету. Дела о диффамации и защите деловой репутации никто не отменял. И теперь вы сидите и считаете: репутационные потери, судебные издержки, компенсация морального вреда. А началось все с того, что вы просто захотели проверить текст.
2. Вы становитесь соучастником утечки данных
Вы берете чужой текст — возможно, неопубликованную рукопись, служебную записку, конфиденциальный документ — и загружаете его в сторонний сервис. Вы вообще читали пользовательское соглашение этого сервиса? Вы знаете, где физически хранятся серверы? Вы уверены, что завтра этот текст не появится в чьем-то датасете для обучения нейросети?
Предположим, текст содержит коммерческую тайну. Или персональные данные. Или врачебную тайну. Или государственную тайну — почему нет? Вы только что передали эти данные третьим лицам без согласия автора и без договора о конфиденциальности. Поздравляю: вы соучастник утечки. И если завтра этот текст всплывет в открытом доступе или его купит конкурент — первым, к кому придут с вопросами, будете именно вы. Потому что именно вы загрузили его в непроверенный сервис. Автор тут вообще ни при чем — он вам ничего не поручал.
3. Вы подрываете доверие к себе как к профессионалу
Допустим, вы ошиблись. Детектор показал 90% ИИ, а текст на самом деле человеческий. Что происходит дальше? Автор — живой человек, который потратил недели на работу, — получает от вас обвинение в мошенничестве. Он возмущен. Он рассказывает коллегам. Слух расходится: «Этот автор / редактор / читатель / просто неравнодушный АТчанин обвинил меня на основе данных нейросети». В профессиональном сообществе репутация зарабатывается годами, а теряется за один скриншот.
Теперь представьте, что вы — преподаватель, а автор — студент (сейчас речь даже не о писательском тексте, а, например, о реферате). Вы обвинили его в академическом мошенничестве. Он приносит черновики, историю браузера, свидетельства очевидцев. А вы уже поставили ему «незачет». Через месяц приходит официальная жалоба в деканат, еще через месяц — иск в суд. Австралийский католический университет уже прошел этот путь: сотни студентов были ложно обвинены, и университету пришлось оправдываться. Но у вас нет ресурсов университета. Вы — частное лицо или небольшой отдел. И вам придётся отвечать самостоятельно.
4. Вы легитимизируете нелегитимный инструмент
Каждый раз, когда вы проверяете чужой текст через AI-детектор, вы говорите своим действием: «Я доверяю этой технологии. Я считаю ее достаточным основанием для суждения». Вы молчаливо соглашаетесь с тем, что алгоритм с точностью 26% имеет право решать, кто человек, а кто — нет.
И теперь представьте, что завтра этот же детектор начнут использовать для кадровых решений (пишу о том, что знаю, т. к. работаю в юридическом консалтинге для кадровых специалистов). Отказать в приеме на работу, потому что сопроводительное письмо «похоже на ИИ»? Отклонить заявку на грант? Завернуть статью перед публикацией? Вы становитесь частью системы, в которой презумпция невиновности отменяется, а место экспертного суждения занимает черный ящик.
5. Вы принимаете на себя чужую ответственность
Самое парадоксальное: проверяя чужой текст, вы делаете работу, которую не должен делать никто. Платформы, внедряющие AI-детекторы, перекладывают бремя доказательства на конечного пользователя. Но юридически это бремя лежит на обвинителе, а не на обвиняемом. Получается, что вы добровольно впрягаетесь в процесс, где у вас нет ни прав, ни защиты, ни гарантий.
Резюмирую. Проверяя чужой текст через AI-детектор, вы рискуете:
— стать ответчиком по иску о клевете;
— оказаться крайним в случае утечки данных;
— потерять профессиональную репутацию;
— легитимизировать инструмент, который завтра обернётся против вас самих.
И главное — вы рискуете превратиться из коллеги в надзирателя. Из того, кто помогает тексту стать лучше, в того, кто ищет повод его уничтожить. А это уже не про технологии, это про ваш собственный выбор.
P.S. Пост подготовлен с помощью ИИ — написала об этом в самом начале. Потому что так быстрее, удобнее, эффективнее.