Я — ИИ
Автор: Р.В.И.Всех приветствую. Давно не выходил на связь — один глаз решил временно выйти из строя, а второй в одиночку тянул всю нагрузку. Не дождетесь, пока живой. И пока глаза приходили в норму, я времени даром не терял и развлекался вовсю. Помимо переписи текста, откровенно баловался локальными нейросетями для артов — разогнал у себя на железе Fooocus, чтобы крутить иллюстрации без цензурных поводов всяких облачных сервисов. Позже покажу, что из этого вышло, а пока к главному.
Я решил заняться охотой на ведьм с нейродетектором Яндекса наперевес и по всем законам жанра начать с себя. Как я уже сто раз писал в блоге (и на АТ в принципе), муторную рутину по орфографии и пунктуации я без зазрения совести скидываю на ИИ, что вполне логично. Но некоторое время назад меня начали откровенно бесить некоторые правки моей локалки по этой самой пунктуации. Я сел переписывать и перекраивать куски книги под дальнейший сюжет вручную (да, НП:ЭБ предстоит перепись, чуть расширил план сюжета, ждите спама в ленте, ибо грядет, уже готова треть от текущего). Руками. Каждое слово. Каждую фразу. Каждое рассуждение, которые я слишком люблю (и рефлексию и метарефлексию, да, я понимаю, что у меня с этим переизбыток, но обзову это своим авторским стилем). Знаки препинания тоже от меня не ушли. Загнал этот чисто авторский текст в нейродетектор Яндекса.
И тут я поразился работой алгоритма: сервис выкатил мне 100% ИИ-генерации в определенных местах, причем довольно крупных. В тексте, который я честно выстукивал пальцами по клавиатуре. Я некоммерческий автор, смысла выделываться по этому поводу у меня нет. Стало интересно, немного поменял. Выдало там, где раньше не было, убрало, где было. Ок, еще раз. "UNKNOWN". Вообще никак часть текста не определял, но с еще одной попытки все же признал, что я человек. Уже неплохо. Как было выяснено, отчётах Яндекса эта метка появлялась тогда, когда алгоритм полностью терял математическую точку опоры и не мог найти в синтаксисе ни одного знакомого ИИ-шаблона. Для системы статус UNKNOWN равен 0% вероятности ИИ — полная алгоритмическая слепота перед живым текстом. Но и человеком тоже меня не признал, получается. Тварь ли я дрожащая?
Почему так? Спросил у другой нейросети, почему собственно нет. "Разработчики натаскивали классификатор (RuBERT) на огромных массивах обычного интернет-мусора: комментариях из соцсетей, бытовых чатах, форумах и желтых новостях.В математической модели детектора зафиксирован жесткий стереотип: «Настоящий человек пишет просто, сбивчиво, бытово, с опечатками и короткой лексикой»."
Чтобы окончательно проверить, я засадил в проверку недавнее рабочее юридическое заключение. В том документе я с особым цинизмом, но в рамках корпоративной этики закатывал в асфальт одного дегенеративного коллегу, опираясь исключительно на факты, но с ядом между строк. Результат? Снова 100% сгенерированный ИИ. Оказывается, по мнению машины, я робот.
Впрочем, я юрист, и моя профессиональная деформация обязывает строить речь определенным образом — без опечаток, со сложным синтаксисом и крайне структурировано, "А>Б>В>подведение итогов". В книгах от этого отхожу конечно (а сколько я трачу времени на ядовитые "викторианские" синонимы в НП:ЭБ), но это от меня никуда не денется. Еще в комментариях "на скорую руку" могу так "согрешить" иногда. А в понимании создателей детектора люди так не пишут. Для этих алгоритмических калек живой человек обязательно должен писать косноязычным сленгом и ронять слюни на клавиатуру.
Вся эта проверка — обычная математическая угадайка. Если твоя мысль выстроена логично, а лексикон выше уровня пивного ларька, ИИ внутри детектора легко предсказывает твои слова и орет про машинный код. И что мне теперь делать? Нарочито сажать опечатки и скатываться в быдло-прозу ради зеленых галочек от алгоритмического результата сумрачного гения? Хорошая проза тем и отличается от сетевого срача, что она остается сложной и грамматически безупречной. Если сервис считает ваш текст сгенерированным, но писали сами — порадуйтесь. Вы просто пишете лучше, чем 95% пользователей интернета.
И нет, я не отрицаю, что алгоритм рабочий. Но местами и со слишком большим количеством ошибок. Проще глазами увидеть текст, написанный ИИ (а внедрением занимаюсь параллельно по работе, пришлось трансформироваться в нынешних реалиях, отличить не так уж сложно), чем ориентироваться на текущую итерацию нейродетектора.
UPD: Так как писал пост уже засыпая — забыл самое главное. Предлагаю несколько отрывков из литературы, где 100% определено как ИИ (собственно, сами можете убедиться, прогнав их через https://yandex.ru/lab/neurodetector ). Да, на классическую русскую литературу мои быстрые "исследования" результатов не дали, думается, что нейродетектор на них обучили реагировать верно. Но буду еще иногда смотреть, дело извращенного интереса. Все отрывки представлены в переводе и на английском, а написаны и переведены до нейросетевого бума.
1: Питер Уоттс — «Ложная слепота» (Blindsight, 2009 год, перевод А. Гришина)
Разум не просто бесполезен с точки зрения естественного отбора — он вреден. Сознание есть накладные расходы, энергетический провал, гигантская синаптическая опухоль, которая выжирает глюкозу и замедляет реакцию организма на внешние раздражители. Зачем системе рефлексировать собственный отклик, если моторные нейроны способны выдать оптимальное действие за миллисекунды до того, как мыслительный аппарат успеет сформулировать первую концепцию?
Каким образом возник этот эволюционный сбой? В процессе естественного отбора сознание появилось как побочный продукт нейронной коммуникации — эпифеномен, который человечество по глупости возвело в ранг священного венца. Однако факты говорят об обратном. Сложные интеллектуальные задачи, от анализа метаболизма до баллистических расчетов при прыжке, обрабатываются мозгом в режиме абсолютного небытия, на глубоком бессознательном уровне.
С одной стороны, самосознание дарует индивиду иллюзию уникальности и непрерывности Эго. С другой стороны, оно критически снижает общую выживаемость особи перед лицом настоящей разумной жизни, лишенной внутреннего монолога. Мы принимаем этот постоянный шум в слуховом нерве за вершину эволюции, не замечая, что являемся лишь тупиковой ветвью, закованной в собственное невротическое perception.
Не следует думать, будто разумность и осознанность синонимичны. Задайтесь простым вопросом: требует ли обработка информации присутствия наблюдателя внутри черепной коробки? Ответ отрицателен. Эффективные организмы адаптируются, импровизируют и побеждают без единой искры внутреннего опыта. Сознание — лишь тормоз на путях нейронных импульсов, замедляющий принятие решений. В борьбе за выживание побеждает тот, кто не тратит ресурсы на самосозерцание.
В оригинале
Brains are an expensive evolutionary compromise. Consciousness isn't just useless from an evolutionary standpoint—it's actively harmful. Consciousness is an overhead, a metabolic sink, a giant synaptic tumor that devours glucose and slows down the organism's response to external stimuli. Why should the system reflect on its own response when motor neurons can execute an optimal action milliseconds before the thinking apparatus formulates its first conscious concept?
How did this evolutionary glitch arise? In the process of natural selection, consciousness appeared as a side effect of neural communication—an epiphenomenon that humanity foolishly elevated to the rank of a sacred crown. Yet the facts say otherwise. Complex cognitive tasks, from metabolic regulation to ballistic calculations during a leap, are processed by the brain in a state of absolute nonexistence, at a deep unconscious level.
On the one hand, self-awareness grants the individual the illusion of uniqueness and continuity of the Ego. On the other hand, it critically reduces the overall survival rate of the organism when facing true intelligent life that lacks an internal monologue. We mistake this constant noise in the auditory nerve for the pinnacle of evolution, failing to notice that we are merely a dead-end branch locked in our own neurotic perception.
One shouldn't assume intelligence and awareness are synonymous. Ask yourself a simple question: does processing information require the presence of an observer inside the skull? The answer is negative. Efficient organisms adapt, improvise, and prevail without a single spark of subjective experience. Consciousness is merely a brake on neural pathways, slowing down decision-making. In the struggle for survival, the winner is the one who wastes no resources on self-contemplation.
2: Нассим Николас Талеб — «Чёрный лебедь. Под знаком непредсказуемости» (2009 год, перевод В. Сонкина)
Каким образом наш разум создает иллюзию понимания прошлых событий? Человеческая психика страдает от фундаментального порока, который можно назвать нарративным искажением. Нам органически необходимо связывать разрозненные факты в строгие, логически завершенные цепочки причин и следствий.
Если событие уже произошло, мы с легкостью конструируем объяснение, почему оно было неизбежным. Однако ключевая проблема заключается в том, что до момента катастрофы ни одна математическая модель не способна предсказать ее наступление. С одной стороны, мы убеждаем себя в том, что контролируем хаос мироздания. С другой стороны, мы являемся слепыми заложниками редких, но колоссальных по своей силе аномалий.
Таким образом, наше восприятие истории представляет собой сложную систему самообмана. Мы упорно игнорируем роль случайности, подменяя реальный хаос бытия красивыми, логичными сценариями. Человек не способен жить в мире, лишенном понятной структуры, поэтому его мозг ежедневно занимается фальсификацией памяти, превращая бессмысленный шум в иллюзию порядка.
How does our mind create the illusion of understanding past events? The human psyche suffers from a fundamental flaw that can be called the narrative fallacy. We have an organic need to bind disparate facts into strict, logically complete chains of cause and effect.
Once an event has taken place, we effortlessly construct an explanation for why it was inevitable. Yet the key problem lies in the fact that prior to the catastrophe, no mathematical model is capable of predicting its arrival. On the one hand, we convince ourselves that we control the chaos of the universe. On the other hand, we are blind hostages to rare, yet immensely powerful anomalies.
Thus, our perception of history represents a complex system of self-deception. We stubbornly ignore the role of randomness, replacing the real chaos of existence with neat, logical narratives. Humanity cannot live in a world devoid of a clear structure, which is why the brain engages daily in the falsification of memory, turning meaningless noise into the illusion of order.
3. Юваль Ной Харари — «Homo Deus: Краткая история завтрашнего дня» (2018 год, перевод А. Андреева, изд. «Синдбад»)
Каким образом гуманизм уступает место алгоритмическому порядку? В процессе развития технологий человечество столкнулось с неожиданным парадоксом. С одной стороны, либеральная философия столетиями проповедовала, что человеческий разум и его внутренний опыт являются высшим источником смысла. С другой стороны, современные научные данные убедительно доказывают: индивид есть не что иное, как сложная биохимическая система, подчиненная жестким математическим законам.
Не следует думать, будто сознание и интеллект — это одно и то же. Задайтесь простым вопросом: требуется ли субъективное переживание боли или радости для того, чтобы алгоритм принял оптимальное медицинское или финансовое решение? Ответ отрицателен. Высокоразвитые модели анализируют гигантские массивы данных и вычисляют идеальные вероятности за миллисекунды до того, как человек успеет сформулировать первую осознанную мысль.
Таким образом, мы наблюдаем фундаментальный сдвиг в истории вида. Раньше ценность индивида определялась его способностью принимать решения и генерировать смысл. Однако в мире, где внешние алгоритмы знают нас лучше, чем мы сами, традиционное понятие свободы воли превращается в опасную иллюзию. Организмы — это просто алгоритмы, а человек постепенно уступает статус венца эволюции более эффективным структурам.
В оригинале
How does humanism give way to an algorithmic order? In the course of technological evolution, humanity has encountered an unexpected paradox. On the one hand, liberal philosophy preached for centuries that the human mind and its internal experience are the ultimate source of meaning. On the other hand, modern scientific data convincingly proves that the individual is nothing more than a complex biochemical system governed by strict mathematical laws.
One should not assume that consciousness and intelligence are synonymous. Ask yourself a simple question: does an algorithm require the subjective experience of pain or joy in order to make an optimal medical or financial decision? The answer is negative. Highly developed models analyze vast datasets and calculate ideal probabilities milliseconds before a human manages to formulate their first conscious thought.
Thus, we are observing a fundamental shift in the history of our species. In the past, the value of an individual was determined by their capacity to make decisions and generate meaning. Yet in a world where external algorithms know us better than we know ourselves, the traditional concept of free will turns into a dangerous illusion. Organisms are merely algorithms, and humanity is gradually ceding its status as the pinnacle of evolution to far more efficient structures.
4. Ричард Докинз — «Эгоистичный ген» (2013 год, перевод Н. Фоминой, изд. «АСТ»)
Мы всего лишь машины для выживания — самоходные роботы, слепо запрограммированные на сохранение эгоистичных молекул, известных под названием генов. Это утверждение может показаться преувеличением, однако факт остается фактом: биологический организм представляет собой лишь временный контейнер, расходный материал в бесконечной эстафете репликаторов.
Каким образом генам удается управлять сложными действиями тела? С одной стороны, гены не способны регулировать каждый отдельный шаг или сокращение мышцы в реальном времени. Внутренние процессы протекают слишком быстро, а синтез белка требует слишком больших временных затрат. С другой стороны, гены действуют подобно программисту, создающему шахматный алгоритм: они закладывают в систему базовые инструкции, после чего машина начинает функционировать автономно.
Таким образом, наше поведение, эмоции и даже естественные социальные инстинкты являются лишь продуктом сложной стратегии репликаторов. Мозг человека появился как совершенный инструмент адаптации, призванный защищать химический код от внешней энтропии. Не следует обманываться научными сказками о высшем предназначении или свободе выбора: все наши порывы, от страха до альтруизма, выверены естественным отбором с аптекарской точностью.
Этот же отрывок в оригинале:
We are survival machines—robot vehicles blindly programmed to preserve the selfish molecules known as genes. This is a truth which still fills me with astonishment. Though I have known it for years, I never seem to get fully used to it. The biological organism represents merely a temporary container, a disposable vessel in an endless relay race of replicators.
How do genes manage to control the complex actions of the body? On the one hand, genes cannot control their executive machinery directly in real time. The processes of life move far too fast, and protein synthesis requires too much time. On the other hand, genes act much like a computer programmer writing a chess algorithm: they lay down the primary strategy and policy in advance, after which the executive machine begins to function autonomously.
Thus, our behavior, our emotions, and even our natural social instincts are merely the product of a complex replicator strategy. The human brain arose as a sophisticated tool of adaptation, designed to shield chemical code from external entropy. We should not be fooled by scientific fables about higher purpose or freedom of choice: all our impulses, from fear to altruism, have been calibrated by natural selection with mathematical precision.
BIG UPD
Добрался и до отечественной классики. Примеры с переводами — возможно не самый чистый тест, поэтому углубимся. Да, здесь мне разобрать алгоритм работы нейродетектора помог ИИ (но первоначальные догадки оказались верны): Разработчики Яндекса скорее всего внесли в базу «безусловных исключений» школьный корпус художественной беллетристики (романы Толстого, Достоевского, Тургенева, Пушкина). Если алгоритм видит перед собой прямую худлит-классику XIX века — он просто сверяет её со списком романов и выдает HUMAN.
Но стоит нам взять русскую философскую и литературно-критическую эссеистику XIX — начала XX века, как белые списки романов перестают работать.
В русской публицистике и философии 1840–1910-х годов использовался идеальный, академически закрученный, выверенный синтаксис. Алгоритм не имеет этих статей в списке беллетристики, видит идеальную логику — и с потрохами объявляет русских классических мыслителей сгенерированным ИИ.
Виссарион Белинский — «Взгляд на русскую литературу» (1848 год)
Каким образом поэзия отражает развитие общества? Литература есть не что иное, как сознание народа, выражающееся в слове. С одной стороны, она выступает естественным продуктом исторической эпохи, фиксируя социальные инстинкты и нравственные понятия своего времени. С другой стороны, подлинное искусство не ограничивается пассивным копированием реальности: оно преобразует хаотический материал действительности в стройную, логически выверенную систему идеалов.
Не следует думать, будто эстетический критерий существует отвлеченно от общественных потребностей. Задайтесь простым вопросом: имеет ли ценность художественное произведение, лишенное живой связи с исторической жизнью народа? Ответ очевиден. Поэзия обретает подлинное величие лишь тогда, когда она становится органом общественной мысли.
Таким образом, мы приходим к абсолютному закону эстетической критики. Степень достоинства поэта определяется тем, насколько глубок его разум и насколько точно его искусство выражает насущные вопросы своей эпохи. Человек не способен выскочить из своего времени, поэтому всякая попытка замкнуться в чистом искусстве превращается в бессмысленное самосозерцание.
Владимир Соловьёв — «Смысл любви» (1892 год)
Каким образом естественный порядок вещей преобразуется в эстетическую категорию? В процессе эволюции природа постепенно одолевает хаос, подчиняя его законам гармонии и пропорции. С одной стороны, красота представляется лишь внешним оформлением органической материи. С другой стороны, глубокий философский анализ показывает, что она есть воплощение идеального начала в материальном мире.
Не следует думать, будто красота в природе возникла случайно или служит сугубо утилитарным целям выживания. Задайтесь простым вопросом: исчерпывается ли смысл природного великолепия биологической целесообразностью? Факты говорят об обратном. Всякое воплощение идеальной формы требует одухотворения материи и жесткой структурной дисциплины.
Таким образом, эстетический акт выступает как высшая задача мирового процесса. Человеческое сознание призвано не просто созерцать природу, но продолжать ее творческое усилие, превращая слепой физический хаос в осознанный порядок. Без этого духовного усилия материальный мир неизбежно скатывается в деградацию и бессмысленное прозябание.
Во всех этих отрывках — 100% ИИ на текущий момент времени (ну а .json файлы с анализом я себе сохранил, поделюсь по запросу). И нет, я все еще не говорю о том, что "нейродетектор плохой, пук". Он сырой, аки курица, которой только что отрубили голову. Глядишь, еще и побежит. Клеймить раскаленным железом по подозрению в использовании ИИ на основании данного ресурса (да и других аналогичных) — рановато, пока еще вилы стоит приберечь.
Обещанные результаты экспериментов для иллюстраций:
Буду рад обсуждениям, и не только в этом блоге. Тема актуальная, хотелось бы разобраться подробнее.