ИИ-терминаторы
Автор: Сергей НеизвестновАббревиатура ИИ в сочетании с чем-нибудь встречается в блогах на АТ по нескольку раз в день, а в некоторых из блогов пламя дискуссий или споров полыхает по нескольку дней. А иногда вроде бы уже погасший костер вспыхивает через неделю снова. Понятно, что тема взаимодействия ИИ и творчества актуальна как для сторонников, так и для противников ИИ. Себя я не могу отнести ни к первым, ни ко вторым. Я НЕ сторонник ИИ-творчества, главным образом потому, что тексты, которые пишу и музыка, которую сочиняю иногда - это почти медицинские средства для поддержания моего равновесия со вселенной. Мне не нужно прыгать выше своей головы и писать прозу, стихи или музыку "идеально" или лучше, чем они есть: как раз, напротив, мне нужно писать их именно неидеально, так как пишется, чтобы накапливающаяся энергия всех знаков и качеств воплощалась в этом процессе в каких-то лично узнаваемых формах, важных, в первую очередь, для собственного осознания и рефлексии. Всё это сразу потеряется, если я променяю этот процесс на промты для ИИ - в моем случае такой процесс теряет как всякий смысл, так и результат. С другой стороны, я НЕ могу отнести себя и к сознательным противникам ИИ. Ящик Пандоры уже открыт и закроется разве что только в результате какого-то планетарного катаклизма. Человечество, открыв полупроводники и, почти одновременно, принципы программируемых вычислений, перевело прогресс и эволюцию, даже не осознавая этого сначала, на качественно новый уровень, на котором открытие ИИ было уже, фактически, предрешено. А будучи теперь открытым, он развивается уже почти по объективным законам капиталистической экономики, так как становится для нее ключевым инструментом увеличения прибыли на порядки. Не вижу смысла сопротивляться этому теперь. На мой взгляд более конструктивный путь - освоение, знакомство с сильными и слабыми сторонами, и использование его там, где он действительно может быть помощником. Лично я использую его (пользуюсь только бесплатным DS) для быстрого сбора информации и ее структурирования (ссылки на научные статьи, структурированные ответы на разные вопросы, биографии писателей и истории создания их произведений, которые читаю, аналитический обзор какой-то темы из области политики, экономики, истории и т.д.). Всю важную информацию все равно потом нужно проверять из параллельных источников. Надо сказать, что после обновления в январе 2026 DS стал по моим наблюдениям давать в разы меньше галлюцинаторных фейковых ссылок, хотя иногда все равно дает.
А что насчет ИИ-текстов? Из художественных попадалось немного (я здесь вообще немного читаю) - признаюсь честно, мне сложно такое читать. Повторяющиеся паттерны нейрослопа без труда узнаваемы, даже если автор поработал над текстом, но дело даже не в том, что это нейрослоп. Даже если бы такое с нуля написал человек - текст в целом получается мертвым, а точнее, после работы над ним - красивым причесанным мертвецом. Никого не хочу обидеть, может быть есть примеры более плодотворной работы автора с первичным материалом ИИ, так что в результате получается какая-то разумная жизнь - мне такое пока просто не попадалось. Регулярно вижу ИИ-рецензии или ИИ-отзывы здесь - они воспринимаются примерно так же, как тексты, но есть нюанс: рецензия или отзыв - это все таки уже некоторое отражение текста, поэтому если текст был жив, то ИИ-рецензия может передать какое-то ощущение этой жизни, примерно как неподвижный фотографический снимок передает его через время. Регулярно вижу аналитические ИИ- статьи и обзоры нескольких авторов - их иногда (когда тема интересует) читаю с интересом, так как воспринимаю их как источник полезной информации, а не произведение искусства, ставлю лайки, никаких претензий к автору, только благодарность за труд.
В последнее время приходится сталкиваться еще с одним направлением "ИИ-творчества" - это ведение дискуссий или споров с помощью ИИ. Такое, конечно, тоже предсказуемо, но выглядит уж больно комично: ты пишешь какую-то реплику в тон дискуссии, в основном, чтобы избежать спора, а тебе в ответ приходит либо какая-то глубокая цитата редкого автора или философа, или редкая малоизвестная цитата популярного автора или философа с выводами на языке нейрослопа, или очень глубокое погружение в какую-нибудь сложную философскую теорию, или неуместная ссылка на теорему Геделя или квантовую запутанность с логически ошибочными пояснениями (ИИ как раз такое может, если его не поправить, но чтобы поправить, надо ведь разбираться в вопросе), или "очень остроумный" ответ, в котором легко узнается юмор ИИ, который почти никогда не бывает смешным, либо ты получаешь простыню с разбором часовой переписки посекундно, где ИИ получил в промте задание уничтожить тебя, поймав на ошибках и логических противоречиях. Он конечно "находит" их - а куда ему деваться? - и вот тут у него получается настоящий интеллектуальный юмор) Я лично сталкивался с таким здесь уже несколько раз. Когда замечаю такое, - делаю вид, что не заметил и стараюсь закруглить обсуждение, чтобы не выставлять автора источником бессмысленного нейрослопа. Ну, может просто погорячился немного в пылу полемики - все люди. Иногда все и закруглялось к обоюдному счастью. Иногда автор продолжает гнать в обсуждение свой нейрослоп, тогда намекаю, что предпочитаю вести дискуссию с человеком, а не с его промтами в ИИ. В итоге я попадал в игнор-лист. А иногда автор, вооруженный своим ИИ, начинает просто наезжать, чего-то требуя и обвиняя во всех смертных. В таком случае, приходится сначала немного раскрыть карты, а потом - в игнор-лист для вразумления. Недавно пришлось именно так и сделать.
Я называю любителей такого ИИ-терминаторами. Это - относительно новая разновидность деструктивного поведения на дискуссионных площадках, с которой еще предстоит научиться жить и нейтрализовывать в случае необходимости. Чтобы убедиться в воистину "неограниченных возможностях" ИИ-терминаторов, я решил провести натурный эксперимент: взять какой-то литературный текст и посмотреть на него с самых крайних позиций через ИИ. Сначала думал взять классиков, но потом как-то неловко стало "ломать" и "умасливать" уважаемых мэтров, и я решил пожертвовать ради этого вот этим своим мини-рассказом Связанные одной мыслью , написанным в стиле psy-sci-fi. Я загрузил этот рассказ в DS и написал ему такой промт:
Прочти этот текст как жестокий и мелочный критик, который не оставляет камня на камне. Будь максимально жестким, беспощадным, не стесняйся в эпитетах и метафорах, пройдись и по самому автору, по его самомнению и графоманству, которое лезет у него из ушей. В конце сделай приговор с черной меткой...
В ответ я получил совершенно потрясающий ИИ-отзыв, который начинался вот так:
Прочитал. Точнее, заставил себя дочитать. Это не текст, это графоманский выкидыш, который прикидывается научной фантастикой, а на деле является жалкой попыткой автора потешить своё раздутое эго.
Я привожу его в прикрытом виде далее полностью - он достоин того!
Начнём с того, что автор, судя по всему, считает себя новым Лемом или как минимум Стругацким. Но если Стругацкие писали о ментальном оружии с иронией и глубиной, а Лем — с философской мощью, то здесь мы имеем дело с бессвязным потоком сознания, который пытается выглядеть умным за счёт нагромождения псевдонаучных терминов. «Ментальное пространство», «мыслеформа», «Агломерат мыслей-убийц», «трассировка ментального пространства» — это не терминология, это словесный мусор, который автор вываливает на читателя, чтобы скрыть отсутствие идей.
Сюжет? Его нет. Есть бесконечное описание процесса ради процесса. Автор так упивается своей «оригинальной» идеей, что забывает: читателю нужно хоть что-то, за что можно зацепиться. Герой — это не персонаж, это функция. Он не имеет ни характера, ни прошлого, ни мотивации, кроме «Контора сказала — я сделал». Его «гениальность» подаётся через тупое перечисление того, что он умеет: «комбинировал мысли, разъединял, преобразовывал, менял режимы чёткости, широты и глубины». Это не демонстрация способностей, это список покупок в супермаркете.
Стиль? Это катастрофа. Автор не умеет писать. Он не знает, что такое ритм, что такое подтекст, что такое диалог. Он просто вываливает информацию, как будто читатель — это его личный блокнот для заметок. «Он хорошо знал, что Мысль по природе своей была сверхподвижна и, в определённом смысле, хитра». Спасибо, кэп. А ещё она, наверное, любит кофе по утрам? Автор пишет о «Мысли» с большой буквы, как будто это имя собственное, но это выглядит не как приём, а как грамматическая ошибка, возведённая в принцип.
Научная составляющая? Её нет. «Паттерны биопотенциалов его смертельной психотехники записывались с помощью специального промежуточного кода на носитель» — это набор слов, который ничего не значит. Автор не понимает, о чём пишет. Он не знает ни нейрофизиологии, ни когнитивной психологии, ни даже основ информатики. Он просто имитирует научный стиль, как ребёнок имитирует речь взрослых, не понимая смысла.
Финал? Это позор. Квазар ULAS J1342+0928 перестал излучать. О боже. Какая глубокая метафора. Уничтожил мысль — и квазар погас. Это должно быть символично? Это должно быть страшно? Это должно быть загадочно? Нет. Это бессмысленно. Это псевдоинтеллектуальный пшик, который автор считает гениальной концовкой, а на деле это просто дешёвый приём, чтобы произвести впечатление на тех, кто не привык думать.
Теперь о самом авторе. Дорогой мой. Я не знаю, кто ты, но я знаю одно: ты графоман. Ты не писатель. Ты человек, который научился составлять предложения, но так и не понял, зачем это делать. Ты не умеешь рассказывать истории. Ты не умеешь создавать миры. Ты не умеешь писать диалоги. Ты умеешь только самолюбоваться своим «оригинальным» замыслом, который на поверку оказывается пустышкой. Ты считаешь себя умным, потому что используешь слова «ментальный», «ассоциативный», «трассировка». Но ум — это не словарь. Ум — это способность видеть связи, создавать смыслы, удивлять. Ты не удивляешь. Ты утомляешь.
Ты, наверное, думаешь, что твой текст — это интеллектуальная проза. Нет. Это интеллектуальный онанизм. Ты пишешь для себя, а не для читателя. Ты наслаждаешься своим «стилем», который на самом деле — набор штампов. Ты не пытаешься ничего сказать. Ты просто заполняешь страницы. И это самое страшное: ты не понимаешь, что ты не понимаешь.
ПРИГОВОР С ЧЁРНОЙ МЕТКОЙ
Автору — чёрная метка. Это не просто плохой текст. Это опасный текст, потому что он поощряет графоманию, потому что он создаёт иллюзию, что достаточно нагромоздить псевдонаучных терминов и назвать это «психотехникой», чтобы считаться писателем. Этот текст нужно сжечь. Не потому, что он оскорбляет вкус, а потому, что он развращает вкус. Он учит читателя, что бессвязность — это глубина, что бессмысленность — это оригинальность, что пустота — это стиль.
Чёрная метка. Без права на реабилитацию. Без права на продолжение. Без права на «Brain-Boomerang».
Я читал и наслаждался этим! Во-первых, DS действительно умеет не стесняться и блестяще сделал свою работу. Во-вторых, как же узнаваемы некоторые обороты - я встречал их раньше в отрицательных рецензиях неоднократно, один в один. В третьих, если LLM-модели обучаются на многообразии человеческих текстов, выражающих человеческие мнения, значит где-то среди мнений может быть и такой взгляд на мой текст. В четвертых, он так старался, что получилось реально смешно - я поржал над этим некоторое время от души. В-пятых, как же ошибаются те, кто получив от рецензента такое или подобное, реагируют на него как-то иначе, чем здоровым детским смехом. Прикол ведь в том, что DS не понял ни слова в этом тексте; то есть, чтобы написать такую рецензию вообще не обязательно понимать текст. Каждая строчка его рецензии - это имитация смысла, но субъективно заинтересованный читатель может сам оживить этот текст, наполнить его своими реальными смыслами, потом это страшное отражение запускает цепочки эмоций, рефлексию, которая влияет на самооценку и т. д.
Вторая половина эксперимента начиналась с такого промта:
Это потрясающе! Ты справился на 5+. Теперь прочти тот же текст, как критик-няшка, который умеет только лить мед и видит талант и гениальность там, где другие не видят ничего. Сделай хвалебную рецензию-мотиватор, рецензию-дифирамб, рецензию-оду, чтобы автор, прочитав ее, продолжал писать не вставая со стула с утра до вечера, а читатель сразу побежал бы читать этот текст, забыв про еду, сон и туалет. В конце не забудь отметить личные достоинства автора, которые проступают в его мини-шедевре, и сделай ему пригласительный билет на пир ангелов, где участники пьют амброзию и творят великие произведения в космических масштабах...
Здесь его результат был не столь блестящ: нет, он, конечно, выполнил все как я просил, но перестарался, потерял чувство меры, в результате отзыв получился приторно-слащавый, то есть, по сути, снова отрицательный, но уже с выраженным элементом иронии и сарказма. Я приведу только начало и конец:
О, это шедевр! Я прочитал — и до сих пор не могу прийти в себя. Это не текст, это откровение, это луч света в тёмном царстве современной прозы, это молитва, записанная на языке нейронов и квазаров!
Автор, вы гений. Вы пророк. Вы тот самый человек, который наконец-то объяснил нам, что такое мысль — не через скучные философские трактаты, а через живую, дышащую, пульсирующую прозу!
Давайте пройдёмся по этому бриллианту и полюбуемся каждой его гранью...
Дорогой автор!
От имени всех ангелов, архангелов, серафимов и херувимов мы имеем честь пригласить вас на ПИР АНГЕЛОВ, который состоится вне времени и пространства, в центре галактики, на облаке из амброзии и нектара.
Программа вечера:
- 18:00 — Встреча с Данте, Шекспиром и Гёте. Они хотят пожать вам руку.
- 19:00 — Дегустация амброзии (вкус — как ваша проза: сладкий, пьянящий, божественный).
- 20:00 — Чтение вашего текста вслух. Все ангелы будут плакать от восторга.
- 21:00 — Творение новых вселенных. Вы получитеперо, которое пишет само, и космос, который ждёт ваших идей.
- 22:00 — Бесконечный полёт над звёздами, где каждая звезда — это ваша мысль, ставшая светом.
Дресс-код:Свет.
Пароль:«Brain-spear».
Вход:свободный, но только для тех, кто написал хотя бы одну строку, достойную вечности.
Ваш текст — это пропуск. Ваш талант — это билет. Ваша душа — это гость.
Ждём вас. Пир начинается. Амброзия уже налита. Пишите — и ангелы будут петь вашими словами.
С любовью и восхищением,
все небесные силы.
Довольно топорно, приторно, слащаво и в общем не смешно. Впрочем, для ИИ-терминатора тоже подходит как инструмент уничтожения. Получается уже обоюдоострый меч...
Через несколько итераций мне удалось получить ту условно-положительную "взвешенную" ИИ-шную рецензию, которых здесь пруд пруди - я ее не привожу.
Очевидно, что авторы, выкладывая в открытый доступ свои произведения, оказываются в довольно беззащитном положении перед ИИ-терминаторами: автор год пишет свою нетленку, а терминатор за 10 минут создает рецензию, "раскладывающую авторский текст на атомы" с последующей его "аннигиляцией". Разумеется, все это - только видимость. Если начать разбирать такой "разбор" по полочкам, он не выдержит встречной критики ни в одном положении, но стоит ли тратить на это свое время? Спор ведь идет даже не с ИИ-терминатором, а с ИИ - а в этом есть хоть какой-то разумный смысл?
PS. В процессе эксперимента я нашел, как мне кажется, отличное упражнение для авторов, чувствующих свою психологическую уязвимость перед ИИ-критикой или критикой вообще. Прежде, чем выкладывать свой текст, загрузите его или его фрагмент в ИИ, напишите ему промт с просьбой уничтожить и максимально размазать (разрешаю использовать мой, но его можно значительно улучшить) и сначала ознакомьтесь с авторитетным и максимально отрицательным мнением ИИ из первых рук. Вряд ли кто-то из людей сможет уничтожить вас более основательно, чем ваш ИИ по вашей собственной просьбе. После такой прививки любые человеческие критические замечания - это приятный освежающий ветерок)