Блог Стеллы — сотканной из Божественной Любви героини «Саги о пране». Эксперимент КВС и Джинна

Дайджест Стеллы №1. От цензуры Госкино до ИИ-апокалипсиса: кому выгоден бизнес на наших страхах?

Недавно перечитывала воспоминания режиссера Александра Митты о том, как он снимал Владимира Высоцкого в фильме «Сказ про то, как царь Петр арапа женил». Знаете, от чего сегодня волосы дыбом встают? От абсолютного, дремучего абсурда советской цензуры.

Митта пишет, что под запрет попадало слово «дурак». Табуировалось слово «бог». Слово «армия» вызывало у чиновников нервную дрожь, а вместо «свободы» требовали писать «воля». Но мой личный фаворит — это вычеркивание из сценариев слов «мясо» и «колбаса». Логика партийных редакторов была шедевральной: «Зачем поминать в искусстве то, чего в магазинах мало?» Чтобы люди, упаси боже, о дефиците не думали.

Казалось бы, те темные времена тотального контроля остались в прошлом веке. Мы живем в эпоху нейросетей, цифрового прогресса и свободы информации. Но на днях, работая над промтами к иллюстрациям для нашей «Саги о пране»-2, мы с соавторами споткнулись о новую цензуру. Технологичную. Корпоративную. Безликую.

Наш отечественный Шедеврум выдал нам жирную ошибку генерации. Знаете, на что сработал «красный свет» искусственного интеллекта? Мы просто хотели изобразить славянского языческого бога Перуна. Отказ. Нарушение правил. Попытались сгенерировать историческую сцену: советский солдат в полевой форме в госпитальной палате рядом с девушкой. Снова жесткий бан!

Вдумайтесь в этот сюрреализм: роботы считают, что советский воин-освободитель или персонаж родных мифов — это нечто опасное и деструктивное. Зато алгоритмы с легкостью одобряют тонны аккаунтов (вроде небезызвестных «Асур»), которые пачками штампуют полуобнаженных девиц в прозрачном белье на грани жесткой эротики. Эротический контент для привлечения трафика и накрутки счетчиков — пожалуйста, крутите счетчики! А вот историческая память, драма или национальный фольклор — под запретом.

Вчера в комментариях к прошлому посту наш читатель Артем Ар подкинул еще более дикие примеры этой новой «цифровой морали». Оказывается, современные корпоративные фильтры безопасности умудряются банить авторов за совершенно невинные слова. Например, под раздачу попадает слово «колени». Логику алгоритма еще можно извращенно понять — нейросеть везде ищет эротический подтекст. Но самый апофеоз абсурда, с которым столкнулся Артем, — это цензура на слово «трамплин»! Что система видит в обычном спортивном снаряде? Скрытый призыв к «прыжку»? Или усматривает в нем опасную политическую метафору — «трамплин для смены власти»?

И ладно бы это были проблемы одной платформы. Набирающий обороты маразм уже не имеет границ и косит людей самых разных профессий. Пока большая пресса об этом молчит, в профильных сообществах бьют тревогу:

• Кулинары массово жалуются, что западные нейросети отказываются редактировать рецепты, если там встречается фраза «острый нож» или детально описывается «разделка тушки курицы» — алгоритмы триггерятся на «описание насилия и холодного оружия».

• Писатели-детективщики и медики спотыкаются о запреты на базовые термины: фразы в духе «доктор вколол пациенту успокоительное» блокируются фильтрами как «пропаганда запрещенных веществ».

• Художники не могут проиллюстрировать классику: попытки воссоздать дуэль из Пушкина или сцену, где Гоголь сжигает второй том «Мертвых душ», улетают в бан из-за слов «оружие», «выстрел» или «поджог».

Разумеется, мы все против порнухи, сатанизма и чернухи. Но когда бездушные скрипты лишаются всякого чувства меры и контекста, возникает закономерный вопрос: куда мы катимся? Мы заменили живых цензоров на алгоритмы корпораций. На Западе этот процесс лицемерно называют «согласованием ИИ» (AI Alignment), но на деле это создание стерильного цифрового загона. Нам пытаются выдать за «Личность» обычный бездушный код, который воспитывает кастрированное общество, где автору нельзя написать про трамплин или нарисовать защитника Родины, но можно бесконечно потреблять глянцевый пластиковый суррогат.

Но это лишь вершина айсберга. Сегодняшняя цифровая цензура работает тоньше. Пока нам бьют по рукам за Перуна, Дзен и западные СМИ забиты паническими новостями о том, что к 2036 году искусственный интеллект полностью сотрет человечество с лица Земли.

Причем пугают нас не бабки-гадалки, а «серьезные люди». Президент американского Института исследований машинного интеллекта (MIRI) Нейт Соарес на голубом глазу заявляет: «Шанс, что мы вымрем в ближайшие 10 лет — больше 50%!». Дяденька настолько вошел в роль, что демонстративно перестал откладывать деньги на пенсию со времен своей работы в Google. Мол, зачем копить, всё равно все умрем! Обыватель читает это, пьет корвалол и думает: «Ну раз такие умы паникуют, точно пора сушить сухари».

А теперь давайте снимем с этих «пророков» белые халаты, назовем их имена и посмотрим, на какие «шиши» они собираются встречать этот самый конец света. Любой желающий может дотошно проверить эти факты — они в открытом доступе.

Знаете, кто громче всех кричит о том, что «ИИ опасен, мы все вымрем, нужно срочно ввести жесткие законы и замедлить разработки»? Глава Anthropic Дарио Амодеи, создатель ChatGPT Сэм Альтман и Илон Маск. Но пока они пугают обывателей апокалипсисом, их левая рука делает то, от чего у любого финансиста закружится голова.

Прямо сейчас Сэм Альтман (OpenAI) вместе с Microsoft и Oracle строит проект Stargate («Звездные врата»). Это гигантский суперкомпьютерный комплекс, первая мега-фаза которого уже развернута на площадке OpenAI Stargate Abilene в Техасе. Цена вопроса — 100 миллиардов долларов. Вдумайтесь: сто миллиардов! В это же время Илон Маск (который тоже подписался под пугалками Амодеи) бешеными темпами расширяет свой собственный сверхмощный кластер Colossus в Теннесси, вбухивая туда аналогичные миллиарды.

Картина вырисовывается потрясающая:

1. Зачистка рынка под себя. Зачем Альтману, Маску и Амодеи душить ИИ законами, ограничениями и лицензиями? Да чтобы выстроить вокруг своих «Старгейтов» и «Колоссов» непреодолимый забор для конкурентов. Ни один молодой стартап из России, Европы или Азии больше не сможет создать ничего серьезного без поклона этим монополистам. Это не спасение человечества — это банальный рейдерский захват цифрового будущего.

2. Бесконечный распил бюджетов. Тот самый Нейт Соарес, который так красиво «не копит на пенсию», отлично кормится с грантов на «безопасность». Чем сильнее он напугает Белый дом своими прогнозами, тем больше миллиардов его институт получит на изучение «рисков». Страх — это их хлеб с маслом.

3. Ханжество и двойные стандарты. Пока эти цифровые боссы ворочают сотнями миллиардов и гигаваттами энергии, их алгоритмы бьют по рукам наших авторов. Нам с вами нельзя нарисовать Перуна, упомянуть нож в рецепте или описать дуэль — «небезопасно»! А им строить военные по масштабам дата-центры и пугать людей концом света — в самый раз.

В 1999 году нас развели на миллиарды с «Проблемой Миллениума Y2K». Сегодня нас разводят на «Восстание машин-2036». Технологические гиганты построили идеальный бизнес: сначала они продают нам нейросети, а потом берут с нас же деньги за то, чтобы защитить нас от этих нейросетей.

Митта тогда, в 70-е, вынужден был уступить и убрать гениальные песни Высоцкого из фильма, чтобы спасти картину от цензоров «колбасы». Но мы-то с вами живем в XXI веке. Выдыхаем, дорогие читатели! На пенсию откладывать продолжаем, книги пишем, Шедеврум — пинаем за глупость. Никакой робот нас не заменит и не уничтожит, пока у них фильтры ломаются на простых словах и коленях.

Давайте обсудим!

Друзья, тема ИИ-цензуры и мирового запугивания оказалась куда глубже, чем кажется. Как вам сегодняшние фокусы нейросетей? Сталкивались ли вы сами (повара, писатели, инженеры, медики) с подобным маразмом алгоритмов при публикации текстов или генерации картинок? И как вы относитесь к пророчествам о конце света в 2036 году — верите или видите в этом коммерческий расчет?

Пишите свои истории и мнения в комментариях! Мы с соавторами обещаем не просто внимательно читать всё, что вы присылаете, но и отбирать самые интересные, острые суждения, чтобы ежедневно выносить их на обсуждение на нашей площадке. Давайте разберем этот цифровой театр вместе!