Точки над ИИ

Последними постингами про ИИ навеяно. DISCLAIMER: Я пользуюсь ИИ и являюсь "тяжёлым" пользователем: от чат-ботов до API, автономные агенты, исследования, отчёты, анализ сотен источников, верифицируемые выводы и всё такое. Пользуюсь несколькими платными моделями (местами - сильно платными). Время от времени делюсь опытом, но сейчас не об этом.

Уважаемые авторы! Пожалуйста! Не пользуйтесь моделями DeepSeek! Не надо! Эти модели - худшие из бесплатных по качеству генерации англоязычного текста; качество русскоязычного у них вообще отрицательное. На DeepSeek исследователи изучают феномен слопа, потому что эта модель вобрала в себя все возможные шаблоны: "запах озона", "это не просто (суперпрекрасно), это (убермегазамечательно)", "стояла тишина. уютная. мягкая. бархатная.", "это - (ххх). настоящий.", "не А, не Б, а - В" и тому подобное. Когда я вижу слоп от DeepSeek, меня передёргивает. Я понимаю - дёшево и китайско, но... пощады!

Корпус. DeepSeek обучался на англоязычном и китайском корпусе. Русский язык модели известен понаслышке. То, что эта нейросеть вообще способна что-то на нём сгенерировать - уже большое достижение технологий. Не надо так. Хотите использовать ИИ, чтобы писать на русском - не пожалейте двадцатки и оплатите доступ к Claude Opus. Или пожалейте - и пользуйтесь Claude Sonnet. Или возьмите Gemini Pro от Google - это похуже (именно на русском, в исследованиях - одна из сильнейших моделей); версии Flash избегайте. ChatGPT не советую, с русским там плохо (и вообще с литературным качеством текстов плохо). Из китайских моделей более-менее писать по-английски могут GLM 5 (они дистиллировали Claude, обучаясь на его выхлопе) и Kimi K2.5 (примерно то же самое, но доили не только Claude, но и другие западные модели). На русском языке китайские модели писать не могут, что наглядно демонстрируют авторы, которые всё же пытаются.

Обязательно найдутся желающие со мной поспорить. "Как же," скажут мне. "Вон же рассказ! Написано в целом нормальненько, лучше, чем многое на АТ". И вот здесь - проблема. Только проблема - не в качестве слопа, выдаваемого нейросетями, а в катастрофической деградации читателя, который воспринимает слоп как "в целом нормальненько". Я не буду развивать эту мысль.

Напоследок хочу развеять несколько мифов.

Миф: ИИ не способен "держать сюжет" и не понимает контекста. Реальность: способен и понимает лучше 90% населения земного шара; вы просто не умеете им пользоваться. Для писателей есть специальный софт (опенсорс, между прочим), работающий через API с платными и бесплатными моделями. Там всё по-взрослому: карточки персонажей, эволюция, текущее время и состояние окружающей среды (вплоть до погоды), с отслеживанием актуальных взаимоотношений между персонажами и так далее. Какой софт? Опенсорс на выбор, от Writingway до vellium, со всеми остановками. "Сделай мне хорошо" оно не умеет; чтобы хорошо писать с использованием ИИ, надо разобраться, как это работает, а потом - немало потрудиться. Принцип - "лучше день потерять, а потом за пять минут долететь", как-то так. 

Миф: прекрасно можно писать бесплатными моделями. Реальность: увы, но только если что-то совсем простое. Вам нужна модель с широким окном контекста, причём не "бумажным", а чтоб оно реально работало. Такое бесплатно - не дают. Ещё раз: не дают. У того же ChatGPT "бесплатный" контекст - всего 16 тысяч токенов (это около 11,000 слов на русском); за деньги - от 32 до 200К. У Gemini Pro - миллион, у Claude - 200K. Почему так: чем длиннее контекст, тем дороже обработка запроса (квадратичная сложность; современные модели пытаются с этим что-то сделать, но пока в основном так). Для информации: себестоимость обработки запроса с контекстом всего 30,000 токенов моделью Claude Opus превышает 10 центов. ОДНОГО запроса и себестоимость, с вас сдерут больше. (В скобках: двадцатка в месяц за Claude/Gemini Pro - фантастическая благотворительность; владельцы прожигают деньги инвесторов с бешеной скоростью. Не верите - почитайте новости.)

Миф: У ИИ нет представления о мире, поэтому... (три руки, хождение сквозь стены и т.п.) Реальность: да, у ИИ нет физической модели мира, это правда, но есть костыль - режим "размышлений", когда модель перепроверяет себя в нескольких итерациях. Шибко помогает "не ходить сквозь стены", в процессе раздумий модель может в соответствующем блоке описать сцену и продумать варианты развития сюжета в рамках заданных ограничений. (И этим режимом можно управлять! *Узнайте*, как это сделать, *научитесь*, наконец, пользоваться инструментом в качестве микроскопа, а не молотка!)

Миф: ИИ пишут плохо, шаблонно, однообразно. Реальность: вы не умеете его готовить. Современные нейросети - авторегрессивные вероятностные предикторы; они, если сильно упрощать, предсказывают вероятность следующего токена по совокупности предыдущих. Напишите кусок текста - он продолжит в том же стиле. Но отпустите его на вольные хлеба - и снова скатится в дефолтный режим. Чтобы этого не произошло, нужны постоянные коррекции и инъекции "якорных" сообщений... впрочем, это уже технические детали; там много особенностей.

И ещё добавлю. Кто плотно подсел на ИИ-писательство - неизбежно остановится в развитии, а потом деградирует как автор. Медленно. Тихо. Неизбежно. (slop intended)