И снова про ИИшницу

Привет, уважаемые писатели и читатели.

В этот раз я выступлю в свойственной мне по основной профессии роли - визионера и амбассадора технологий (не буду пугать словами "евангелист" и "адвокат", не менее модными для обозначения сходных говорящих голов).

На АТ в последнее время очень много постов об ИИ. В основном, конечно, против этого самого ИИ. В своём посте я хотел бы рассказать о своём видении вопроса и обозначить как я вижу разумные рамки применения ИИ в творческой работе.

Начнём с простого: что такое ИИ? В основе современных творческих нейросетей лежат большие языковые модели (LLM, БЯМ). Они работают со смыслами через статистику и вероятности. Когда мы пишем запрос, модель раскладывает его на элементы (токены) и оценивает контекст: какие идеи и слова связаны между собой сильнее всего. Затем ИИ начинает буквально "предсказывать" ответ — он слово за словом подбирает из своего огромного словаря наиболее вероятное продолжение фразы, опираясь на внутренние настройки ("веса"), полученные при обучении.

У модели нет человеческого сознания. Её "внимание" сосредоточено на текущем диалоге (контексте). И пока вы ведёте сессию, ИИ опирается на заложенные в него знания и на историю вашей беседы. При этом современные системы (например, ChatGPT, Gemini, Алиса) уже умеют запоминать важные факты о вас и переносить их между разными диалогами.

Однако объём текущей памяти ИИ (контекстное окно) строго ограничен. Если ваш диалог станет слишком длинным или вы загрузите огромную книгу, модель начнёт "забывать" начало беседы: старая информация будет просто вымываться, из-за чего ИИ может потерять нить разговора или ваши ранние инструкции.

Ещё одна важная особенность — ИИ органически не приспособлен признавать своё незнание. Из-за своей вероятностной природы модель стремится продолжить текст в любом случае. Если ей не хватает точных данных, она не остановится, а начнёт "галлюцинировать" — уверенно придумывать несуществующие факты, цитаты, книги или причудливо перемешивать между собой информацию, которую вы ей дали. Хотя создатели ИИ учат модели отвечать "я не знаю" на прямые вопросы, риск получить правдоподобную ложь вместо факта остаётся высоким. Для творческого человека это одновременно и плюс, и минус: в генерации художественных идей это работает как буйная фантазия, но в фактчекинге и журналистике становится опасной ловушкой.

Зачем я это вам рассказал? Чтобы вы понимали как работает ИИ и каковы его ограничения. Это первый шаг, чтобы перестать "бояться" его. Именно поэтому на мой взгляд ИИ неспособен написать сам мало-мальски приличное произведение размером больше рассказа. В него как минимум нужно вгружать идеи, планы и достаточно точно описывать свои желания. Иначе - получится ерунда. И в любом случае после ИИ потребуется серьёзная редактура. А вот орфографию и пунктуацию доверить ИИ вполне можно.

Отсюда я формулирую свои рекомендации по использованию ИИ.

Соавтор и тем более основной автор - строго НЕТ. 

Помимо того, что это просто не честно, вы просто не получите достойного результата. Каша, глюки, трудночитаемый для человека текст.

Фактчекинг - использование с осторожностью. 

Факты реального мира проверить можно. Важно - подавая их по одному (или по набору связанных) на диалог. Но лучше проверять в традиционных источниках. Проверка логики повествования и нестыковок логики - не советую, по своему опыту - много глюков и запуток приносит.

Редактура - не рекомендуется.

У вас есть шанс просто потерять свой стиль и превратить свой труд в нейрослоп. Но тем не менее - вы остаётесь автором.

Корректура - да.

Но с оговоркой - только орфография/пунктуация. Стилистику можно разрешить проверять и подсвечивать, но не править. Иначе наступают те же риски, что и с редактурой.

Перевод - использование с осторожностью. 

Без хорошего знания языка не начинайте. Доверяйте ИИ обогащение вашего словарного запаса (ВАШЕГО - а не самого текста), принимайте советы по исправлению ошибок, доверяйте отдельные сложные моменты - но обязательно перепроверяйте, иначе потеряете свой стиль, а получите стиль ИИшки.

Именно так я работал над переводом своего рассказа на английский. Путь оказался непрост, но рассказ в результате прошёл довольно строгую модерацию на англоязычном сайте Royal Road, аналоге АТ.

Консультант автора - да.

ИИ прекрасен именно как консультант и собеседник автора. Он может дать оценку написанному фрагменту, проверить соответствие законодательству (это сейчас очень актуально), подсказать странности/нестыковки (но, как я уже отметил - не рассчитывайте на его точность!). Можно обсудить с ним свои идеи, планы на героев, попросить помочь придумать имена для второстепенных персонажей. Но ИИ будет регулярно пытаться подсказать вам дальнейшее развитие сюжета и даже писать за вас - строго осекайте его, напоминайте, что он консультант, а не автор и ему не положено это делать. И не рассчитывайте, что одного диалога хватит на всю книгу. Обычно ИИ начинает нести околесицу после плотной работы в течение нескольких вечеров. И приходится создавать новый диалог, задавать цели и ограничения, загружать готовую часть книги.

Иллюстрации - да, если вам хватает опыта.

И вы не хотите чего-то слишком точного или необычного. ИИ не нарисует вам корректно редкий автомобиль или самолёт, существо с нестандартной анатомией или персонажа с особенностями (ох как я замучился визуализировать Эланор после ампутации!). Но если честно - хороший художник всё равно нарисует атмосфернее и интереснее, чем ИИ.

Главный мой посыл - не бойтесь ни самого ИИ ни тех, кто его использует. Но используйте инструмент грамотно и честно, а не считайте его панацеей от всего. Вспомните, как учителя в ещё в начале нулевых ругались на распечатанные на компьютере рефераты "Это за вас компьютер и сделал" - как и ИИ, компьютер лишь инструмент. И он требует достаточно серьезного понимания если не принципа работы, то своих возможностей, ограничений и приёмов работы. Любым инструментом можно создать произведение искусства, а можно убить. Даже простой стамеской :)

Спасибо за внимание! Надеюсь, этот пост был полезен для вас!

P.S. Напоследок мой манифест автора.

Я использую ИИ для: корректуры, как консультанта и для создания иллюстраций и визуализаций, как помощника при переводе.

Я не использую для: создания текста, генерации идей и планов, редактуры или непосредственного перевода.