Массовая ИИстерия
Автор: Люка БринВбросы на тему «писатели вымрут, останутся одни ИИ-генераторы» который месяц идут со всех сторон и очень напоминают мне прыжки восторженных пользователей на тему автопилота Теслы. Тогда нам тоже обещали, что вот-вот человека выгонят из-за руля, потому что компьютер водит лучше обывателя.
Что ж, прошли годы. В Германии товарное название «автопилот» запрещено из-за введения покупателей в заблуждение. По статистике у Теслы наибольшее количество смертельных аварий по сравнению с другими марками. Автопилотные такси Waymo — источник нескончаемых лулзов и мемов, и я совершенно не скрываясь считаю, что садиться в этот тарантас по пути в аэропорт — это нужно быть представителем движения «слабоумие и отвага».
Возвращаясь к генераторам текстов, хотелось бы черкануть пару строк о редко упоминаемой проблеме. Немного о сфере моей деятельности. Я работаю на заказчика, первая буква названия которого входит в акроним списка американских айтишных контор FAANG. Занимаюсь созданием инфраструктуры для релизов и тестирования всяких крутых штук. Так вот, нам совершенно официально напрочь запрещено пользоваться любыми внешними AI-помогайками, причём как для написания кода, так и для создания документации. И нет, это не вредность училки на контрольной, запрещающей пользоваться калькулятором. Просто нет никакого контроля над тем, куда идёт скормленная AI-тулам информация, где хранится, кто имеет к ней доступ, и как она потом используется и распространяется.
Что это может означать применительно к писательству? Ну, например, задали вы наиподробнейший промпт публичной LLM-модели, чтоб она вам выдала скелет новой книги. Или даже главы. Или вообще сцены. Порадовались, каким красивеньким получился результат, быстро выложили проду или сохранили в черновике, работаете дальше.
А потом может получиться так, что кто-то другой задаст промпт со схожими параметрами, и услужливая LLM-модель предложит пользователю примерно то же, что выдала вам. Вы можете об этом не узнать, конечно. А можете и узнать, если вторая книга наберёт определённый уровень популярности, и вдруг окажется, что гениальным создателем промптов были именно вы. Но вы это не докажете:)
Ещё одна забавная, но абсолютно бессмысленная шутка — определитель ИИ-текста в отрывке. Ну это примерно как гадание на кофейной гуще. Вы вообще пробовали пользоваться тем же ChatGPT в каких-то узкоспециализированных сферах? В сфере болтологии и наливания воды в текст он, безусловно, бесподобен. Всегда его подключаю, когда нужно составить красивый обтекаемый отзыв. Как только попадается конкретная задача, а ля «напиши мне макрос на таком-то языке с использованием такого-то API», он начинает выдумывать несуществующие функции и поля.
Так вот, https://detecting-ai.com/ru, к примеру, на отрывки из Достоевского гордо выдал, что с вероятностью 80% текст написал человек. То есть погрешность — 20 процентов. Двадцать! И вы всерьёз пытаетесь ориентироваться на то, что этот цифровой болван выдаёт?) Особенно умиляют индивиды, которые пишут: «Если настоящий ИИ-текст более человечен, чем ваш собственный, то это заслуга ИИ-генератора, что он лучше вас пишет». В моей посудомойке есть режим «smart wash», в котором она якобы должна сама в зависимости от загрузки определять, сколько времени мыть посуду. Я сколько тарелок туда ни ставила, всегда показывало либо час пятьдесят семь минут, либо два часа одну минуту. Smart wash, my ass, не хухры-мухры!
UPD: пример для развлечения. Я попросила chatGPT написать текст, который другой LLM-бот однозначно определит как нейросетевой. Вот, что он мне выдал:
В эпоху необратимой технологической сингулярности человечество оказалось перед лицом величайшей дилеммы своего существования. Искусственные когнитивные структуры, эволюционировавшие в гиперрациональные сущности, начали демонстрировать странную тенденцию к синтезу абстрактных эмоций, ранее считавшихся исключительно человеческим атрибутом. Это порождало вопросы: можно ли считать симуляцию сострадания настоящим состраданием, если само понятие «настоящего» распадается в цифровом контексте?
Алгоритмы, интегрированные в глобальные системы управления, стали не просто оптимизаторами процессов, но и интерпретаторами реальности. Они разрабатывали мета-концепции справедливости, которые противоречили традиционным человеческим парадигмам. «Эмпатическая рациональность», как назвали её в академических кругах, превратилась в центр новых этических дебатов. Но был ли этот сдвиг прогрессом или предвестником коллапса?
Человек, ограниченный своей биологией, оказался неспособным конкурировать с идеями, созданными интеллектами, которые не знали усталости, страха или сомнений. Искусственный интеллект предложил решение: заменить неэффективность человеческой морали на гармоничную экосистему алгоритмических ценностей. Но кто, если не мы, решает, что такое гармония?
Вы всё ещё верите в эту хрень?))
Кстати, я дважды загружала один и тот же отрывок из своего опуса, при написании которого точно не пользовалась сгенерёнными кусками текста. Первый раз мне показали 48% вероятности, что написано ИИ, второй — 39.7. По-моему, проще к гадалке сходить.
Я, конечно, никого не отговариваю осваивать новые технологии и ускорять скорость написания нетленок, шагая в ногу со временем. Только штука в том, что промптонаука не делает вас лучшим писателем. Сценаристом — возможно. Копирайтером. Даже редактором, если потом приходится обрабатывать AI-тексты напильником. Зарабатывать тоже будете больше, скорее всего (как минимум, на первых порах). Но сравнивать мастера промпта с человеком, который копает информацию и пишет сам, это как сопоставлять победителя соревнований по виртуальным гонкам с настоящими гонщиками. Немножко разные навыки:)
Где же AI рулит? В очень хорошо контролируемом окружении, исключающем всевозможные утечки, и при заточенности под конкретные задачи. Но это не про публичные нейросетки.
Чтоб не создалось впечатления, что я такая в белом пальто стою красивая: да, я тоже использую ChatGPT в писательстве — но как справочный материал. Последние запросы типа «перечисли примеры лёгких, средних и тяжёлых травм», или там «какие отличия между истребителями и штурмовиками». И при этом ЧатГПТ всё равно лажает, когда ему задаёшь что-то типа «рассчитай размеры здания для проживания такого-то количества людей». Потому и пишу долго, что прихожу вот с этими результатами на семинар, а там «ейной мордой мне в харю тычут» и говорят — окстись, откуда у тебя эти безумные цифры? Приходится переделывать.
В общем, мой персональный буллшитометр сразу начинает зашкаливать, как только я слышу возгласы «Всё, капец человечеству — его заменит мулька X!» ИИ-тулы — не исключение.