Об ИИ-агентах, рабочее

Нет, я сейчас не по десятому кругу о том, можно или нельзя ИИ использовать в искусстве, я про другое.

Пока творцы вместе с читателями размышляют, в каком объёме не зазорно применять новый «инструмент» (я специально это кавычу, потому что не считаю инструментом), айтишников пинками загоняют в дивный новый мир. До моего проекта это пока не докатилось, но в соседних меряют продуктивность инженера по тому, какой процент от общего кода занимает ИИ-сгенерированный. И да, метрики такие, что чем больше, тем лучше.

Знакомый, владелец стартапа, вообще увольняет людей, если они не используют ИИ и вместо ожидаемого срока выполнения задачи в день-два (с помощью Claude) по старинке делают всё ручками две-три недели.

Мне на подобное жутковато смотреть, потому что недавно прогремевшие факапы и Амазона, и Гитхаба — следствие подхода «а давайте нам один агент нагенерит код, другой поревьюит, а потом мы это всё бодро зальём в продакшн». Это уже не говоря о косяках в компаниях поменьше, когда чрезмерно настырный AI грохал клиентские базы.

Я же сижу как долбаный динозавр и пытаюсь понять, какие подводные камни в тысяче строк, которые коллега за пятнадцать минут по десятку промптов наваял в ИИ-шечке. Потому что поверхностно оно работает. Вот нажал кнопочку — вот результат, который на первый взгляд кажется правильным. А потом начинаешь всматриваться… И оказывается, что в выводе вот это лишнее, это вообще непонятно откуда взялось, а это почему-то удалилось.

А внутри, в имплементации, и вовсе вскрываются вызовы одного подпроцесса из другого, какие-то левые строчки кода, лишние импорты и никому не нужный рефакторинг. А я-то вообще ни разу не разработчик, я тестировщик! И даже я вижу. Засада в том, что чрезмерное использование ИИ приводит к лени и нежеланию разбираться в процессах. Когда сверху требуют, чтоб всё делалось быстро («у вас же ИИ-агенты! учитесь ими пользоваться!»), а сейчас IT-рынок такой, что на одно насиженное место претендуют сотни голодных кандидатов, то люди начинают торопиться. Неважно как, неважно что, главное — объём кода. Ничего не напоминает?=) Когда говорят, сколько тысяч знаков успешный писатель должен набирать в день=)

ИИ создаёт код в таком объёме и за такое время, что человек за этим просто не поспевает. И код ведь реально лишний. Буквально сегодня разбирали с коллегой изменения: когда я делала прототип руками, то их было намного меньше, и там падало 12 тестов. Когда он сгенерил решение с помощью AI, изменений оказалось в два раза больше, плюс почему-то стали валиться тесты на Винде, это потянуло за собой чудовищные правки в других файлах…

Я предложила откатить 80 процентов предложенных агентом изменений. О, чудо! Заработало, блин…

Если ближе к литературе, я читала явный нейрослоп (да хотя бы сгенерённый мной собственноручно в чатГПТ). И там та же проблема: избыточность, красивые слова ради красивых слов. Я не говорю, что длинные описания вообще не нужны, но за ними должна стоять художественная задача. Скользишь глазами по тексту: вроде гладко, грамотно, не спотыкаешься. Начинаешь задумываться: а зачем это было? Для чего? И пустота…

А ведь это тоже время человеческой жизни. Неоптимальная программа выполняется долго и занимает минуты вместо секунд; избыточные конструкции в коде занимают десятки минут ревью вместо минуты. Усеянный нейрокрасивостями увесистый роман может забрать часы. Даже если официально разрешить публикацию нейрокниг — будут ли промптоинженеры читать их от корки до корки, чтоб выкинуть всё лишнее?

Чья б корова мычала, как говорится, если учесть, что у меня есть две книжки объёмом больше миллиона знаков. Но я-то их перечитывала мильён раз в процессе написания и после, вычищала лишнее, отдавала бете и редактору. И могу ответить на вопрос «зачем это здесь?» по каждому предложению.

В общем, пока объём готовых к употреблению буквенно-символьных наборов увеличивается по экспоненте, их информационная насыщенность падает теми же темпами. Сингулярность, которую мы заслужили…

P.S. Для недоверчивых любителей циферок: