Проблема управления с помощью ИИ агентов.

Ув. Владислав Мерк в своём посте https://author.today/post/864992 попытался предсказать транформацию общества с целью сохранения управляемости при увеличении общей численности населения. Он описал перспективный подход к управлению на примере армейской структуры, но меня заинтересовал, во-первых, общий принцип, который он упомянул: вымывание из общественных структур среднего звена управления и трансляция управленческих решений от высшего звена к низшему через ИИ-агентов, - во-вторых, тот факт, что работа этого общего принципа продемонстрирована именно на армейской структуре.

Штука в том, что армейская структура весьма специфична, потому что основной подход к управлению в армейской структуре не предусматривает косвенного воздействия и обучающего управления и предполагает примат управления посредством прямых приказов над всеми прочими видами управления. Другими словами, от объекта управления не требуется способности к обучению в процессе исполнения управленческих решений, если что не так, его поправят прямым приказом. Ещё одной спецификой армейской структуры управления является сильно ингибированный канал обратной связи, другими словами, тот факт, что "приказы не обсуждаются".

Со мной тут произошла занятная оказия. Я зарегистрирован на пинтересте, и вот мне приходит сообщение, что один из моих пинов заблокирован по страшной жалобе, которую я вообще не представляю как прицепить именно к моим пинам, целенаправленно я пины с тематикой жалобы не собирал. К уведомлению приложено ПДФ-решение, что некоторый пин был заблокирован, скажем так, одним из администраторов этого сервиса, и дальше ИИ-агент заблокировал похожие пины. Завершается решение рекомендацией проверить все остальные пины, которые у меня есть, на предмет возможных нарушений правил сообщества, потому что если их будет слишком много, мой аккаунт может быть заблокирован. Сам пин заблокирован и посмотреть его я не могу.

По сути здесь уже реализован принцип, который так замечательно описал ув. Владислав Мерк в своём посте: есть высшее звено управления в виде администрации сервиса, где решение принимают живые люди, и есть ИИ-агенты, которые распространяют это решение на все случаи, которых это решение может касаться. И проблема здесь в том, что поскольку заблокированный пин я посмотреть не могу, на память его я не помню (их пользователи сотнями и тысячами сохраняют в своих аккаунтах), логики ИИ-агента я не знаю, то я в принципе не могу понять, чего от меня хотят. И самостоятельно вычистить свой аккаунт от нехороших пинов я не могу, если явно нехороших пинов среди них нет.

Такой подход может привести к тому, что задача "научить пользователей не публиковать нехорошие пины и публиковать хорошие" становится весьма сложнореализуемой, потому что пользователь не всегда понимает, какие пины хорошие, какие - плохие. Понятное дело, есть явные случаи, но чем больше пользователей, тем больше становится случаев неявных. А задача "удалить из сервиса нехорошие пины" легче не становится, потому что они продолжают появляться, потому что пользователи, опять-таки, не всегда понимают, какие пины - хорошие, а какие - плохие.

Отличие сервиса пинтерест от армейской структуры заключается в том, что в сервисе пинтерест инициатива принадлежит объекту управления - пользователи сами публикуют контент и сохраняют его в своих аккаунтах, в то время как в армейской структуре инициатива принадлежит субъекту управления, началом любого действия формально должен быть приказ, без приказа формально ничего делаться не будет. И в структуре, где инициатива принадлежит объекту управления, наиболее эффективным видом управления является обучающее управление, которое плохо работает или не работает вообще, если схема с ИИ-агентом будет функционировать так, как она фукнционирует сейчас.

Человеческое общество в целом - это структра, где инициатива принадлежит именно объектам управления, все попытки построить общество, где люди живут строго "по команде", довольно быстро оканчивались неудачами, такие общества проигрывали в конкурентной борьбе соседям. И конечно, методы управления с помощью ИИ-агентов будут внедряться, но эффективно они будут работать только там, где ИИ-агенты смогут доносить до людей не только суть управленческого решения, но и его мотивационную часть.