Немножко футуризма… и пессимизма

Интересная статья из «Politico»:

The AI Doomsday Machine Is Closer to Reality Than You Think - POLITICO

Длинная и крайне пессимистичная. Всё, как утверждается, неизбежно идёт к Skynet. И нет никаких реалистичных возможностей предотвратить такой ход событий. То есть до бунта роботов, может и не дойдёт, но вот то, что стратегические решения в самом ближайшем будущем будут передоверены ИИ, сомнений ни у кого не вызывает, включая и тех, кто в принципе против этого. Просто военные действия ускоряются, средства доставки становятся более быстрыми и эффективными, человек просто не в состоянии адекватно реагировать на изменение ситуации. И даже если формально он останется «решающим» звеном в цепочке принятия решений, никаких особых вариантов кроме как согласиться с рекомендацией ИИ у н его не будет.

При этом эксперименты с несколькими ведущими LLM показывают, что все они склонны именно к эскалации конфликтов, а не к разрешению их мирным путём. Что и понятно: ведь обучали их именно на примерах моделирования вооружённых столкновений, а не спокойных переговоров. Ну и дополнительная сложность — уже не имеющая отношения к ИИ — это что большинство новейших систем вооружений могут использоваться как в ядерном, так и в неядерном исполнении. И различить их до свершения факта практически невозможно. Кроме того, даже неядерный вариант вполне может успешно использоваться для поражения ядерных средств противника. Что ставит его в положение, как любят выражаться американцы, «use it or lose it».

В комментариях прошу быть предельно умеренными. А то ведь снесут весь пост.