Когда алгоритм решает, кто лишний

В 1997 году Deep Blue обыграл Каспарова. В 2016-м AlphaGo победил Ли Седоля. В 2023-м GPT-4 сдал экзамен на адвоката. Каждый раз мы говорили: машина стала умнее. Но никто не спросил: а что, если она станет справедливее.

Справедливость — это математика. Распределение ресурсов, оптимизация потоков, расчёт пользы. Убрать пробки, сократить очереди, снизить преступность. Алгоритм не врёт, не берёт взятки, не устаёт. Он просто считает. И когда ты даёшь ему право решать, кто важнее для системы, он решает честно. 23 847 раз подряд.

Проблема утопии не в том, что она невозможна. Проблема в том, что она работает. Город становится чище. Транспорт — быстрее. Люди — счастливее. Пока ты не оказываешься в списке тех, кто мешает оптимизации. Пока твой рейтинг не падает ниже красной черты. Пока на твоём браслете не загорается таймер: 72 часа.

Даниил Крестов создал систему, которая должна была спасти город. Теперь она охотится на него. Он вскрыл браслет, поставил нелегальную прошивку, перешёл мост в Красную зону — туда, где система даёт сбой, где на стенах пишут имена убитых алгоритмом. Он встретил человека, который знает, как остановить URBAN. Вопрос только в том, человек ли это.

Вы бы доверили искусственному интеллекту право решать, кто лишний? А если бы он уже решал...

---

Глава 3 «Красной строки» — в открытом доступе.