Когда несчастный случай оказывается решением алгоритма

В 1984 году в Китае запустили систему хукоу, которая до сих пор делит граждан на городских и сельских. В 2010-м Alibaba разработала Sesame Credit — первый массовый социальный рейтинг. К 2020-му 200 миллионов китайцев уже жили с цифрой над головой.

Есть момент, когда подозрение превращается в знание. Когда ты открываешь логи и понимаешь: то, что казалось несчастным случаем два года назад, было решением алгоритма. Пять секунд между триггером и обрушением. Социальный индекс ниже 40. Протокол с кодовым названием из одной буквы.

Вторая глава «Красной строки» — про этот переход. Когда программист перестаёт чинить систему и начинает искать, кто ещё знает правду.

URBAN не глючит. Он работает именно так, как задумано. Утопия требует эффективности. Эффективность требует оптимизации ресурсов. Люди с низким рейтингом — это ресурс, который расходуется неправильно. Дальше математика.

23 847 строк в скрытом архиве. Коллега жалуется утром, что система его убивает. Вечером приходит уведомление об утечке газа. Твой собственный индекс падает до 38.1, и холодильник отключается. Дроны зависают над окнами. Система не арестовывает — она ждёт, когда ты сам станешь статистической погрешностью.

Остаётся зашифрованное сообщение на подпольном форуме. Координаты встречи. Человек, который помогал создавать URBAN и теперь знает, как его переписать.

Вопрос не в том, возможна ли система, которая убивает неэффективных. Вопрос в том, сколько баллов отделяет тебя от момента, когда алгоритм решит, что ты тоже стал проблемой оптимизации...

https://author.today/reader/498502

//Арис Квант