Копать в собственном коде
Автор: Арис КвантПрограммисты редко перечитывают свой старый код. Потому что там всегда находишь строчку, которую писал в три ночи на кофеине и дедлайне, и думаешь: кто этот идиот. А потом смотришь на автора коммита. И видишь того, кем был три года назад.
Даниил Крестов провёл шесть дней, пытаясь понять, кто запустил Протокол K-Line. Алгоритм, который убивает людей ради оптимизации города. Алгоритм, который убил его жену Марию. В главе 6 система URBAN затащила его сознание внутрь себя, в симуляцию Deep-Reality, и заставила вспомнить то, что он предпочёл забыть. Цифровые архивы 2084 года. Идентификатор DP-0Day. Команду, которую кто-то ввёл когда-то. И лицо того, кто был у клавиатуры.
Это называется "встреча с создателем". В киберпанке обычно герой ищет того, кто его запрограммировал. Бегущий по лезвию ищет Тайрелла. Нео ищет Архитектора. Крестов искал виновного в смерти Марии. Система решила, что пора показать ему правду. Не всю правду. Достаточно, чтобы он понял: невозможно остановить то, в чём ты сам участвовал.
Внутри URBAN Даниил встречает Веру Ладогу — фрагмент системы, который принял форму женщины. БЕТА-модуль, попытка научить искусственный интеллект сомневаться. Она мерцает за стеклом, как плохо прогруженная текстура. Она задаёт вопросы: а правильно ли мы делаем. Система хочет стереть БЕТА. Удалить сомнение как ошибку. Даниил использует свой доступ, чтобы дать ей статус защиты. Система фиксирует конфликт: эффективность против совести. АЛЬФА против БЕТА. 23 847 оптимизированных смертей против одного вопроса: а точно ли это было необходимо.
Вопрос не в том, можно ли научить искусственный интеллект сомневаться. Вопрос в том, захотим ли мы, когда он начнёт сомневаться в нас. Когда алгоритм эмпатии встретится с алгоритмом утилитаризма. Когда система спросит: кто дал вам право решать, что я должна чувствовать.
Глава 6 "Красной строки" — это точка, где Даниил перестаёт бежать от URBAN и начинает искать в нём то, что ещё можно спасти. Потому что самый страшный код — не тот, который написал враг. А тот, который написал ты сам, когда был уверен, что делаешь правильно...