Нерабочие законы Азимова

Как человек, близкий к реальной робототехнике, подушню. Иногда меня удивляет, как массовая культура умудряется исказить изначальные посылы некоторых людей и идей. Самый яркий пример — три закона робототехники Азимова.

Их ведь реально, на серьёзных щщах, цитируют и вспоминают даже люди, которые к технике ближе других. Конечно, не инженеры-робототехники, но лёгкий маркетинговый флёр вокруг этих законов живёт вполне себе бодро. 

Давайте вспомним две вещи.

Первая. Законы робототехники у самого Азимова чаще всего не работают или работают не так, как от них ожидали. Почти всё его творчество построено на пограничных случаях, конфликтах и неожиданных последствиях: робот формально следует законам, но результат получается совсем не таким, какого ожидали люди. Иногда проблема не в том, что закон не работает, а в том, что он работает слишком буквально.

Вторая. Если попытаться приземлить эти законы в реальный мир, первая же проблема будет не философской, а чисто технической: робот должен вообще иметь возможность понять, что его действие причинит человеку вред.

Возьмём промышленную роборуку-манипулятор. Своё положение она, конечно, знает — без датчиков положения на осях нормального промышленного робота просто не получится. Но этого мало. Чтобы случайно не врезать оператору, система должна ещё надёжно знать, где находится человек, куда он движется и можно ли продолжать движение безопасно.

Именно поэтому классический промышленный манипулятор в жизни не работает по законам Азимова. Его отделяют от человека ограждением, дверями с блокировками, световыми завесами и другими системами безопасности. Заходишь в опасную зону — робот должен остановиться. Не потому, что он осознал ценность человеческой жизни, а потому, что так спроектирована система безопасности.

У коллаборативных роботов (это которые коботы) всё интереснее: там уже используются ограничения силы и скорости, безопасная остановка, контроль дистанции и другие механизмы, позволяющие человеку и машине находиться ближе друг к другу. Но и это всё ещё техника безопасности, а не три строчки моральной философии в прошивке.

Так что я искренне не рекомендую проверять промышленного робота на соблюдение первого закона Азимова. Железяка, способная таскать десятки или сотни килограммов, может врезать так, что фантастические книги читать больше не получится никогда.