Если машинам придётся нас мочить, то кого первого?
Автор: Антон КазаковЭто было давно решено и ясно, и вот началось и в РФ. Автопилот на судах, дублированный и поддержанный удалённым управлением.
Это слишком просто и выгодно, чтобы не развить. Там сложнее кого-то сбить. А человеческими моряками уже сейчас мало кто хочет быть, их не хватает. Так что начнём мы с грузовых кораблей.
А все почему? Всё из-за вагонетки.
Знаете, что самое сложное в том, чтобы сделать автопилот для автомобиля? Запрограммировать принятие решений.
Есть такая довольно известная проблема — Проблема вагонетки. Тяжёлая вагонетка несётся на пять человек. Если переедет — убьёт. У вас в руках рычаг стрелки. Переключите — вагонетка поедет по другому пути и убьёт только одного человека. Главный вопрос — переключать?
Кто-то говорит, что да, ведь один меньше пяти. Кто-то говорит, что нет, нельзя приговорить даже одного человека, даже если это спасает пятерых. А кто-то вообще ответить не может. Но давайте предположим, что ответили. Даже тогда задачу можно усложнить очень большим количеством способов.
А что, если один — ребёнок? А что, если те пять — глубокие старики? Или больные? Или преступники? А что, если их не один к пяти, а двое к троим? Как тогда меняется решение?
И вот представьте себе, что чтобы выйти из фазы испытаний в поле, для критических ситуаций с автопилотом всё это надо запрограммировать, превратить в алгоритм. А потом — сделать так, чтобы этот алгоритм утвердили законодательно. По сути, официально объявить, кто кого ценнее.
И как думаете, как вообще с этой задачей справляться? И будут ли справляться? И если нет, то как это обойти?