
Написал(-a) комментарий к произведению Создатель героев 4: Будущее
Почему бы не защититься от неконтролируемого и опасного ИИ другим ИИ, который будет развивать армию машин под нашим контролем и в случае чего защитит нас? Также сделаем ещё один ИИ для шпионажа за людьми и оповещения о неправильном использовании ИИ. Даже если шпион облажается, то военник всё исправит.
Написал(-a) комментарий к произведению Создатель героев 4: Будущее
Да, я решил, что вопрос состоит только в ИИ, получившем полную свободу в результате неправильного бытового применения, как обсуждалось до этого. Вы же говорите про любой непредвиденный ущерб от его неправильного использования.
И ещё, я не планировал использовать шпиона ИИ для соблюдения закона людьми или уж тем более морали. А только для отслеживания ботов, а именно, какие задачи они выполняют, не нарушат ли они при этом законы, и не остаются ли они без контроля. Более развитый бот может просчитать последствия заданных другим ИИ-шкам приказов, и в случае, если результаты приведут к нарушению закона, предупредить людей.
А так в целом я согласен, неправильные приказы могут привести к нежелательным последствиям, не нарушающим законы. Тут либо всё контролируют люди, которые совершают ошибки или пытаются захватить власть. Либо доверится ИИ и позволить ему самому решать, основываясь на опросы людей, что есть нежелательное последствие, а что нет, и мирится при этом с невозможностью его контроля.
Можно даже вообще не паразитировать на более совершенном поколении существ, а передать им этот мир. Для меня такой вариант тоже приемлемый.