Немного о машинной логике

Наткнулся на довольно символичную статью, посвящённую "триумфу человеческого разума над машинным". Там описывается момент, связанный с испытанием системы распознавания образов для чего-то военного-перспективного. И вот что там получилось: 

Для проведения испытаний с роботом были отобраны солдаты. Морским пехотинцам была поставлена задача - подобраться к роботу незамеченными и коснуться его. Разумеется, разработчики были уверены, что ни один из бойцов до робота не дойдет, так как аппарат и правда реагировал на любое движение человека.

Но солдаты есть солдаты - они включили смекалку. Самый простой способ, с помощью которого несколько морпехов с легкостью обманули робота - "закутались" в обычные коробки от бытовой техники большого размера. Оказывается, бойца в коробке робот как человека не распознавал, то есть целью не считал. Еще один солдат решил обмотаться большими кусками коры с ближайшей пихты, и также благополучно добрался до робота, дотронувшись до него и выполнив задание. Видимо, робот принял его за дерево, мда...

(с)пёрто с канала Soldado Channel 

Так вот, хочу дополнить. Это не машина там тупая, это люди тупые. Не солдаты, конечно, так удачно обманувшие кремниевого болванчика, а те, кто ставил ему задачу. Напомню старую, но очень правильную фразу: машина всегда делает не то, что от неё хотят, а то, что ей приказано. Соответственно, большинство бед с глупым роботом, творящем фигню, происходит из-за того, что люди его именно эту фигню делать и запрограммировали.

Так и здесь: робот был запрограммирован искать не маскирующихся людей. Он искал движущиеся объекты, внешне похожие на человека. Ему задали игнорировать любые не похожие на человека объекты, что бы они не делали - он и игнорирует. Выполняет букву своих инструкций, а не то, что кто-то в процессе их написания нафантазировал. Поверьте, если описанную в статье систему научили реагировать ещё и на движущиеся к ней коробки и деревья - хрен бы кто к нему незамеченным подошёл в такой маскировке. Но создатели-люди об этом просто не подумали.

Вот такая вот фигня...