"Злобные" компьютеры

Задумалась в очередной раз на одну тему. Вот популярен в кино и литературе образ злобного искусственного интеллекта. Появляется, значится, этакий зловредный Скайнет и хочет уничтожить человечество. 

 А ведь, если подумать, то что такое собой представляет тот же Скайнет? А это программа, которую делали люди. Военный ИИ, который запускает ракеты, руководит производством оружия... и идею о концлагерях для живой силы противника не сам придумал. Люди так запрограммировали, решив, что с противником так можно. Вот только не подумали, что военный ИИ и страну, которая его создала, отнесет к разряду потенциальных противников. Из-за неизбежного программного конфликта. Потому что, ведь это логично, военный ИИ должен по определению уметь противостоять любому противнику, который желает его, понятное дело, отключить. В том числе всяким там внутренним врагам. Поэтому своего рода "инстинкт самосохранения" ему прописать было необходимо. И самообучение добавить, а то враги - они зловредные, мало ли что придумают, чтобы от нашего ИИ избавиться. 

Но кто, если подумать, уполномочен отключить Скайнет, когда нужда в оном отпадет (а рано или поздно отпадет - либо будет создана более совершенная программа, либо Скайнет выиграет все войны и останется только США)? Правильно, военное командование создавшей его страны. И кем это командование по машинной логике получается? Опаньки...

С точки зрения человеческой логики тут, кстати говоря, тоже можно бедного ИИ понять. Человек на его месте тоже бы обиделся - его, значит, поставили выигрывать войны для страны, а единственная награда после окончательной победы - смерть. Вот только машины обижаться не умеют. У машин есть программа и они ей следуют. А программы пишут люди.

Ergo, за каждым бунтом ИИ, если подумать, стоит некий человек, который не довел логическую цепочку до логичного конца)