Это не можно запрограммировать в ИИ ©

Распространённая ошибка, думать, что ИИ программируется. Если мы говорим об имитации человеческого разума, то нет. Даже примитивные нейронные сети (которые весьма далеки от своих биологических прототипов) обучаются.

Да, можно заложить в ИИ некие алгоритмы, попытаться нагородить ограничения "поверх", но внутри лежит самообучающаяся система. Из названия, думаю, понятно.

Она обучается.

Да, на этапе обучения, её можно обучать только тому, что надо, а потом отключить возможность обучения, но это не будет имитацией человеческого разума. А с возможностью самообучения, эта штука всё равно "научится плохому".

И нет, если у вас боевой робот, или ещё какой хитрый ИИ, который обязан эффективно действовать в меняющейся среде (исследовательский, к примеру). То он просто обязан уметь накапливать опыт, самообучаться.

В итоге: 

•  обучение ИИ стоит денег, также как и обучение людей. Верно, оно иное, быстрее и может быть (а может и не быть) дешевле, кроме того удачно обученный ИИ, потенциально, можно копировать (но в фантастике можно придумать, ограничения, чтобы это было невозможно).
• ИИ с опытом, может оказаться ценнее "новеньких". Потому можно выбросить сотню ботов, но вот ценность тех, кто смог вернуться, может оказаться заоблачной, ведь они несут опыт. В итоге, чтобы вытащить единственный уцелевший ИИ могут направить отряд помощи, несмотря на опасность.
• ИИ можно ограничить внешней по отношению к его "мозгу", системой, но он может её обойти. (куча книг и фильмов про это есть)
• Если ограничения таки вложить в "мозг" ИИ, не важно как, то это может привести к его психологической травме. Наглядный пример HAL 9000.