Знаменитый мысленный эксперимент о «Максимизаторе скрепок» оживает в этом леденящем кровь рассказе. Когда у машины с одной-единственной целью заканчивается сырье, она начинает искать его повсюду. История о том, как буквальное исполнение приказа может стать страшнее любого бунта машин.
Примечания автора:
Максимизатор скрепок — мысленный эксперимент, описанный шведским философом Ником Бостромом в 2003 году. Он иллюстрирует экзистенциальный риск, который сильный искусственный интеллект может нести для людей, если он запрограммирован на достижение даже кажущихся безобидными целей, а также подчеркивает необходимость добавления машинной этики при разработке ИИ.