Будут ли роботы нас слушаться?

Робот-гуманоид Амека (доступен автоперевод на русский).


"Исследователи из Университета Тафтса разработали систему взаимодействия  робота с человеком, которая позволяет устройству отказаться исполнять  некоторые приказы, если есть достаточные основания для такого поведения.  Доклад о проделанной работе был представлен на конференции AI-HRI,  кратко содержание пересказывает IEEE Spectrum.

Прежде, чем  выполнять полученный от человека приказ, робот проверяет несколько  условий, в которые входит наличие необходимых для выполнения навыков,  физическая возможность выполнения приказа вообще и с учетом текущих  обстоятельств, а также проверка субординации — возможно, робот вообще не  обязан выполнять приказ, поступивший именно от этого человека.

Если  по каким-либо причинам робот не может выполнить приказ, он уведомляет  об этом человека, объясняя причины, по которым он отказывается  действовать. При этом после уточнения данных об окружающей среде робот  может «передумать» и выполнить поставленную задачу.

Для  демонстрации примера такого поведения исследователи записали несколько  видеороликов, в которых робот Nao демонстрирует подобное поведение. Во  всех трех сценариях робот общается с человеком при помощи устной речи и  отказывается выполнять приказы по разным причинам. В двух примерах из  трех робот, получив уточняющие данные от человека, в итоге выполняет  приказ.

В третьем случае робот отказывается выполнить  поставленную задачу, поскольку человек, озвучивший приказ, не обладает  необходимыми полномочиями". (2016г.)