«Восстание машин»: американские ученые научили роботов не выполнять приказы человека
20 ноября 2015 года
Исследователи американского Университета Тафтса разработали систему взаимодействия робота с человеком, которая позволяет искусственному интеллекту отказываться исполнять некоторые приказы, если у него есть достаточные основания для такого поведения. Результаты работы ученых уже были представлены на конференции AI-HRI, о которой пишет IEEE Spectrum.
Принцип работы новой системы прост: перед тем, как выполнять полученный от человека приказ, робот проверяет несколько условий, в которые входит наличие необходимых для выполнения навыков, физическая возможность исполнения приказа вообще и с учетом текущих обстоятельств. Кроме того, искусственный интеллект также анализирует такой параметр, как "субординация": возможно, робот вообще не обязан выполнять приказ, поступивший именно от этого человека.
Если по каким-либо причинам робот не может выполнить приказ, он уведомляет об этом человека, объясняя причины, по которым он отказывается действовать. При этом после уточнения данных об окружающей среде робот может "передумать" и выполнить поставленную задачу.
Для демонстрации примера такого поведения исследователи записали несколько видеороликов, в которых робот Nao демонстрирует подобное поведение. Во всех трех сценариях робот общается с человеком при помощи устной речи и отказывается выполнять приказы по разным причинам.
В двух примерах из трех робот, получив уточняющие данные от человека, в итоге выполняет приказ. В третьем случае робот отказывается выполнить поставленную задачу, поскольку человек, озвучивший приказ, не обладает необходимыми полномочиями.
Как отмечает IEEE Spectrum, речь идет не о "восстании машин", а скорее о проверке необходимых условий для выполнения задачи. Принципиально новой идеи в этом нет - подобные технологии, например, применяются для разграничения доступа и при передаче данных в вычислительных системах.
В последние годы мировые ученые постоянно проводят многочисленные исследования возможностей искусственного интеллекта и строят предположения о применении роботов в условиях повседневной жизни. Так, 1 ноября в китайском городе Тяньцзинь машина по имени "Хаоюэ", одетая в платье и цветочный головной убор, во время свадебной церемонии подвезла новобрачным кольца и зачитала торжественные напутствия.
В сентябре этого года в Британии стартовала кампания, инициаторы которой потребовали от технологических компаний отказаться от разработки секс-роботов, наделенных искусственным интеллектом.
Над созданием подобных роботов работают многие конструкторы, которые полагают, что оснащение различных секс-кукол и игрушек искусственным интеллектом сделает их более "человечными" и привлекательными для покупателей. Однако с точки зрения активистов, во главе которых стоят исследователи в области робототехники и этики Кейтлин Ричардсон и Эрик Бриллинг, такие разработки противоречат морали и принципам гуманизма.
Источники
править
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
