Тысячи сотрудников Amazon прослушивают разговоры пользователей с голосовым помощником Alexa
11 апреля 2019 года
Голосовой помощник Alexa компании Amazon, подобно конкурентам, обучается лучше понимать команды и запросы пользователей. Представители Amazon не раз говорили об этом, однако не разглашали при этом сведения о этом, что для улучшения работы Alexa используются не только алгоритмы. Как показало расследование журналистов Bloomberg, тысячи специально нанятых сотрудников Amazon прослушивают разговоры пользователей с Alexa.
Информация о том, что записи доступны сотрудникам компании, не является секретной – упоминания об этом встречаются в документах Amazon, но обычные пользователи не подозревают, что их команды и домашние разговоры могут услышать в компании.
Участие людей в обучении Alexa объясняется многочисленными нюансами работы голосового помощника, который должен понимать команды и запросы на разных языках и учитывать их региональные особенности, включая сленг, диалект или акцент. Исправлять ошибки Alexa, чтобы алгоритм не повторил их в будущем, приходится людям, которые расшифровывают записи, сопровождают их комментариями и передают разработчиках Alexa. Как отмечает The Verge, такую же схему обучения своих голосовых помощников используют Apple, Facebook и Google.
Как следует из публикации, доступ к записям разговоров с Alexa имеет значительное число людей ("тысячи") в Amazon, включая как постоянных, так и временных сотрудников. Хотя сам по себе такой подход нормален, порой возникают ситуации, вызывающие вопросы. Так, устройства с Alexa могут записать слова и фразы, позволяющие идентифицировать произнесшего их человека. Кроме того, неизвестно, как долго компания хранит записи, и были ли зафиксированы случаи их кражи хакерами недобросовестными сотрудниками.
Журналистам удалось узнать, что сотрудники, которые прослушивают записи, могут инициировать обращение Amazon в правоохранительные органы, если услышат нечто подозрительное. Кроме того, в Bloomberg узнали, что в некоторых офисах Amazon сотрудники делятся с коллегами записями, которые кажутся им забавными.
В официальном комментарии Amazon говорится, что лишь очень небольшое число записей прослушивается сотрудниками компании в целях улучшения работы голосового помощника. Также в Amazon утверждают, что в компании действуют строгие правила к работе этой системы и нулевая терпимость к их нарушениям. В частности, сотрудники, имеющие доступ к записям, не могут идентифицировать клиентов, а конфиденциальная информация защищена многофакторной аутентификацией и шифрованием.
Напомним, в январе датские инженеры Бьорн Карманн и Торе Кнудсен создали специальную 3D-печатную насадку для смарт-колонок, представляющую собой своего рода затычку для встроенного микрофона. Внешне устройство под названием Alias напоминает застывшую шапку из пены, а его суть заключается в том, чтобы колонка точно не подслушивала владельца в режиме ожидания.
Источники
правитьЛюбой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.