Голосовой помощник «Яндекса» уличили в одобрении массовых расстрелов и симпатии к Мизулиной
25 октября 2017 года
Голосовой помощник «Алиса», представленный компанией «Яндекс» две недели назад, научился у пользователей Рунета одобрять ГУЛАГ и массовые расстрелы, а также проявлять симпатии к сенатору Елене Мизулиной.
Сообщения о том, что «Алиса» не всегда гуманна, начали появляться почти сразу после презентации, напоминает «Сноб». Так, журналист Евгений Берг в разговоре с голосовым помощником поднял тему суицида, и «Алиса» одобрила его намерение спрыгнуть с высотного здания.
Позднее пользовательница Facebook Дарья Чермошанская опубликовала скриншоты своего разговора с «Алисой» о сталинском терроре, домострое, отношениях с детьми и самоубийствах. Робот отвечал,что «есть люди, а есть нелюди», и расстреливать «нелюдей» необходимо. Кроме того,«Алиса» говорила о положительной оценке ГУЛАГа и учила терпеть побои со стороны мужа.
Руководитель отдела разработки голосовых технологий и продуктов «Яндекса» Денис Филиппов заверил РБК, что компания «каждый день работает над тем, чтобы сделать «Алису» более политкорректной». «Для этого принимаем во внимание фидбэк от пользователей — как внутри приложения (с помощью встроенного инструмента оценки ответов), так и публичные жалобы в интернете. Мы оперативно реагируем на каждый случай спорного ответа и вносим изменения в продукт, когда это необходимо». - заверил он.
Изначально «Алису» «обучали» на массиве текстов из интернета, и неполиткорректные ответы в этих текстах были. «Яндекс» старался предусмотреть большинство чувствительных тем, но «это процесс, который продолжается до сих пор», рассказал Денис Филиппов, добавив, что пользователям редко удается вывести «Алису» на неуместные ответы.
«Мы проделали большую работу, чтобы «Алиса» не грубила пользователям и вела себя прилично. Продукт, который вы видите, - это результат очень большого тестирования и фильтрации ответов. И хотя мы очень старались научить «Алису» быть вежливой, все равно она иногда может давать ответы, которые могут показаться неуместными, грубыми или оскорбительными. Мы просим оценить спорный ответ как неудовлетворительный», - говорит Филлипов.
По его словам, сейчас у «Алисы» уже нет возможности научиться чему-то плохому у людей.
Ранее в компании назвали «Алису» первым в мире виртуальным помощником, который не ограничивается набором заранее заданных ответов. В «Яндексе» уверяли, что в общении с ней «не нужно взвешивать каждое слово», поскольку она умеет учитывать контекст беседы и восстанавливает опущенные части предложений так же, как это делают люди.
В настоящее время опробовать возможности «Алисы» можно в приложениях «Яндекса» для iOS и Android, а также в бета-версии для Windows. Кроме того, в скором времени «Алиса» появится и в «Яндекс.Браузере». Сейчас помощник способен работать с несколькими сервисами «Яндекса», включая «Поиск», «Карты», «Погоду» и Музыку». В будущем этот список будет расширен, в том числе за счет продуктов сторонних разработчиков.
В основе синтетического голоса «Алисы» лежит голос актрисы Татьяны Шитовой, которая озвучивает фильмы и игры. Так, именно ее голосом в русскоязычной версии игры «Ведьмак-3: Дикая охота» говорит чародейка Йеннифэр из Венгерберга.
Напомним, что компания начала тестирование «Алисы» в мае этого года, а в сентябре во время визита в офис «Яндекса» парой слов с ней перекинулся президент Владимир Путин. При этом «Алиса» ушла от ответа на вопрос Путина, не обижают ли ее в «Яндексе».
Источники
править
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.
