Ученые выяснили, как всего двумя стикерами сделать беспомощным автомобиль-беспилотник
7 августа 2017 года
Исследователи из Вашингтонского университета пришли к выводу, что стикеры, наклеенные на дорожные знаки специальным образом, могут запутывать автопилот автомобилей, вызывая его неадекватную реакцию, вплоть до экстренного торможения. Исследование опубликовано на бесплатном ресурсе arXiv. Он нем рассказывает N+1.
Как известно, основным источником информации для современных систем автопилота, разрабатываемых уже многими компаниями, включая Tesla, Google и Uber, является машинное зрение - изображения с радиолокационных станций, камер и лидаров. Автопилот с помощью нейросетей обучен распознавать объекты, попавшие в поле зрение автомобиля, отличая пешеходов, другие автомобили, светофоры и дорожные знаки.
Обучение автопилотов производится с помощью изображений, полученных с камер автомобилей во время пробных поездок, а также фотографий и видеозаписей в сети. Обычно обученные системы автопилота с высокой точностью распознают дорожные знаки, если только они не имеют сильных повреждений или не закрашены.
В своем исследовании ученые из Вашингтона обнаружили, что автоматическое распознавание дорожных знаков автопилотом можно запутать, если на знак нанести несколько наклеек. Так, во время эксперимента исследователи добавили на знак STOP четыре небольших прямоугольных стикера: два белых и два черных. Автопилот распознал знак как ограничение скорости 45 миль в час.
Затем исследователи использовали разноцветные наклейки, из которых сверху и снизу надписи STOP на дорожном знаке они выложили слова LOVE и HATE (любовь и ненависть). Измененный таким образом знак автопилот тоже распознал как ограничение скорости 45 миль в час. Наконец, исследователи провели аналогичный эксперимент с другим знаком - правый поворот.
В случае со знаком правого поворота исследователи напечатали аналогичный по размерам знак, стрелка на котором оформлена из серых квадратов разной яркости. Распечатанный знак автопилот тоже распознал как ограничение скорости 45 миль в час. Исследователи утверждают, что изменяя положение стикеров или серых квадратов на знаках, можно заставить автопилот по-разному распознавать их.
Несмотря на явную опасность таких атак сегодня (машина на автопилоте просто проигнорирует какой-то важный знак), специалисты отрасли уверены, что со временем автопилоты, накопив более основательную базу образов, научатся более тонко распознавать различные объекты, и смутить их будет уже не так просто.
Напомним, что специалисты Volvo в Австралии сейчас работают над непростой проблемой распознавания автопилотом кенгуру - из-за непредсказуемых быстрых прыжков этих животных компьютеры пока не справляются с классификацией и не могут правильно реагировать, чтобы избежать столкновения.
Источники
правитьЛюбой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
Комментарии
Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.
Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.
Несколько советов по оформлению реплик:
- Новые темы начинайте, пожалуйста, снизу.
- Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
- Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
- Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.
Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.