Британские власти автоматизируют борьбу с онлайн-экстремизмом

14 февраля 2018 года

Инновационная технология была разработана компанией ASI Data Science в сотрудничестве с британским Министерством внутренних дел. Она использует принципы машинного обучения для выявления экстремистского аудио- и видеоконтента. Создатели уверяют, что система обладает очень высокой точностью. Так из миллиона анализируемых ею случайно выбранных видеороликов только в пятидесяти случаях потребуется дополнительная экспертиза со стороны человека. В ходе тестовых испытаний система идентифицировала 94% пропагандистских материалов террористической группировки “Исламское государство” с 99,995% точностью. Министерство внутренних дел не стало разглашать подробности о методологии анализа контента, которая лежит в основе данной технологии, заявив только, что для обучения модели было использовано более тысячи видеоматериалов террористов.

Инструмент может быть встроен в любую онлайн-платформу, а также интегрирован в процессы загрузки контента. Таким образом, значительная часть нежелательных материалов может быть заблокирована еще до попадания в интернет. Власти надеются, что эта технология может стать частью системы премодерации незаконного контента. Именно к внедрению таких систем Еврокомиссия пытается принудить крупнейшие онлайн-платформы. Их критики вполне справедливо полагают, что они превратятся в эффективные механизмы цензуры. Пока неизвестно, будет ли этот инструмент использоваться для выявления других типов контента, например, материалов ультраправых организаций. Вполне возможно, что в скором будущем он будет применяться для борьбы с контентом, нарушающим авторские права, или проявлениями “языка вражды” (hate speech). Однако заявленная высокая точность идентификации незаконных материалов в этих случаях может и не быть достигнута, вследствие чего многие ни в чем не повинные пользователи могут пострадать.

Уже было объявлено, что технология будет предоставляться сторонним компаниям для борьбы с противоправным контентом. Особое внимание при этом будет уделено небольшим платформам (таким как Vimeo, Telegraph или pCloud), создатели которых не имеют достаточных ресурсов для разработки и интеграции подобных систем. В свете прошлых заявлений британских властей, весьма вероятно, что компании будут тем или иным образом принуждены к внедрению таких систем. Речь может идти, в том числе и об их законодательном регулировании..

“В течение последнего годы мы работаем в тесном контакте с интернет-компаниями, чтобы быть уверенными в том, что их платформы не будут использованы террористами и их сторонниками в противозаконных целях. Меня впечатлила работа, проделанная компаниями с момента создания Глобального интернет-форума по борьбе с терроризмом. Однако еще многое предстоит сделать, и я надеюсь, что новая технология, разработанная при участии Министерства внутренних дел, поможет достичь новых успехов. Террористы создают свои видео для подстрекательства к насилию, привлечения новых сторонников и распространения страха в наших обществах. Мы убеждены, что подобная автоматизированная технология может сильно расстроить планы террористов, а также защитить людей от влияния их бесчеловечных материалов. [Британское] правительство сейчас играет ведущую роль во всем мире в борьбе с гнусным террористическим контентом”. Министр внутренних дел Великобритании Эмбер Радд

.

Министр сделала свое заявления в ходе двухдневного визита в Сан-Франциско, где она встретилась с Министром внутренней безопасности США Кирстен Нильсен. В ходе их встречи были подняты вопросы сотрудничества двух стран в борьбе с террористическим контентом в интернете. Также она провела очередной раунд переговоров с крупнейшими IT-компаниями Кремниевой долины в рамках Глобального интернет-форума по борьбе с терроризмом, обсудив их собственные успехи по внедрению автоматизированных систем фильтрации контента.

Keeping people safe is my priority so I've come to California to meet a range of major internet companies as we work out together how we can best rid the internet of terrorist propaganda and take action to do so. pic.twitter.com/JtXdEmndjr — Amber Rudd MP (@AmberRuddHR) February 13, 2018

.

Материал подготовил Максим Волков,

специально для РосКомСвободы..

Читайте также:.

Еврокомиссия призывает к ускорению процедуры блокировки незаконного контента

?Контентный фильтр от Еврокомиссии приведёт к цензуре

?Британские власти: Telegram и другие IT-компании плохо борются с негативным контентом

?Цензура и контроль — это не ответ на экстремизм

?В ООН изучат проблему соблюдения прав человека в цифровую эпоху.

Источники

Эта статья загружена автоматически ботом NewsBots в архив и ещё не проверялась редакторами Викиновостей.
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.

Комментарии

Викиновости и Wikimedia Foundation не несут ответственности за любые материалы и точки зрения, находящиеся на странице и в разделе комментариев.

Мнения

Пожалуйста, прочтите правила общения и оформления реплик на портале Викиновости

Если вы хотите сообщить о проблеме в статье (например, фактическая ошибка и т. д.), пожалуйста, используйте обычную страницу обсуждения.

Комментарии на этой странице могут не соответствовать политике нейтральной точки зрения, однако, пожалуйста, придерживайтесь темы и попытайтесь избежать брани, оскорбительных или подстрекательных комментариев. Попробуйте написать такие комментарии, которые заставят задуматься, будут проницательными или спорными. Цивилизованная дискуссия и вежливый спор делают страницу комментариев дружелюбным местом. Пожалуйста, подумайте об этом.

Несколько советов по оформлению реплик:

• Новые темы начинайте, пожалуйста, снизу.
• Используйте символ звёздочки «*» в начале строки для начала новой темы. Далее пишите свой текст.
• Для ответа в начале строки укажите на одну звёздочку больше, чем в предыдущей реплике.
• Пожалуйста, подписывайте все свои сообщения, используя четыре тильды (~~~~). При предварительном просмотре и сохранении они будут автоматически заменены на ваше имя и дату.

Обращаем ваше внимание, что комментарии не предназначены для размещения ссылок на внешние ресурсы не по теме статьи, которые могут быть удалены или скрыты любым участником. Тем не менее, на странице комментариев вы можете сообщить о статьях в СМИ, которые ссылаются на эту заметку, а также о её обсуждении на сторонних ресурсах.

Добавить комментарий