Уровень враждебности пользователей ВКонтакте проверит искусственный интеллект

20 августа 2020 года

Wikinews-logo-ru.svg

ВКонтакте работает над искусственным интеллектом (ИИ) для автоматического распознавания материалов с хейтспичем — враждебными высказываниями. Об этом сообщает пресс-служба социальной сети. «Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости», — также отмечает интернет-сервис.

Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний. Чтобы усилить модерацию, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Эта категория поможет в обучении нейросети, а пока модерацией занимаются сотрудники компании.

«Мы разделяем позицию наших пользователей и партнёров касательно языка вражды и прославления насилия. Модераторы „ВКонтакте“ ежедневно обрабатывают огромный объём контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются ещё до того, как их кто-то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на неё. С проявлениями нетерпимости эффективнее бороться вместе — и мы призываем пользователей присоединяться к нам в этой борьбе», — объясняет руководитель команды модерации «ВКонтакте» Иван Корнеев.

За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

 

ИсточникиПравить

Эта статья загружена автоматически ботом NewsBots и ещё не проверялась редакторами Викиновостей.
Любой участник может оформить статью: добавить иллюстрации, викифицировать, заполнить шаблоны и добавить категории.
Любой редактор может снять этот шаблон после оформления и проверки.
 

Комментарии:Уровень враждебности пользователей ВКонтакте проверит искусственный интеллект