Разработчики «ВКонтакте» работают над искусственным интеллектом, который сможет автоматически распознавать хейт-спич, язык ненависти, — оскорбительные и враждебные высказывания пользователей. Об этом сообщила пресс-служба соцсети.
Нейросеть должна ускорить время обработки жалоб, поступающих в техническую поддержку «ВКонтакте», и помочь пользователям бороться с агрессией в соцсети. Разрабатываемый ИИ сможет различать разные виды хейт-спича: проявления предрассудков (гомофобии, расизма, сексизма), оскорбления и угрозы на религиозной почве, в адрес внешности или из‑за наличия заболевания.
Пользователи «ВКонтакте» могут помочь в обучении новой нейросети — для этого на сайте появилась новая категория в разделе «Жалобы», она называется «Враждебные высказывания». Если при подаче жалобы выбрать ее, публикация отправится к модераторам на рассмотрение, чтобы после собрать как можно больше информации о языке ненависти.
«Модераторы «ВКонтакте» ежедневно обрабатывают огромный объем контента, в том числе с использованием искусственного интеллекта — большинство опасных материалов удаляются еще до того, как их кто‑то увидит. Если же вы заметили оскорбительную публикацию, пожалуйтесь на нее. С проявлениями нетерпимости эффективнее бороться вместе, и мы призываем пользователей присоединяться к нам в этой борьбе», — напомнил руководитель команды модерации соцсети Иван Корнеев. О том, как проходит модерация в «ВКонтакте», можно прочитать здесь.