«ВКонтакте» будет бороться с оскорблениями и травлей в комментариях
Крупнейшая российская соцсеть «ВКонтакте» запустила масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях, говорится в сообщении компании.
В частности, в ходе эксперимента будут протестированы две функции, которые помогут пользователям реже сталкиваться с нетерпимостью, в том числе травлей по национальному признаку, оскорблениями на почве религиозной принадлежности и угрозами. У администраторов появится возможность включить специальный фильтр враждебных высказываний в настройках сообщества, а комментаторы увидят предложение отказаться от обидных реплик.
В сообщении уточняется, что оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления.
Нейросеть удаляет комментарии, в которых содержатся угрозы — например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в черный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.
Результаты эксперимента будут использованы для дальнейшего обучения нейросети и доработки фильтра.
Также «ВКонтакте» масштабирует прошлогодний эксперимент: когда пользователь пишет комментарий, алгоритмы определяют, есть ли в тексте признаки оскорблений, и, если находят их, автор получает совет не тратить время на агрессию и отказаться от обидной реплики.
«ВКонтакте» уточняет, что в прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.
«В этот раз функция будет определять более широкий спектр оскорблений и угроз. Среди них — проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик. По результатам эксперимента команда «ВКонтакте» примет решение о дальнейшем использовании функции», — говорится в сообщении.
Кроме того, как и раньше, любой пользователь может сообщить об оскорбительных публикациях службе модерации с помощью кнопки «Пожаловаться». Она есть у записей, комментариев, фотографий, видео, историй и клипов. Чтобы усилить модерацию, «ВКонтакте» добавила отдельную причину для жалоб на оскорбительные материалы — «Враждебные высказывания». Также можно добавить профиль недоброжелателя в черный список. В сообщении отмечается, что «ВКонтакте» не только рассматривает поступающие жалобы, но и самостоятельно отслеживает появление вредоносного контента.
