«ВКонтакте» использует нейросеть для борьбы с травлей и оскорблениями

Соцсеть «ВКонтакте» объявила о масштабном эксперименте, нацеленном на борьбу с оскорблениями и травлей в комментариях. Так, сегодня в настройках сообществ появился «фильтр враждебных высказываний». Если его активировать, нейросеть будет удалять комментарии с угрозами, например с пожеланиями смерти или обещаниями причинить вред здоровью.

Кроме того, система сможет определить в комментариях признаки оскорблений. При их обнаружении автор получит предупреждение с советом отказаться от обидной реплики. Говорят, в прошлом году при похожем эксперименте за сутки удалось сократить количество оскорблений на 36%.

На этот раз разработчики расширили спектр оскорблений и угроз. Так, нейросеть сможет определить проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста и пола.