Пользователей «ВКонтакте» от травли в комментариях защитит нейросеть
Фото: 123rf/legion-media
Администраторам групп «ВКонтакте» стала доступна новая функция: автоматическое удаление «враждебных» комментариев. Фильтр основан на нейронной сети, разработанной соцсетью.
Во «ВКонтакте» миллионы сообществ по интересам — и в каждом из них своя атмосфера и свои принципы общения. В соцсети заявили, что хотят, чтобы у каждого была возможность сделать среду в своих пабликах более дружелюбной: подписчики смогут вести конструктивную беседу и не бояться получить жестокую реплику в ответ.
На сегодняшний день алгоритмы «ВКонтакте» могут определять прямые угрозы, такие как пожелания смерти и обещания навредить здоровью. В будущем нейронную сеть научат распознавать и другие признаки нетерпимости, такие, как домогательства на национальной или религиозной почве.
По умолчанию фильтр отключен, и владельцы сообществ могут включить его в настройках. Там же они получат возможность видеть отсеянные комментарии, восстановить любой из них или отправить автора агрессивного заявления в бан.
«ВКонтакте» начала тестирование новой функции в ноябре прошлого года, и с тех пор ею воспользовались 13 миллионов администраторов пабликов. В соцсети отметили, что большинство руководителей остались довольны работой нейросети.
«ВКонтакте» также тестирует еще одну функцию, призванную защитить пользователей от травли. Когда алгоритмы определяют, что комментатор хочет оскорбить другого пользователя, ему рекомендуют воздержаться от агрессии. Благодаря таким предупреждениям в 2019 году соцсети удалось за сутки уменьшить число оскорблений на 36%.
Подписывайтесь на нас:
