Технологии
Алексей Боржонов

«ВКонтакте» начала тестировать нейросеть для распознавания враждебных высказываний

Расизм, сексизм, гомофобия и другая агрессия.

«ВКонтакте» начала тестировать нейросеть для автоматического распознавания материалов с враждебными высказываниями, говорится в блоге компании.

Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний.

«ВКонтакте»

Чтобы усилить модерацию, «ВКонтакте» добавила новую категорию жалоб — «Враждебные высказывания». Эта категория поможет в обучении нейросети, а пока модерацией занимаются сотрудники компании.

За первую половину 2020 года «ВКонтакте» удалила 520 тысяч материалов по теме разжигания вражды и ненависти, заблокировала 1340 профилей и 2470 сообществ, распространяющие враждебные высказывания.

#новости #вконтакте