Офтоп
Сергей Звезда

«Известия»: «ВКонтакте» начала выявлять суицидальный контент на фотографиях с помощью нейросети Статьи редакции

Во «ВКонтакте» разработали алгоритм для определения противоправного или «опасного» контента на фотографиях. Нейросеть распознает объекты на картинках, которые в итоге исключаются из поисковой выдачи и «умной» новостной ленты или полностью блокируются. Об этом сообщает газета «Известия» со ссылкой на представителей компании.

Нейросеть определяет изображённые предметы и сущности, в том числе человека, ребёнка, животное, растение, предметы одежды и символы «групп смерти». Как утверждается, записи и фото с суицидальным контентом удаляются автоматически, а страницы авторов блокируются.

Нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет.

Представители «ВКонтакте»

Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов пояснил, что алгоритм тестируют на анализ текстовых записей на изображениях. По его словам, нейросеть обучили на основе жалоб пользователей.

Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством.

Андрей Законов, руководитель направления Big Data и Machine Learning «ВКонтакте»

В феврале 2017 года «ВКонтакте» стала блокировать страницы пользователей, упоминающих хэштеги, связанные с суицидальными пабликами — так называемыми «группами смерти». После публикации тестовой записей с фразой #синийкит страницы начали замораживать из-за «подозрительной активности». Кроме того, Во «ВКонтакте» появилась новая причина для жалоб на записи и комментарии — призыв к суициду.

0
32 комментария
Популярные
По порядку
Написать комментарий...
Советский глобус

Что будет с мрачным подростком на грани суицида, если его внезапно забанят в соцсетях? Наверное, одумается, возьмёт себя в руки и пойдёт налаживать свою жизнь.

Ответить
12
Развернуть ветку
Советский глобус

Комментарий удален по просьбе пользователя

Ответить
3
Развернуть ветку
Советский глобус

Нет, он просто на 10 копеек снизит прибыль MDK

Ответить
1
Развернуть ветку
Советский глобус
Ответить
10
Развернуть ветку
Советский глобус
Ответить
10
Развернуть ветку
Советский глобус

Комментарий удален по просьбе пользователя

Ответить
4
Развернуть ветку
Советский глобус

порноватности

Ответить
5
Развернуть ветку
Советский глобус

Определяет наклейку "можем повторить"

Ответить
0
Развернуть ветку
Советский глобус

«ВКонтакте» начала выявлять туалетный контент на селфи с помощью нейросети

Ответить
3
Развернуть ветку
Советский глобус

Интересно, какие объекты делают фото суицидальным?

Ответить
2
Развернуть ветку
Советский глобус
Ответить
11
Развернуть ветку
Советский глобус
Ответить
7
Развернуть ветку
Советский глобус

Тут Кобейн и его убийца, при чём тут суицид?

Ответить
3
Развернуть ветку
Советский глобус

Это официальная версия?

Ответить
0
Развернуть ветку
Советский глобус

Вопрос про объект. Объект на фото. Дальше думай сам ;)

Ответить
0
Развернуть ветку
Советский глобус

Половина заголовков новостей?
Фотографии замкадья?

Ответить
4
Развернуть ветку
Советский глобус

Фотографии замкадья

Давай не портить себе настроение с утра

Ответить
3
Развернуть ветку
Советский глобус

Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки
А если фото в скрытом альбоме? А то говорили, что модеры не могут смотреть скрытые фотки.

Ответить
2
Развернуть ветку
Советский глобус

Нейросеть анализирует только изображения, загружаемые для общего доступа

Ответить
2
Развернуть ветку
Советский глобус
Ответить
2
Развернуть ветку
Советский глобус

суицидальный контент на фотографиях

Ответить
2
Развернуть ветку
Советский глобус
Ответить
2
Развернуть ветку
Советский глобус

Хоть что-то полезное сделали) а то все с каждым обновлением только багов больше

Ответить
0
Развернуть ветку
Советский глобус

У тебя вконтактике кстати весьма суицидальные чб фотачки, и шурыгина. Ты в опасности

Ответить
0
Развернуть ветку
Советский глобус

Надеюсь, это приравняют к суицидальному контенту.

Ответить
0
Развернуть ветку
Советский глобус

Ура, цензурки еще подвезли.

Ответить
0
Развернуть ветку
Советский глобус

Открыли бы доступ к. Захотелось поглядеть, насколько депрессовые и суицидальные мои фоточки.

Ответить
0
Развернуть ветку
Советский глобус

По его словам, нейросеть обучили на основе жалоб пользователей.
так ведь можно и переучить

Ответить
0
Развернуть ветку
Советский глобус
Ответить
0
Развернуть ветку
Советский глобус

Речь про жалобы, подтвержденные модераторами, естественно.

Ответить
0
Развернуть ветку
Советский глобус

Нейромизулина

Ответить
0
Развернуть ветку
Советский глобус

Ольгинских выявлять невыгодно, рука руку моет

Ответить
0
Развернуть ветку
Читать все 32 комментария
null