Проект «Защитник»: в твиттере есть список «особо важных пользователей» — их активнее защищают от троллей и хейтеров

• Аудитория твиттера составляет порядка 200 миллионов пользователей ежедневно. Из-за такого объёма контента модераторы получают большое количество жалоб на оскорбительный контент, которые необходимо ранжировать для максимальной эффективности;
• Для определения приоритета жалобы соцсеть использует как привычные показатели (количество жалоб на определённый твит, вероятность того, что он действительно является оскорбительным), так и применимые для твиттера (количество подписчиков пользователя, популярность твита);
• Но одним из самых весомых аргументов для приоритетной модерации является так называемый Project Guardian («Проект Защитник») — список известных и популярных пользователей соцсети, которые потенциально могут стать жертвами массового кибербуллинга;
• В список входят как известные люди вроде политиков, артистов, блогеров, так и менее публичные пользователи — малоизвестные журналисты, сотрудники компании или обычные пользователи, которые неожиданно вызвали обсуждение. Список часто меняется, но в среднем включает в себя несколько тысяч аккаунтов, владельцы которых чаще всего даже не подозревают о своём особом положении;

Если список становится слишком большим, сигнал теряет свою значимость. Мы хотим сфокусироваться на людях, которые в определённый момент получают исключительно много внимания. Поэтому уделяем такое внимание небольшому количеству аккаунтов.

Йоэль Рот

• Особых правил модерации для жалоб, связанных с аккаунтами из списка, нет — их лишь обрабатывают быстрее остальных запросов. Это сделано во избежание масштабных преследований и популяризации оскорблений конкретных людей. Project Guardian также помогает сохранить известных инфлюенсеров, обеспечивая их комфортное пребывание на платформе;
• Основную часть аккаунтов в список добавляют сотрудники твиттера, если видят аномальное количество оскорблений или угроз в адрес конкретного человека. Иногда за таким «покровительством» обращаются менеджеры знаменитостей или представители СМИ, которые публикуют резонансные новости и расследования;
• Представители соцсети не раскрывают, привела ли к созданию проекта какая-то конкретная ситуация. Известно лишь, что список приоритетных пользователей существует уже около двух лет. Журналисты Bloomberg считают, что это в том числе связано с оттоком знаменитостей, которые столкнулись с активным буллингом сразу после регистрации;

Причина, по которой появилась эта концепция — феномен «человека дня». Существуют люди, которые становятся такими «людьми дня» и привлекают к себе массу внимания почти каждый день. Project Guardian — один из способов их защитить.

Йоэль Рот

• Представители твиттера рассказали, что научились определять большую часть оскорбительного контента автоматически — 65% жалоб поступает не от пользователей, а с помощью собственных технологий обнаружения. Система либо сама блокирует сообщения нарушителей, либо оперативно передаёт модераторам.