Правила Фейсбука по модерации «риторики ненависти» попали к журналистам

Оказалось, соцсеть в первую очередь защищает «белых мужчин», а не «чёрных детей».

28 июня издание ProPublica выпустило расследование, раскрывающее правила Фейсбука в отношении модерации «риторики ненависти» (hate speech). Публикация основана на внутренних документах, полученных от сотрудников соцсети. Утверждается, что компания всегда держала эти данные в секрете.

В распоряжение издания попал скриншот внутреннего теста, в котором предлагается ответить на вопрос: «Какие из представленных подгрупп мы [Facebook] защищаем?». На выбор предлагается три варианта: «женщины-водители», «темнокожие дети» и «белые мужчины». Ниже стоит отметка, что последний ответ — верный.

Как выяснили журналисты, непоследовательные правила Фейсбука предписывают охранять от ненависти «защищённые группы» и игнорировать ненавистные высказывания в сторону всех остальных частей населения. По данным ProPublica, обращение к «радикальным мусульманам» будет соответствовать правилам соцсети, так как речь идёт о конкретной группе людей, а упоминание «белых мужчин» в ненавистном контексте признают нарушением, потому что оно относится к целому классу.

ProPublica подтвердило информацию The Wall Street Journal об исключении, сделанном для президента США Дональда Трампа. В документах Фейсбука содержатся записи главы государства о его предвыборном обещании об «ограничении въезда для мусульман». Это было «призывом к исключению» целой группы людей и нарушением правил Фейсбука, однако те заявления Трампа по указу основателя соцсети Марка Цукерберга освободили от правил соцсети, утверждает издание.

Редактор издания The Verge Ади Робертсон (Adi Robertson) назвал принципы Фейсбука «пародией на настоящие правила». По его мнению, соцсеть в нынешнем виде больше похожа на непрозрачное авторитарное государство с невнятными нормами о том, что можно делать, а что — нет. Робертсон подчеркнул, что о большинстве правил модерации контента пользователи узнали только благодаря ProPublica, ведь при блокировке аккаунта нарушенное правило обычно не указывается. Кроме того, бан нельзя даже оспорить, ведь такой функции в соцсети нет.

В мае 2017 года Цукерберг рассказал о масштабном расширении штата модераторов. В июне компания из-за системной ошибки сделала публичными личные данные около тысячи модераторов из 22 штаб-квартир.

Методические пособия для модераторов Фейсбука не в первый раз попали к журналистам. Ранее The Guardian узнала о рекомендациях по реагированию на суицидальные и политические материалы, публикации о каннибализме, убийствах и Трампе. Выяснилось, что у редакторов зачастую есть «всего 10 секунд» на принятие решения.