Secret и другие анонимные сервисы наняли киберполицию для борьбы с троллями

Сервисы анонимных мнений Secret, Whisper и Yik Yak стали работать с командой из десятков модераторов компании TaskUs, чтобы предотвратить недоброжелательные посты и угрозы в адрес пользователей. Об этом сообщает блог Gigaom.

Вместо найма разрозненных фрилансеров на должности менеджеров по контенту, компании заключили партнёрство с уже сформированной командой TaskUs, работающей полный рабочий день. Это позволяет сформировать массовый подход к модерированию записей.

TaskUs сотрудничает с Whisper уже несколько лет, однако информация о договоре с Secret и Yik Yak появилась лишь недавно. Всего в списке клиентов TaskUs около 65 технологических компаний и стартапов, включая Extensify, HotelTonight и Getaround.

Офис TaskUs, в котором работает армия из 130 модераторов, находится на Филлипинах. Ежедневно они просматривают ленты записей из Whisper, удаляя нежелательные посты или уведомляя о них офис компании в Сан-Франциско. За один раз на экранах модераторов появляется по 20 записей.

Обработка потока постов ведётся в полуавтоматическом режиме. В пул наблюдения модераторов попадают как те записи, которые пометили как неподходящие сами пользователи, так и отобранные автоматически на основе ключевых слов или анализа изображений.

Для модераторов Whisper составлено подробное 30-страничное руководство. Среди прочих моментов в нём определено, что фото раздетого мужчины на улице является неуместным, а селфи раздетого мужчины в помещении считается нормальным.

Однако отличить высказывание мнения от оскорбления сложнее, отмечают в Gigaom. Как рассказала представитель TaskUs, в компании пользуются «правилом большого пальца»: если модератор считает, что он был бы оскорблён, получив такое сообщение, он удаляет его.

В TaskUs прокомментировали публикацию, подтвердив факт сотрудничества и заявив, что анонимные приложения, такие как Secret, Whisper и Yik Yak, представляют новое измерение в интернете.

Для нас цель заключается в создании пуленепробиваемой системы, чтобы гарантировать, что никто — ни один человек — не будет физически или ментально страдать от действий другого пользователя в сообществе анонимного приложения.TaskUs

Это не первый случай, когда анонимные сервисы сталкиваются с необходомостью справляться с волнами анонимного негатива. Сайт анонимных мнений и вопросов Formspring.me также был известен разгулом комментаторов, издевающихся над авторами блогов или запугивающих их до суицидального состояния.