Twitter планировал создать аналог OnlyFans внутри соцсети — проекту помешали детское порно и слабая модерация

• Весной 2022 года в Twitter решили запустить платные подписки для создателей контента «для взрослых» — аналог OnlyFans, встроенный в платформу. В отличие от других популярных соцсетей, откровенные материалы в твиттере разрешены, а теперь предполагалось эту нишу монетизировать. Тем более, что значительная часть пользователей OnlyFans и так продвигала свои аккаунты в твиттере.
• Основным риском видели критику со стороны рекламодателей — они могли бы отвернуться от платформы и забрать с неё часть денег. Но, по прогнозам, компания компенсировала бы убытки, получая комиссию с самих подписок: OnlyFans зарабатывает около 2,5 миллиардов долларов ежегодно — это примерно половина годового дохода Twitter.
• Перед реализацией проекта Twitter собрал «красную команду», в которую вошли 84 сотрудника компании. Их задачей стало определение рисков и обеспечение ответственного и безопасного запуска системы подписок на «взрослый контент». За отведённое время команда фактически «сорвала проект», обнаружив серьёзные проблемы с модерацией контента.
• Основной проблемой стало наличие в соцсети порнографии с участием несовершеннолетних — компании не хватает ресурсов и инструментов для оперативного отслеживания и удаления запрещённого контента. Запуск платных подписок только усугубил бы ситуацию: монетизация привлекла бы ещё больше авторов, а отслеживать контент в закрытом доступе стало было ещё труднее.
• Согласно документам, попавшим в руки журналистам, о проблеме знали ещё в начале 2021 года, а затем в течение полутора лет вопрос несколько раз поднимался перед руководством, но те не предпринимали никаких действий.

Twitter не потерпит сексуальной эксплуатации детей. Мы активно боремся с насилием над детьми в онлайне и вкладываем много ресурсов в технологии и инструменты, которые помогают соблюдать нашу политику.

Кэти Росбороу, представительница Twitter

• Одна из главных причин существования проблемы в том, что руководство не выделяет достаточно ресурсов на модерацию. Хотя твиттер — одна из самых популярных соцсетей в мире, долгое время бизнес был убыточным, и в компании сокращают издержки по некоторым направлениям. В 2019 году Марк Цукерберг заявлял, что Facebook* за год тратит на всю систему безопасности больше, чем за это же время зарабатывает Twitter.
• Вторая причина — устаревшие технологии. Пока многие соцсети уже давно полагаются на автоматизированные системы поиска контента и ИИ, в твиттере используют инструменты PhotoDNA, разработанный в 2009 году и отслеживающий только контент из базы данных, и RedPanda, который также не является эффективным решением.
• Большую часть контента, попадающего под определение запрещённого и детского порно, модерации приходится фильтровать вручную, отправляя при этом уникальные материалы в правоохранительные органы. Процесс занимает много времени, на обработку данных не хватает времени и рук, следует из отчётов компании.
• Команды модерации несколько раз предлагали конкретные решения для повышения эффективности отслеживания запрещённого контента. Иногда руководство соглашалось и выделяло необходимые ресурсы, но спустя какое-то время инициативы сворачивались, а команды распускались — в трудные времена упор делали на более прибыльных элементах соцсети.
• В какой-то момент в компании хотели, наоборот, отвлечь внимание от того факта, что твиттер остаётся одной из последних крупных платформ, где всё ещё можно публиковать порно. Сама соцсеть игнорировала этот факт, а пользователи беспокоились, что вскоре и она откажется от принципа. Однако планы монетизировать откровенный контент остаются, пусть для этого сначала и нужно решить серьёзные проблемы с модерацией.