После запуска голосовых твитов в Твиттере стали публиковать аудио с порно. Соцсеть не предусмотрела модерацию

Компания не добавила функцию распознавания речи и ожидаемо столкнулась со спорным контентом.

Пользователи Твиттера после запуска функции голосовых твитов начали публиковать аудио с порно. В издании OneZero обратили внимание на то, что соцсеть не ставит пометку о «деликатном характере» на такой контент, порассуждали, с каким ещё спорными ситуациями может столкнуться соцсеть, и предложили решение проблемы модерации голосовых сообщений.

Под твитом, где компания анонсировала голосовые записи, пользователь Дэнни Уолтер репостнул аудио-твит со звуками порно. Соцсеть не отметила сообщение пометкой «медиафайл деликатного характера», которую ставит возле контента с порно и сценами насилия. После запроса OneZero плашку добавили.

Лектор Гарвардского университета Эвелин Доек, которая изучает модерацию, посчитала, что соцсеть не подготовилась к последствиям введения новой функции: «На любой новой платформе неизбежно появляются ксенофобские высказывания, ложная информация, угрозы и харрасмент. Поэтому когда вы представляете новую функцию, вы должны подумать о том, как будете бороться с этим. В Twitter, видимо, не слишком об этом побеспокоились».

Профессор университета Колорадо Кейси Финслер в Твиттер-треде предположила, что голосовые твиты могут использовать не только для аудио-порно, но и для распространения расистских, сексистских или гомофобных высказываний, «могущих навредить слуху» громких криков или «рейдов», во время которых множество пользователей координировано говорят одно и то же.

Основываясь на опыте использования Discord, Финслер предположила, что аудио-контент нельзя регулировать так же, как текст или видео, поскольку с модерацией публичных голосовых сообщений возникают новые проблемы. Вдруг запись сделали без согласия говорившего? Что делать, если пользователь сделает аудио самоубийства? Как регулировать звуки криков? Если при модерации видео или текста сразу видно, с чем имеешь дело, то с аудио никогда не известно, что тебя ждёт.

В OneZero предположили, что Twitter может заняться модерацией голосовых твитов с помощью искусственного интеллекта, который бы автоматически транскрибировал аудио. Такая функция также помогла бы слабослышащим пользователям Твиттера, которые возмутились её отсутствию после анонса голосовых твитов. В компании заявили, что «изучают возможность» транскрипции аудио-твитов.

Но для модерации такое решение в OneZero назвали неидеальным, поскольку алгоритмы распознавания голоса часто ошибаются, не определяют акценты и не способны определять некоторые звуки. «Как в таком случае транскрибировать порно или крик?», — отметил студент Университета Колорадо Аарон Джианг, которые изучает вопросы модерации в Discord.

С момента запуска в соцсети нельзя оставлять голосовые твиты в реплаях. Это помогает реже использовать аудио для травли, считают в издании. При этом твит с аудио-порно опубликовали именно в реплаях — представитель Twitter заявил, что пользователь поделился видео с записью голосового твита. В компании не ответили, планируют ли они интегрировать аудио-твиты в реплаи в будущем.

Голосовые сообщения не могут быть длиннее 2 минут 20 секунд. Пока функция доступна только части пользователей iOS. Компания объяснила, что аудио-твиты помогут во время «протестов, срочных новостей или для записи кряканья диких гусей».

#соцсети #twitter