Технологии
Даша Лейзаренко

Блогер обнаружил на YouTube ролики, похожие на детское порно. Это затронуло рекламодателей и создателей контента

Компании отозвали рекламу, площадка забанила несколько каналов, а видеоблогеры боятся очередной волны демонетизации.

Мэт Уотсон Скриншот из его ролика на YouTube

С 17 февраля 2019 года вокруг YouTube развернулся скандал: пользователи обвиняют сервис в организации сообщества педофилов на ресурсе, Disney, Nestle и Epic Games отзывают свои рекламные бюджеты, а руководство видеохостинга удаляет и восстанавливает случайные каналы.

История началась с ролика блогера Мэта Уотсона (Matt Watson). В видео с заголовком «YouTube облегчает сексуальную эксплуатацию детей и монетизирует это» он рассказал о том, как педофилы находят на площадке видео с детьми. TJ восстановил события конфликта.

«Червоточина» детских роликов на YouTube

Уотсон на примерах показал, как алгоритмы сервиса помогают педофилам находить видео несовершеннолетних. Он создал новый аккаунт и ввёл в поиске «bikini haul» — это названия роликов, авторы которых показывают свои покупки, в этом случае, бикини. Всего за несколько кликов автор попал в «червоточину» детских видео. В рекомендациях начали появляться ролики, где девочки раздеваются, занимаются гимнастикой, едят леденцы на палочке или играют в Твистер.

Комментарии педофилов под роликами детей Скриншот из видео Мэта Уотсона

Эти видео не порнографические, в них авторы рассказывают о своей жизни или проводят челленджи с друзьями. Но десятки пользователей в комментариях оставляют таймкоды на моменты, где дети стоят в откровенных позах. Им пишут комплименты и присылают эмодзи с сердечками и каплями воды. Уотсон также утверждал, что пользователи делятся ссылками на детскую порнографию. Во многих видео есть встроенная реклама сервиса, то есть Google их монетизирует. В конце ролика Уотсон заявил, что уходит с YouTube, поскольку платформа стала «отвратительной».

TJ проверил алгоритмы видеохостинга и убедился, что наткнуться на ролики, о которых говорил Уотсон, можно за три клика.

Скриншот с комментариями педофилов под видео ребёнка. В рекомендации попали только похожие же ролики с несовершеннолетними

Под видео действительно можно обнаружить таймкоды, которые упоминал Уотсон. Иногда владелицы каналов ставят лайки под комментариями педофилов. TJ не удалось найти в комментариях ссылки на детское порно или другой эротический контент.

Комментарии с таймкодами и комплиментами под детскими видео

Комментарии с таймкодом, комплиментами и эмодзи под детскими видео

Комментарии с таймкодом, комплиментами и эмодзи под детскими видео

YouTube борется с проблемой

В правилах сообщества YouTube запрещено «представление несовершеннолетних в сексуальном контексте». Пользователям моложе 13 лет нельзя регистрироваться на сайте. Сервис также обещает обратиться в правоохранительные органы и Национальный центр по вопросам пропавших и эксплуатируемых детей, если обнаружит подобные видео.

Компания разъяснила, что удаляет эротические ролики с платформы и банит каналы, которые их выкладывают. Google утверждает, что убирает рекламу из подобных видео.

Представитель YouTube сообщил, что компания пересматривает свою политику и проверяет конкретные видео и комментарии из видео Уотсона. После проверки некоторые материалы были удалены.

В YouTube подчеркнули, что большинство видео, на которые обратил внимание Уотсон, — это «невинные ролики детей, занимающихся повседневными делами». Сервис закрыл комментарии под подобным контентом. Утверждение о том, что невинные видео эксплуатируются педофилами, в сервисе не подтвердили. По их словам, не все ролики удаляются, поскольку искусственному интеллекту сложно определять контекст материалов. На платформе работает примерно 10 тысяч модераторов, а в сервис загружается около 400 видео в минуту.

17 февраля с сервиса удалили каналы двух блогеров, которые выкладывали видео для всех возрастов о Pokémon Go. Они попали в бан за наличие аббревиатуры CP в названиях роликов. В игре это означает боевую мощь (combat power) покемона, но в кругах педофилов под сокращением понимают детскую порнографию (child pornography). Каналы восстановили в тот же день. YouTube также отправил предупреждение автору видео с прохождением Club Penguin и удалил другой канал за ролики с этой же игрой. Блогеры отметили, что искусственный интеллект сервиса не умеет распознавать контекст.

Реакция блогеров и рекламодатей

Создатели контента раскритиковали видео Уотсона. В описании к ролику он прикрепил номера компаний, реклама которых появлялась в спорных видео, и попросил зрителей жаловаться рекламодателям. Блогеры считают, что он пытается спровоцировать очередной «рекламный апокалипсис» (adpocalypse).

  • В ноябре 2016 года на YouTube распространились жестокие видео, где мультяшные персонажи умирали или совершали суицид. Сервис решил продвигать контент для всех возрастов и разрешил рекламодателям самостоятельно выбирать видео для рекламы. После изменений создатели контента стали зарабатывать существенно меньше, чем раньше. Тогда возник термин «рекламный апокалипсис»;
  • В феврале 2017 года в СМИ обнаружили, что блогер PewDiePie выкладывал видео с антисемитской символикой. Disney отказался от сотрудничества с блогером, а его шоу на YouTube отменили;
  • В июле 2017 года на YouTube появились экстремистские и террористические ролики со встроенной рекламой. Сервис отключил монетизацию для видео, у которых меньше 10 тысяч просмотров;
  • В декабре 2017 года на сайте заметили комментарии педофилов под видео детей. Компании HP, Mars и Deutsche Bank отказались от рекламы на YouTube. Руководство сервиса пообещало применять более строгие критерии к монетизированным видео;
  • В январе 2018 года Логан Пол выложил видео с трупом из «леса самоубийц». YouTube объявил, что теперь для монетизации создателям контента нужно иметь 4 тысячи часов просмотров видео за последний год и тысячу подписчиков. Раньше лимит был в 10 часов просмотров за всё время.

В The Verge отметили, что если крупные компании откажутся от рекламы, это повлечёт серьёзные последствия для обычных видеоблогеров на YouTube. 20 февраля Disney, Nestle и Epic Games, действительно отозвали свои рекламные бюджеты. Сервис обещал возместить им деньги, которые ушли на рекламу в спорных видео. Компании ожидают дальнейших действий от Google.

Но YouTube не сдаётся

После того отказа крупных компаний от рекламы на платформе YouTube заявил рекламодателям, что серьёзно занимается проблемой: убирает монетизацию, усиливает модерацию и решает вопрос с алгоритмом рекомендаций.

По словам представителей YouTube, они попросят создателей каналов модерировать свой контент. Руководство заявило, что сервис несет ответственность за комментарии на сайте, поэтому они могут предъявлять к владельцам каналов более высокие требования.

Google также привлёк к решению проблемы социальных работников, специалистов по развитию детей, бывших прокуроров, бывших сотрудников ФБР и ЦРУ.

YouTube начал удалять тысячи каналов в неделю, которые ведут дети младше 13 лет.

На YouTube знают, что основной проблемой остаётся алгоритм, предлагающий рекомендаций. Представитель сервиса заявил, что компания убрала окно рекомендаций из спорных роликов. На некоторых видео они действительно пропали.

Скриншот детского видео с отключёнными комментариями и рекомендациями

Но в случае с другими роликами ничего не изменилось. Комментарии остались открытыми.

Скриншот комментариев педофилов под детскими видео. В рекомендации снова попали только похожие ролики

Как отметили в издании Newsweek, алгоритм, создающий рекомендации на основе предпочтений пользователей, все ещё остаётся новой проблемной отраслью. Злоумышленники продолжают использовать YouTube в нелегальных целях несмотря на то, что видеохостинг ведёт против них активную борьбу.

#youtube #разборы #скандалы #видеоблоггеры #бизнес