Подотчётный Роскомнадзору центр предложил использовать ИИ для мониторинга контента в видеоиграх
По словам специалистов, инициатива может повлиять на доступность видеоигр и игровых платформ для пользователей.
Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) предлагает использовать нейросети для защиты граждан — в первую очередь детей — от вредоносной информации путём мониторинга внутриигрового контента. Об этом пишет «Коммерсантъ».
По словам руководителя Научно-технического центра ГРЧЦ Александра Федотова, нейросети должны сократить время на поиск запрещённой информации. Например, наличия в игре сценариев и сюжетов, содержащих детскую порнографию, призывы к совершению самоубийств и употреблению наркотиков.
Игры становятся сложнее, а человек не может охватить всю полноту предлагаемых сюжетных развилок. Существуют игры с глубокими продуманными вселенными, в которых есть свои мифология, история, фольклор и книжные произведения. Для изучения подобного контента можно потратить сотни или тысячи часов, что для человека сложно. ИИ может помочь в этом.
В ГРЧЦ отмечают, что ИИ могут использовать как рекомендательный сервис. Однако решение по каждому признаку нарушения принимаются экспертом на основании всей имеющейся информации. В Роскомнадзоре рассказали изданию, что алгоритмы должны всегда быть под контролем человека, чтобы их использование не приводило к нарушению прав и свобод граждан.
Продюсер студии Owlcat Games Максим Фомичёв говорит, что проект подведомственного Роскомнадзору центра — это нейросетевая вспомогательная программа для автотестов, когда алгоритм сам пробегает по всем уровням игры, со всеми говорит и в итоге выдаёт отчет, в том числе с технической информацией.
По мнению основателя портала rawg.io и «Канобу» Гаджи Махтиева, подобная инициатива может создать сложности разработчикам игр.
Прогонять большие игры через ИИ на предмет поиска чего-то незаконного или неэтичного в теории возможно, но это в результате может привести к ограничению доступности игры или платформ для их размещения. Дело в том, что одна из особенностей всех игровых вселенных сегодня — огромное количество пользовательского контента. В таком случае манипулировать «незаконным контентом» станет проще, и под санкции можно подтянуть всё что угодно, включая сообщения в чате.
#новости #игры #ии #нейросети