Twitch представил ИИ-инструмент для отслеживания пользователей, обходящих бан на каналах

Он будет маркировать их для стримеров и модераторов.

Инструмент Suspicious User Detection видеостримингового сервисса для борьбы с теми пользователями, которые создают новые аккаунты для обхода блокировок на каналах, работает на основе машинного обучения.

Как говорят в Twitch, инструмент будет определять такие аккаунты с помощью неких сигналов, помечая их для стримеров и модераторов каналов как «вероятные» или «возможные» профили-пустышки, созданные специально для обхода бана.

Сообщения, отправленные с «вероятных» профилей, не будут отображать в чате, но их увидят модераторы и стример. Они смогут решить, оставить ли ограничение, снять его или выдать бан.

Сообщения, отправленные с «возможных» профилей, всё же появятся в чате, однако аккаунт всё равно будет помечен для стримера и его модераторов, чтобы они могли отслеживать его активность.

Вдобавок к этому стримеры смогут настраивать то, как система будет реагировать на аккаунты с маркировками — ограничить отображение сообщений можно и для «возможных» профилей.

Инструмент Suspicious User Detection будет включен на всех каналах по умолчанию, однако стримеры могут по желанию отключить его через меню модерации своих трансляций. Судя по всему, его уже начинают использовать, чтобы «натренировать» систему.

Поскольку речь идёт об инструменте на основе машинного обучения, в Twitch предупреждают, что могут возникнуть случаи, когда аккаунт не маркируется, несмотря на обход бана, или когда метка ставится на аккаунт, с которого не обходят блокировку. Команда сервиса считает, что со временем инструмент научится лучше различать аккаунты нарушителей.

#новости #twitch