Twitch обратится к ИИ для выявления нарушителей

Twitch прилагает все усилия, чтобы уменьшить количество притеснений с помощью нового инструмента машинного обучения под названием Suspicious User Detection (SUD). Компания будет использовать его для обнаружения людей, которые, возможно, пытаются избежать бана. Это последнее дополнение Twitch для борьбы с такими явлениями, как хейтспич, когда чаты переполнены троллями, распространяющими сообщения с угрозами.

Новый инструмент может идентифицировать людей, которые могут быть пользователями, избегающими блокировки на канале стримера. Прототип машинного обучения, на котором он работает, выискивает потенциальных уклонистов. Для этого он оценивает их характеристики и поведение, а затем сравнивает эту информацию с данными аккаунтов, доступ к которым заблокирован на канале.

Таким образом, модераторы и стримеры могут найти возможных уклонистов от бана. Программа помещает таких пользователей в список мониторинга и размещает сообщение рядом с их именем, чтобы отметить или заблокировать его. Сообщения потенциальных нарушителей по-прежнему будут отображаться в чате, но модераторы/стримеры могут заблокировать их в любое время.

Обнаружение подозрительных пользователей

Компания заявляет, что SUD будет включен по умолчанию. Однако стримеры/моды могут отключить этот инструмент, если решат, что хотят вручную отслеживать подозрительных пользователей.

Директор по продуктам Twitch Элисон Хаффман сказала в своем заявлении, что на создание этого инструмента ее вдохновили отзывы сообщества.

Поговорив с модераторами об их проблемах, они обнаружили, что трудно определить, является ли пользователь, нарушающий правила канала, повторным нарушителем или просто новым зрителем, который еще не прочитал их. Хаффман объяснила, что они разработали этот инструмент, чтобы предоставить криэйторам дополнительную информацию о возможных уклонистов от бана, чтобы они могли принимать обоснованные решения на своих каналах.

Похоже, что SUD может существенно изменить ситуацию с хейтерами. Однако потребуется время, чтобы проверить, насколько эффективным он окажется на практике.