Twitch cria ferramenta que detecta crime de ódio em chats 

A nova ferramenta da Twitch é um aprendizado de máquina chamado: Detecção de Usuário Suspeito. A empresa irá usá-la para banir usuários que disseminam discursos de ódio, principalmente em bate-papos. Ela também é capaz de identificar usuários que conseguiram evitar seus banimentos de algum canal de streamer.

O protótipo de aprendizado de máquina que alimenta a ferramenta reconhece possíveis evasores. Ele faz isso avaliando suas características e comportamentos. Em seguida, o protótipo compara essas informações com as contas banidas de um canal de streamer.

Mods e streamers podem escolher monitorar um possível usuário que conseguiu burlar o banimento. O programa o coloca em uma lista de monitoramento e, ao lado, põe uma mensagem com o seu nome. Dessa forma, informações a respeito do monitoramento ou banimento do usuário serão fornecidas. As mensagens de evasores em potencial irão aparecer no chat, mas os mods/streamers também podem ter suas mensagens bloqueadas no bate-papo.

Detecção de Usuário Suspeito (SUD)

A companhia diz que ativará a Detecção de Usuário Suspeito (SUD, sigla em inglês) por predefinição. Porém, streamers/mods podem desligá-la caso decidam monitorar os usuários suspeitos de forma manual.

Alison Huffman, diretora de produto da Twitch para saúde comunitária fez um comunicado. Nele, ela informou que a SUD foi inspirada no feedback da comunidade para criar melhores formas de controlar usuários não desejáveis na plataforma. 

Além disso, ela disse que depois de falar com os mods sobre seus problemas, eles chegaram a um consenso.Foi descoberto que é difícil distinguir se um usuário que violou as normas de seu canal era um evasor recorrente ou um novo usuário que ainda não tinha lido as regras do canal. A SUD parece fazer diferença na luta contra usuários que disseminam discursos de ódio. No entanto, é preciso tempo para verificar o quão eficaz ela será na prática.