O Youtube entra em dilema com a IA na moderação de conteúdo

A moderação de conteúdo é uma parte essencial de uma rede social. Nos últimos meses, a necessidade de um conteúdo de melhor qualidade fez com que as empresas de tecnologia corressem para reconstruir seus mecanismos.

Desde o início da pandemia, o Youtube passou a contar com a ajuda da inteligência artificial. Esta é uma alternativa temporária, enquanto os funcionários humanos não podem ir ao escritório.

Embora a maioria dos entusiastas da tecnologia pense que moderadores humanos podem fazer seu trabalho em casa, isso não é possível. A natureza do trabalho é sensível, exigindo, portanto, um ambiente corporativo fortemente controlado.

Igualmente, é necessária uma infraestrutura técnica adequada para a execução eficiente das tarefas.

Após a mudança repentina em março, o gigantesco aplicativo de compartilhamento de vídeo deu um aviso ao público de que recorrerá à inteligência artificial para a moderação de conteúdo.

Em vez de humanos, as máquinas feitas pela tecnologia moderna serão responsáveis por filtrar o que deve ou não estar na plataforma. Por causa disso, serão cometidos vários erros não intencionais.

No entanto, a última linha de defesa ainda será humana. Os funcionários humanos confirmarão se o conteúdo deve proceder à postagem ou ser retirado.

Os uploads a serem removidos são aqueles que violam as diretrizes da comunidade da plataforma, entre outras considerações.

Porém, os representantes da empresa de tecnologia informaram aos criadores de conteúdo que é provável que as máquinas removam acidentalmente alguns vídeos que não violam as diretrizes.

Caso isso acontecer, o criador pode apelar para a reconsideração, mas o processo pode demorar mais do que o habitual devido à redução das operações humanas que tratam do assunto.

Hoje, em notícias de tecnologia, o Youtube confirmou em seu relatório de aplicação das diretrizes da comunidade do segundo trimestre que removeu um número significativo de vídeos que não violavam os padrões da comunidade.

Seus representantes restabeleceram sua alegação anterior de que, por causa da forte dependência do aprendizado de máquina, foram cometidos vários erros indesejados.

 

Retiradas do segundo trimestre

O Youtube disse que o número de vídeos retirados de sua interface no segundo trimestre é o dobro do número registrado no primeiro.

Mais de 11,4 milhões de vídeos foram retirados para o período que abrange de abril a junho de 2020. No mesmo período do ano passado, os números eram de apenas 9 milhões.

Da mesma forma, o número de reintegrações de vídeo também dobrou em relação ao trimestre anterior.

Até agora, o número de recursos em 3% é significativamente menor do que as remoções reais. Consequentemente, o número de vídeos reintegrados a partir de solicitação aumentou de 25% para 50%.

Como resposta à preocupação, o Youtube disse que eles recorreram a “aplicação excessiva” na execução do dever.

Em 2017, a plataforma anunciou seu plano de contratar mais de 10.000 moderadores de conteúdo para retirar vídeos violentos direcionados a usuários jovens.

Ele reconheceu o papel crucial que os seres humanos desempenham, visto que tomam decisões muito mais contextualizadas sobre moderação de conteúdo, algo que falta na inteligência artificial.

Agora que mais pessoas passam mais tempo em seus dispositivos portáteis, o equilíbrio certo entre supervisão humana e intervenção de máquinas é imperativo para o crescimento sustentado do Youtube.

Devido ao seu propósito onipresente, o aplicativo de tecnologia experimenta crescente popularidade em todo o mundo. Seus serviços vão desde provisão educacional e recreativa até produção de conteúdo.

Hoje, há uma pressão constante para produzir conteúdo de qualidade, independentemente de qualquer circunstância.

Assim, o Youtube está em um cabo de guerra entre continuar sua forte dependência da IA, que muitas vezes vem com brechas, ou recorrer a reduzir seu esquema de aplicação excessiva e deduzir a credibilidade da plataforma a longo prazo.