IA do Google é acusada de racismo e sexismo

O Google enfrentou várias acusações sobre a ética da Inteligência Artificial (IA) ao longo dos anos. Outra reviravolta na história foi a decisão da empresa de demitir Margaret Mitchell, que até recentemente era a fundadora e ex-colíder da equipe de ética em IA do Google. Há dois meses, a gigante da tecnologia também demitiu sua outra colíder, Timnit Gebru, que é conhecida por seu trabalho em expor preconceitos em sistemas de reconhecimento facial.

Parece que o Google está tentando acabar com a controvérsia sobre sua equipe ética de inteligência artificial, mas a empresa não teve nenhum sucesso até agora. Eles explicaram anteriormente que a demissão de Gebru foi cousada por dois motivos: em primeiro lugar, ela enviou um e-mail interno criticando a empresa por censura e seus esforços de diversidade; em segundo lugar, ela também se opôs a ordem do Google de retirar um artigo de pesquisa sobre os riscos ambientais e éticos dos grandes modelos de linguagem artificial e viés codificado, bem como os perigos da inovação irrestrita de IA.

De acordo com o Google, eles demitiram Mitchell por criticar publicamente a empresa pela demissão de Gebru. Eles acrescentaram que ela estava procurando correspondência relacionada com a remoção de Gebru, que não era para o conhecimento público.

Por outra parte, o problema quanto à IA é mais significativo do que parece. Na década de 2010, a cientista política americana, Virginia Eubanks, pesquisou como programas de computador equipados com IA influenciaram comunidades pobres em lugares como Los Angeles e Pittsburgh, obtendo resultados chocantes.

Assim, a cientista descobriu que sistemas públicos e privados habilitados para IA, ligados à saúde, policiamento e benefícios, estavam tomando decisões muito prejudiciais com base em dados falhos e preconceitos de gênero e etnias.

Além disso, os sistemas de IA são quase impenetráveis, o que os torna extremamente difíceis de monitorar. É virtualmente impossível desafiar esses sistemas quando as decisões estão erradas. Segundo Eubanks, as pessoas que se tornaram vítimas dessas estratégias punitivas de gestão da pobreza não puderam se defender.

IA pode prejudicar o rumo de grandes empresas de tecnologia

Grandes empresas de tecnologia como Google e Amazon  já enfrentaram inúmeras acusações sobre racismo e sexismo. A especialista em tecnologia, Timnit Gebru, tem feito campanhas contra preconceitos de gênero e raciais através do grupo multi-institucional da indústria, Black in AI.

Além disso, o Google e outras empresas não estão apenas criando plataformas de IA cada vez maiores, mas incorporando-as mais profundamente em nossas vidas. Algumas ferramentas que o artigo de Gebru menciona são um componente-chave dos processos de pesquisa do Google.

Embora esses sistemas de IA muitas vezes ofereçam extraordinária conveniência e eficiência, eles operam escaneando quantidades inimaginavelmente vastas de dados sobre a atividade humana e a fala, buscando padrões e correlações. Esses algoritmos podem ser muito prejudiciais se forem escritos de tal forma a expulsar certas raças ou gêneros dos resultados da pesquisa.