Deepfake é assim tão problemático para IA ter que lidar?

O desenvolvimento tecnológico oferece à humanidade dispositivos que simplificam a vida diária de milhões de pessoas. A cada dia a tecnologia se torna mais sofisticada. Se adapta facilmente ao ritmo ativo da vida diária. Entretanto, a tecnologia por melhor que seja pode ser facilmente manipulada usada para outros fins maldosos.

A palavra “deepfake” deriva da combinação de duas palavras, “deep learning” e “fake.” É baseada na habilidade da Inteligência Artificial de sintetizar qualquer imagem existente em qualquer imagem ou video de origem. Essa técnica de aprendizado de máquina é chamada de rede adversária generativa e pode ser usada para criar notícias falsas e trotes maliciosos.

As mídias sociais  tem um papel importante em difundir informações diariamente para as massas. A manipulação da mídia não é uma tendência nova e tem estado sempre presente. Entretanto, hoje em dia, está ficando mais fácil explorar qualquer material, até a medida que se torne irreconhecível. De uma maneira, a Inteligência Artificial poderá fazer coisas piores concentrando mais dados e poder nas mãos de coorporação priavadas.

Embora a tecnologia para criar versões digitais de pessoas reais ainda não seja perfeita, é muito boa. O software para criar este tipo de fraudes digitais não exija produção de nível Hollywood e esteja bem disponível.

As Deepfakes são regulamentadas?

A disponibilidade de deepfakes cria novos problemas que é bem improvável que seja fixados somente pela tecnologia. Mídia e verdade nunca estiveram em termos estáveis ​​e amigáveis. Deturpação e transmissão seletiva são as abordagens favoritas das mídias sociais para desinformação maciça.

Hoje, os deepfakes levaram a manipulação ainda mais longe, permitindo que as pessoas manipulem vídeos e imagens usando o aprendizado de máquina, com resultados quase impossíveis de detectar com o olho humano.

Para combater este problema, o Facebook anunciou que estava digulgando um conjunto de dados para permitir que as pessoas testem novos modelos programados para detectar deepfakes. Há também startups como TruePic. que usa Inteligência Artificial e a tecnologia blockchain pata detector fotos manipuladas.

No nível governamental , recentemente, a Agência de Defesa de Projetos de Pesquisa Avançada (DARPA, na sigla em inglês) dos EUA investiu em Mídia Forense. O Sistema busca diferenças em pixels de vídeos para detectar qualquer tipo de manipulação.

Há alguma necessidade de regulamentações para Deepfake?

De uma maneira ameaçadora, deepfakes impõe um desafio para a segurança privada e nacional, o principal problema com deepfakes não é a coleta de dados mas a regulamentação. Não há regulamentação na internet quando se trata de coleta de informação. Entretanto, isto é muito importante, se a lei de deepfake já existir, elas precisam desafiar a liberdade de expressão. Paródias políticas e comentários satíricos geralmente usam vídeos falsos para destacar seu ponto de vista irônico. Eles também ajudam a anonimizar pessoas que precisam de proteção de identidade.

Há uma linha tenue entre regulamentação e restrição. Deepfakes não poderá ser resolvido apenas através de cortes e algum tipo de intervenção legal é inevitável. Entretanto, as restrições governamentais nas informações pública podem causar um sério problema. A tecnologia de Deepfakes não vai desaparecer. Se desenvolverá. Assim, precisará de alguma solução governamental e técnica baseada em compromisso.