Deepfake est-il trop problématique pour l’IA ?

Le développement technologique offre à l’humanité des gadgets qui simplifient la vie de millions de personnes.  La technologie devient, chaque jour, de plus en plus sophistiquée. Elle s’adapte facilement au rythme de la vie quotidienne. Cependant, une technologie aussi efficace peut être facilement manipulée et utilisée à d’autres fins malveillantes.

Le mot « deepfake » vient de la combinaison de deux mots anglais, « deep learning» et « fake». C’est basé sur la capacité de l’Intelligence Artificielle à synthétiser une image existante sur une image source ou une vidéo. Cette technique d’apprentissage automatique s’appelle réseaux antagonistes génératifs. Elle peut être utilisée pour créer de fausses nouvelles et des canulars malveillants.

Les médias sociaux jouent un rôle important dans la diffusion des informations quotidiennes au grand public. La manipulation des médias n’est pas une nouvelle tendance et a toujours été présente Toutefois, de nos jours, il est de plus en plus facile d’exploiter tout matériel dans la mesure où il est méconnaissable. D’une certaine façon, l’Intelligence artificielle pourrait aggraver la situation en concentrant plus de données et de puissance entre les mains d’entreprises privées.

La technologie permettant de créer des versions numériques de personnes réelles n’est pas encore parfaite, mais elle est plutôt bonne.  Le logiciel pour créer ce type de fraude numérique ne nécessite pas de production de niveau hollywoodien et est tout à fait disponible.

Les Deepfakes sont-ils règlementés ?

La disponibilité de deepfakes crée de nouveaux problèmes que la technologie seule ne pourra probablement pas résoudre. Les médias et la vérité n’ont jamais été en très bons termes. La fausse représentation et la diffusion sélective sont les approches préférées des médias sociaux en matière de désinformation massive.

Aujourd’hui, les deepfakes ont poussé la manipulation encore plus loin en permettant aux gens de manipuler des vidéos et des images à l’aide d’un apprentissage automatique, avec des résultats presque impossibles à détecter à l’œil humain.

Pour lutter contre ce problème, Facebook a annoncé la publication d’un jeu de données permettant aux utilisateurs de tester de nouveaux modèles programmés pour détecter les deepfakes.  Il existe également des startups comme TruePic. Ils utilisent l’intelligence artificielle et la technologie blockchain pour détecter les photos manipulées.

Au niveau gouvernemental, la DARPA (Agence américaine de recherche avancée dans le secteur de la défense) a récemment investi dans Media Forensics. Le système examine les différences de pixels vidéo pour détecter tout type de manipulation.

Une règlementation des Deepfakes est-elle nécessaire ?

Deepfakes pose un défi qui menace grandement la vie privée et la sécurité nationale – le principal problème des deepfakes n’est pas la collecte de données, mais la réglementation. Internet ne règlemente pas la collecte d’informations. Cependant, et c’est très important, si de telles lois existent un jour, elles devront sans aucun doute tenir compte de la liberté d’expression.

Les parodies politiques et les commentaires satiriques utilisent généralement de fausses vidéos pour souligner leur point de vue ironique.  Ils aident également à donner l’anonymat aux personnes qui ont besoin de protéger leur identité.

La distinction entre règlementation et restriction est mince. Les deepfakes ne peuvent pas être résolus que devant un tribunal et une intervention juridique est inévitable. Cependant, les restrictions imposées par le gouvernement sur l’information publique peuvent provoquer de graves problèmes. La technologie de Deepfakes ne disparaîtra pas.  Elle se développera. Il va donc falloir trouver une solution technique et gouvernementale basée sur un compromis.