Facebook a développé une IA capable de détecter les deepfakes, mais surtout de remonter à leur source pour en trouver l’auteur. 

Des deepfakes, vous en avez peut-être croisé à plusieurs reprises sur les réseaux sociaux. Si certains peuvent s’avérer amusantes, la pratique peut être extrêmement dangereuse, elle peut favoriser la propagation des fake news.  En 2018, l’acteur américain Jordan Peele réalisait une vidéo d’alerte. Dans le film, on voyait Barack Obama insulter le président Donald Trump. Les propos étaient en fait ceux de Jordan Peele, plaqués sur le visage de Barack Obama. Autres deepfakes célèbres, celui du compte TikTok Deep TomCruise. Les deepfakes truquent les fichiers vidéo et audio, en calquant un “visage source” sur un autre. La pratique a commencé avec la pornographie. 

Le 16 juin dernier, Facebook a indiqué s’être associé à la Michigan State University. De leur collaboration est née une intelligence artificielle capable de détecter les deepfakes, mais aussi de remonter à leur source et savoir qui les a créés. 

Remonter aux sources des deepfakes 

Plusieurs solutions avaient déjà été mises au point. Mais l’IA n’était capable que de repérer les deepfakes conçus à partir de modèles qu’elle connaissait déjà. Facebook a cette fois utilisé la rétro-ingénierie. Cela consiste à étudier un système afin de déterminer son fonctionnement interne. L’IA va déconstruire l’image pour repérer les imperfections ajoutées au montage. 

Les chercheurs ont mis au point un réseau d’estimation qui s’appuie sur les mêmes propriétés qu’une empreinte digitale ; sont recherchées par exemple la magnitude ou la nature répétitive. Une fois que l’empreinte digitale du fichier a été découverte, le second modèle développé par Facebook va l’analyser pour prédire les “hyperparamètres” du générateur de deepfakes : son architecture, le nombre de couches, le type d’opérations effectuées à chaque couche, etc. L’IA pourra ensuite chercher les similitudes avec d’autres deepfakes et remonter à leur source. Le but est ensuite de pouvoir retrouver l’auteur de ces deepfakes. Pour le moment le projet n’est qu’à ses débuts mais il s’avère très prometteur.