Deepfake

Un deepfake est une image, une vidéo ou un enregistrement audio qui a été généré ou manipulé de manière significative à l’aide d’un logiciel basé sur l’intelligence artificielle (notamment des réseaux antagonistes génératifs, ou GAN) pour créer l’illusion qu’une personne réelle a dit ou fait quelque chose qu’elle n’a pas réellement dit ou fait, ou pour simuler une scène, un événement ou un lieu qui n’existe pas.

Techniques et outils

Les deepfakes sont créés grâce à des algorithmes d’apprentissage profond (deep learning) qui analysent de grandes quantités de données (images, vidéos, enregistrements audio) d’une personne cible pour en apprendre les caractéristiques (visage, voix, gestes, intonations) et les reproduire de manière convaincante.

Exemples d’outils :

• Adobe Morpheus (expérimental) : un outil développé par Adobe qui permet de modifier des expressions faciales ou des mouvements de tête dans une vidéo existante, en utilisant une seule photo de référence.
• Deepswap : une application de deepfake accessible en ligne, qui permet de remplacer un visage dans une vidéo ou une image.
• Reface : une application mobile populaire qui permet d’échanger son visage avec celui d’une célébrité ou d’un personnage dans des vidéos courtes, des GIFs ou des images.
• D-ID : une plateforme qui permet de créer des vidéos avec des visages animés à partir d’une seule photo, pour des usages professionnels.
• FakeApp : un logiciel open-source qui a popularisé la création de deepfakes grand public.
• Voice cloning (ElevenLabs, Respeecher, etc.) : des outils de synthèse vocale qui imitent une voix à partir de quelques minutes d’enregistrement.

Usages et enjeux

• Désinformation et manipulation politique : un deepfake peut montrer un dirigeant politique en train de faire une déclaration incendiaire, de contracter un accord secret, ou de commettre un acte répréhensible, afin de nuire à sa réputation, de manipuler l’opinion publique ou d’influencer des élections.
• Fraude et usurpation d’identité : les deepfakes peuvent être utilisés pour usurper l’identité d’une personne, par exemple en imitant sa voix au téléphone pour autoriser un virement frauduleux, ou en simulant une vidéo pour accéder à des services sécurisés (authentification biométrique).
• Chantage et harcèlement : les deepfakes sont utilisés pour créer du contenu pornographique ou diffamatoire mettant en scène des personnes sans leur consentement, souvent dans le but de faire chanter ou de nuire à la réputation des victimes.
• Divertissement et satire : des usages légitimes incluent la création de parodies, de mèmes, de contenus humoristiques, ou d’effets spéciaux dans le cinéma et le jeu vidéo.
• Art et expression créative : des artistes utilisent les deepfakes pour explorer les limites de la représentation, du réalisme et de l’identité numérique.

Cadre juridique (AI Act)

L’AI Act impose des obligations de transparence strictes pour les deepfakes, notamment :

• Étiquetage visible : les deepfakes doivent être clairement signalés comme « contenu généré ou manipulé par l’IA » lorsqu’ils sont diffusés au public. L’étiquetage peut prendre la forme d’un icône, d’une mention textuelle, d’un bandeau ou d’une surimpression visible, dès le début du contenu.
• Marquage lisible par machine : les fichiers doivent intégrer des métadonnées, des filigranes numériques ou des signatures cryptographiques permettant aux outils de vérification (ex : plateformes, vérificateurs de faits, autorités) de détecter automatiquement leur origine artificielle.
• Exception pour les contenus manifestement artistiques ou satiriques : l’étiquetage n’est pas requis si l’utilisation de l’IA est évidente au vu du contexte (ex : une œuvre explicitement présentée comme une création numérique, un film d’animation, un jeu vidéo). Cependant, même dans ces cas, la transparence sur l’utilisation de l’IA est recommandée.
• Interdiction des usages abusifs : l’AI Act interdit les pratiques d’IA qui manipulent le comportement humain de manière subliminale ou trompeuse, ce qui inclut les deepfakes utilisés pour tromper intentionnellement le public (ex : diffusion d’une fausse déclaration politique à grande échelle).

Détection et lutte contre les deepfakes

• Outils de détection technique : des solutions comme Microsoft Video Authenticator, Intel FakeCatcher, ou des startups spécialisées (ex : Reality Defender, Sensity) utilisent des modèles d’IA pour analyser les anomalies de pixels, les incohérences temporelles, les battements de cœur ou les reflets d’yeux afin de détecter les deepfakes.
• Filigrane et provenance : des initiatives comme la Coalition for Content Provenance and Authenticity (C2PA) (Adobe, Microsoft, BBC, etc.) développent des normes pour intégrer un « certificat d’origine » dans les fichiers, permettant de tracer leur création et leurs modifications.
• Législation et régulation : l’AI Act et les lois nationales (ex : loi contre les deepfakes en Californie, loi contre la manipulation des images en France) imposent des sanctions pour les usages malveillants, allant de l’amende à l’emprisonnement.
• Sensibilisation du public : des campagnes d’éducation aux médias apprennent aux citoyens à repérer les indices de manipulation (ex : mouvements des lèvres non synchrones, clignements d’yeux anormaux, éclairage incohérent).

Sanctions en cas de non-respect

• Amendes : jusqu’à 15 millions d’euros (ou 3 % du chiffre d’affaires annuel mondial) pour les fournisseurs ou déployeurs d’IA qui ne respectent pas les obligations de transparence.
• Injonctions : retrait du contenu, restriction d’accès, mise en conformité.
• Sanctions pénales : les deepfakes malveillants peuvent être poursuivis au titre de la diffamation, de l’usurpation d’identité, du harcèlement, de l’escroquerie ou de la contrefaçon.

Conseils pratiques pour les citoyens

• Ne pas partager sans vérifier : avant de partager une vidéo ou une photo choquante, vérifier la source, croiser les informations, ou utiliser un outil de détection de deepfake (ex : vérificateur en ligne).
• Être attentif aux étiquettes : rechercher les icônes ou mentions « IA » sur les contenus diffusés.
• Signaler les contenus suspects : aux plateformes (via leur fonction de signalement) ou aux autorités (ex : CNIL, services de lutte contre la désinformation).
• Protéger son image : limiter la diffusion de ses photos et vidéos sur les réseaux sociaux, ne pas publier d’enregistrements vocaux publics, utiliser des paramètres de confidentialité stricts.
• Se former à la vérification : apprendre à repérer les incohérences visuelles ou sonores, les reflets d’yeux, les mouvements de lèvres, l’éclairage, etc.

Conseils pratiques pour les organisations

• Former les équipes : sensibiliser les salariés aux risques des deepfakes (hameçonnage vocal, usurpation d’identité du dirigeant).
• Mettre en place des procédures de vérification : pour les demandes sensibles (virements, accès aux données), utiliser des canaux de vérification multiples.
• Signaler les contenus : aux plateformes ou aux autorités compétentes.
• Documenter sa conformité : pour les créateurs de contenus, intégrer l’étiquetage et le marquage dès la conception.

Ce que le deepfake n’est pas

• Ce n’est pas une technologie en soi : c’est un usage particulier de l’IA, qui peut être légitime dans un cadre artistique, éducatif ou de divertissement.
• Ce n’est pas toujours trompeur : un deepfake peut être évident pour le public (ex : effet spécial) ou utiliser l’IA pour une création manifeste.
• Ce n’est pas un phénomène récent : les techniques de manipulation d’images existent depuis longtemps (photomontage, trucage), mais l’IA a démocratisé et amplifié leur capacité de tromperie.
• Ce n’est pas irréversible : les outils de détection et les régulations progressent pour limiter les usages abusifs.

Analogie

Un deepfake, c’est comme un faux tableau ou un faux document historique : il est réalisé avec une technique qui imite parfaitement le style, les matériaux et les signatures de l’original, au point que même un expert peut hésiter. La différence, c’est que dans le monde numérique, la « peinture » est devenue accessible à tous grâce à l’IA. Un deepfake peut faire dire n’importe quoi à une personnalité politique, faire chanter un individu, ou créer des souvenirs collectifs fictifs. C’est un outil qui peut être utilisé pour le bien (effets spéciaux, satire, art) ou pour le mal (désinformation, fraude, harcèlement). D’où l’importance des étiquettes et des marquages, qui agissent comme un « sceau d’authenticité » pour rétablir la confiance dans le contenu visuel et audio.

À retenir

Le deepfake est une technologie puissante et ambivalente qui illustre les défis de l’ère de l’IA générative. Il montre à quel point il est devenu facile de tromper l’œil et l’oreille, mais aussi à quel point la régulation et la transparence sont essentielles pour préserver la confiance dans l’information. L’AI Act, avec ses obligations d’étiquetage et de marquage, est une première réponse majeure, mais la lutte contre les deepfakes malveillants nécessite une approche combinée : technique (détection, filigrane), juridique (sanctions, obligations) et éducative (sensibilisation du public).