Le marquage lisible par machine désigne une information technique intégrée de manière permanente et indélébile au sein même du fichier numérique (image, vidéo, audio, texte, document) pour permettre aux outils automatisés de détecter qu’un contenu a été généré ou manipulé par une intelligence artificielle (IA). Il s’agit d’une exigence légale prévue par l’AI Act (Règlement européen sur l’IA), applicable depuis le 2 août 2026.
Objectifs du marquage
- Authenticité et traçabilité : permettre de prouver l’origine d’un contenu (ex : créé par un humain ou par une IA) même après sa diffusion.
- Détection automatisée : faciliter le travail des plateformes en ligne, des vérificateurs de faits et des autorités pour identifier les contenus synthétiques à grande échelle.
- Confiance des utilisateurs : garantir que les citoyens puissent savoir, via des outils de vérification, s’ils sont exposés à un contenu réel ou artificiel.
- Application de la loi : permettre aux autorités de contrôle de vérifier la conformité des fournisseurs et déployeurs d’IA.
Types de marquage (AI Act et normes techniques)
Métadonnées : des informations sont inscrites dans l’en-tête du fichier (ex : « créé par l’IA », « modifié par IA », « nom du fournisseur »). Ces métadonnées peuvent être lisibles par un logiciel ou une API. Elles sont souvent associées à un certificat d’origine ou un tampon numérique.
Filigrane numérique : un motif imperceptible pour l’œil humain (ex : variations subtiles de pixels) mais détectable par une machine. Le filigrane est résistant à la compression, au recadrage ou à la conversion de format.
Signature cryptographique : le contenu est signé numériquement, ce qui permet de vérifier son intégrité et son origine. Cette signature est intégrée au fichier et ne peut être falsifiée.
Hachage et empreinte numérique : un « empreinte » unique du contenu est calculée et stockée dans une base de données publique, permettant de vérifier son authenticité à posteriori.
Watermarking et tatouage numérique : insertion d’un code ou d’une information dans le contenu, visible ou invisible, qui peut être détecté par des outils spécifiques.
Consortium C2PA (Coalition for Content Provenance and Authenticity) : une norme technique développée par un consortium d’entreprises (Adobe, Microsoft, BBC, Intel, etc.) qui permet d’intégrer des informations d’origine et de provenance dans les fichiers, en utilisant une combinaison de métadonnées et de signatures cryptographiques. Cette norme est soutenue par l’UE.
Projet « Truepic » : une technologie similaire qui utilise un « certificat d’authenticité » intégré dans les fichiers, vérifié par une chaîne de blocs.
Obligations légales (AI Act)
L’AI Act impose plusieurs obligations aux fournisseurs de systèmes d’IA générative (ex : OpenAI, Google, Meta) :
- Intégration du marquage : les contenus générés ou manipulés par leurs systèmes doivent inclure des marques lisibles par machine. Ces marques doivent être « efficaces, interopérables, robustes et aussi résistantes que possible aux tentatives de contournement ».
- Mise à disposition des outils : les fournisseurs doivent mettre à disposition des déployeurs (ex : éditeurs, plateformes) des moyens techniques pour appliquer les labels visibles requis par la réglementation (ex : icônes, mentions).
- Neutralité technologique : la réglementation n’impose pas une technologie spécifique, mais exige des résultats (ex : « lisibilité par machine », « robustesse », « résistance au contournement »).
- Exigences de performances : les marquages doivent être « efficaces » (repérables par les outils), « interopérables » (compatibles entre systèmes), « robustes » (résistants à la compression, au recadrage, à la conversion) et « résistants » (aux tentatives de suppression ou de falsification).
Limites et défis
Contournement : les technologies de marquage ne sont pas infaillibles. Un acteur malveillant peut tenter de les supprimer, les altérer ou les falsifier, surtout si le contenu est redistribué hors des plateformes légitimes.
Interopérabilité : les marquages doivent être lisibles par une large gamme d’outils, y compris ceux développés par des tiers (ex : vérificateurs de faits, moteurs de recherche, plateformes de réseaux sociaux). Cela nécessite une standardisation et une acceptation par l’ensemble de l’écosystème.
Protection des données : les marquages ne doivent pas compromettre la vie privée des utilisateurs, ni collecter des données personnelles inutiles.
Coût et complexité : intégrer des marquages robustes peut nécessiter des investissements importants pour les petites entreprises, d’où la prise en compte de la proportionnalité dans l’application des sanctions.
Provenance vs. usage : un marquage prouve l’origine (créé par IA), mais pas l’usage (ex : utilisé de manière trompeuse). La réglementation doit être complétée par des règles sur l’utilisation des contenus.
Exemples concrets
- Filigrane numérique dans une image : Une photo générée par un modèle DALL-E intègre un motif invisible qui peut être détecté par un outil de vérification. L’outil affiche une mention « Contenu généré par l’IA » dans l’interface de la plateforme.
- Métadonnées C2PA dans une vidéo : Une vidéo publiée sur YouTube intègre des métadonnées C2PA indiquant la date de capture, l’appareil utilisé, et si une IA a été utilisée pour la modifier. Un navigateur ou une extension peut afficher ces informations à l’utilisateur.
- Hachage dans une base de données : Un texte généré par un grand modèle de langage est haché et son empreinte est enregistrée dans une base de données publique. Un outil de vérification peut comparer l’empreinte du texte pour confirmer son origine.
- Signature cryptographique : Une vidéo de campagne politique est signée numériquement par la source (ex : ministère) pour garantir son authenticité. Une modification de la vidéo invalide la signature, ce qui permet de détecter une tentative de désinformation.
Ce que le marquage n’est pas
- Ce n’est pas un certificat de qualité : il ne garantit pas le contenu (exactitude, impartialité, éthique), mais son origine.
- Ce n’est pas un blocage : il n’empêche pas la diffusion ou l’utilisation du contenu, mais facilite son identification.
- Ce n’est pas universel : il ne couvre pas tous les types de contenus ou tous les cas d’usage de l’IA, surtout les contenus créés en dehors de l’UE.
À retenir
Le marquage lisible par machine est un outil technique indispensable pour mettre en œuvre la transparence et la confiance dans l’écosystème de l’IA. Il permet de répondre aux obligations de l’AI Act, de lutter contre la désinformation et de protéger les droits des citoyens. Son efficacité dépend d’une collaboration étroite entre fournisseurs d’IA, plateformes, autorités de régulation et chercheurs en sécurité. Pour les organisations, il est essentiel de se conformer à ces exigences, sous peine de lourdes sanctions.
Analogie
Le marquage lisible par machine, c’est comme un filigrane invisible sur un billet de banque : il n’est pas visible à l’œil nu, mais un appareil (un détecteur de faux billets) peut le lire et confirmer que le billet est authentique. De la même manière, un contenu créé par l’IA aura un marquage invisible, que seuls les outils de vérification pourront lire et interpréter, pour confirmer que le contenu a bien été fabriqué par une machine et non par un humain. Cela permet de garantir une certaine transparence et de prévenir la désinformation, comme le filigrane permet de lutter contre la contrefaçon.