Aller au contenu principal
Zubnet AI › Apprendre › Wiki › Provenance des contenus
Sécurité

Provenance des contenus

Aussi appelé : Content Provenance, C2PA, Content Credentials
Des informations vérifiables sur l'origine d'un média et sur la façon dont il a été modifié, y compris s'il a été généré par une IA, le plus souvent grâce à la norme C2PA.

Pourquoi c'est important

Les modèles génératifs peuvent désormais produire à bas coût des images photoréalistes, des vidéos convaincantes et des voix clonées. Essayer de détecter les faux après coup est une course perdue d'avance, car les détecteurs sont peu fiables et prennent un peu plus de retard à chaque génération de modèles.

La provenance retourne le problème. Au lieu de chercher à prouver que quelque chose est faux, elle permet aux sources honnêtes de prouver ce qui est vrai, et aux outils d'IA d'étiqueter ce qu'ils génèrent. Cela ne peut pas arrêter la tromperie à lui seul, mais cela donne aux journalistes, aux plateformes et au grand public un signal qu'ils peuvent vérifier.

En profondeur

La provenance des contenus consiste à attacher à une photo, une vidéo, un extrait audio ou un document des informations fiables sur son origine et son historique : quel appareil photo ou quel modèle d'IA l'a produit, qui l'a publié, quelles modifications ont été appliquées. On la compare souvent à une étiquette nutritionnelle pour les médias.

La norme de référence est C2PA, de la Coalition for Content Provenance and Authenticity, fondée en 2021 par Adobe, Arm, la BBC, Intel, Microsoft et Truepic. Google, OpenAI, Meta, Amazon et Sony l'ont rejointe plus tard. Son nom grand public est Content Credentials, signalé par une petite icône « CR » sur laquelle on peut cliquer pour consulter l'historique d'un fichier.

Comment fonctionne C2PA

Quand un appareil photo, une application de retouche ou un générateur d'IA crée ou modifie un fichier, il écrit un manifeste : un ensemble de déclarations comme « capturé par ce modèle d'appareil », « généré par ce modèle d'IA » ou « recadré et couleurs ajustées ». Le manifeste est lié au contenu par une empreinte cryptographique (hash) et signé numériquement avec le certificat de l'outil, la même famille de technologies qui sécurise les sites web.

Chaque outil de la chaîne ajoute son propre manifeste signé, si bien que le fichier accumule un historique. Un vérificateur peut confirmer que les manifestes sont intacts, que les signataires figurent sur une liste de confiance et que le contenu n'a pas changé depuis la signature. Toute altération casse la signature.

Adoption

  • Générateurs d'IA : OpenAI attache des Content Credentials aux images de DALL-E et de ses modèles d'image ultérieurs, ainsi qu'aux vidéos Sora. Adobe Firefly, les outils d'image de Microsoft et les modèles de Google font de même dans de nombreux produits.
  • Appareils photo et téléphones : Leica a commercialisé en 2023 le premier appareil avec Content Credentials intégrés, suivi par des modèles Sony, Nikon et Canon destinés aux photojournalistes. Les téléphones Pixel 10 de Google signent chaque photo prise avec l'application appareil photo.
  • Plateformes : LinkedIn, TikTok, YouTube et les applications de Meta lisent les données C2PA pour étiqueter les médias générés par IA ou capturés par un appareil, avec une couverture inégale.

Les limites

  • Les métadonnées s'enlèvent facilement. Une capture d'écran, un réencodage ou un envoi sur une plateforme qui supprime les métadonnées efface le manifeste. C'est la plus grande faiblesse de la norme.
  • L'absence ne prouve rien. La plupart des médias n'ont pas de Content Credentials, donc une étiquette manquante ne signifie pas que quelque chose est faux. Les acteurs malveillants utilisent simplement des outils qui n'étiquettent pas.
  • La provenance n'est pas la vérité. Des Content Credentials disent d'où vient un fichier, pas si ce qu'il montre est exact. Une photo authentique et signée peut tout de même être mise en scène ou légendée de façon trompeuse.
  • La confiance dans les signataires. Le système ne vaut que ce que valent la sécurité des clés de signature et la liste des détenteurs de certificats de confiance.
  • La vie privée. Les informations d'identité sont facultatives par conception, car une identification obligatoire pourrait mettre en danger des photographes et des lanceurs d'alerte.

Provenance, filigranes et empreintes

Trois techniques se complètent :

  • Les métadonnées signées (C2PA) sont détaillées et vérifiables, mais faciles à retirer.
  • Les filigranes invisibles, comme SynthID de Google, sont intégrés dans les pixels ou dans l'audio eux-mêmes. Ils survivent à de nombreuses modifications, mais portent peu d'information et peuvent être dégradés par un attaquant déterminé.
  • Le fingerprinting (empreinte de contenu) stocke une signature du contenu dans une base de données, pour qu'un fichier dépouillé de ses métadonnées puisse être rattaché à son enregistrement.

Les versions récentes de C2PA les combinent sous le nom de « durable credentials » : si les métadonnées sont retirées, un filigrane ou une empreinte permet de retrouver le manifeste d'origine.

Réglementation

La loi commence à l'exiger. L'article 50 de l'AI Act européen, applicable à partir d'août 2026, oblige les fournisseurs à marquer les contenus générés par IA dans un format lisible par machine et impose de signaler les deepfakes. Les systèmes déjà sur le marché ont jusqu'au 2 décembre 2026 pour marquer leurs contenus. L'AI Transparency Act de Californie oblige les grands fournisseurs d'IA générative à intégrer des données de provenance et à proposer des outils de détection, et les règles chinoises d'étiquetage des contenus générés par IA sont entrées en vigueur en septembre 2025.

← Tous les termes
ESC