Que sont les justificatifs de contenu et les filigranes d’IA?

Depuis le début de février, chaque image que vous créez avec DALL·E 3 dans ChatGPT sur le Web, ou par l’API d’OpenAI, contient un petit enregistrement supplémentaire à l’intérieur du fichier. OpenAI dit que les utilisateurs mobiles auront la même chose d’ici le 12 février. Cet enregistrement est un justificatif de contenu (Content Credentials), et il dit en substance : « cette image a été générée par DALL·E 3, et elle est passée par ChatGPT ». C’est l’une des deux principales approches que l’industrie essaie pour étiqueter les images d’IA. L’autre est le filigrane invisible, que Google DeepMind utilise pour son propre modèle d’images.

Les deux fonctionnent de façon très différente, et cette différence explique à la fois ce à quoi ils servent et comment ils échouent.

Les justificatifs de contenu : une étiquette signée dans le fichier

C2PA est le sigle de la Coalition for Content Provenance and Authenticity (coalition pour la provenance et l’authenticité des contenus). C’est un groupe fondé par Adobe, Arm, Intel, Microsoft et Truepic qui rédige une norme technique ouverte pour consigner la provenance des médias, c’est-à-dire leur origine et l’historique des modifications qu’on leur a apportées. Il réunit deux efforts antérieurs : la Content Authenticity Initiative d’Adobe et le Project Origin, mené par Microsoft et la BBC.

L’idée ressemble à un sceau d’inviolabilité. Quand un outil crée ou modifie un fichier, il ajoute un « manifeste », un bloc de métadonnées (des données sur les données) qui décrit ce qui s’est passé, et le signe numériquement pour que les modifications ultérieures puissent être détectées. La norme ne vise pas seulement l’IA : des fabricants d’appareils photo et des médias d’information l’adoptent pour montrer qu’une photo vient vraiment d’un appareil ou d’une salle de rédaction en particulier.

La version d’OpenAI ajoute deux couches. Les images faites par l’API portent un manifeste qui montre que le modèle DALL·E 3 les a produites. Les images faites dans ChatGPT reçoivent un second manifeste par-dessus, qui indique que ChatGPT était l’application en cause. Le coût est minime : OpenAI donne des exemples à titre indicatif où un PNG passe de 3,1 Mo à 3,2 Mo.

Les filigranes invisibles : un signal dans les pixels

Un filigrane traditionnel est un logo ou une ligne de texte visible, facile à rogner. SynthID, de Google DeepMind, lancé en version bêta en août dernier pour les clients de Google Cloud qui utilisent le modèle Imagen, prend une autre voie. Il modifie les pixels eux-mêmes selon un motif que les gens ne peuvent pas voir, mais qu’un détecteur correspondant peut repérer. Deux modèles d’IA sont entraînés ensemble, l’un pour intégrer la marque et l’autre pour la trouver, et le détecteur indique l’un de trois niveaux de confiance.

DeepMind a conçu la marque pour qu’elle résiste aux modifications courantes comme les filtres, les changements de couleur ou de luminosité et la compression JPEG, et elle dit clairement que le système n’est pas infaillible face à des manipulations extrêmes. Comme le signal se trouve dans l’image plutôt qu’à côté, il peut survivre quand les métadonnées sont perdues. C’est pourquoi DeepMind présente le filigrane comme un complément aux métadonnées, pas comme un remplacement.

Une vérification que vous pouvez faire

Voici une courte expérience avec une image de DALL·E 3.

1. Dans ChatGPT, générez n’importe quelle image et téléchargez-la directement sur votre ordinateur.
2. Ouvrez un visualiseur C2PA comme Content Credentials Verify, vers lequel OpenAI renvoie, et téléversez le fichier. Vous devriez voir un justificatif qui indique que l’image vient des outils d’OpenAI, avec l’historique en deux parties décrit plus haut.
3. Ouvrez maintenant la même image à l’écran et faites-en une capture d’écran. Téléversez la capture dans le visualiseur.
4. Comparez. La capture d’écran n’affichera fort probablement aucun justificatif, même s’il s’agit exactement de la même image.

Pouvez-vous vous y fier pour distinguer le vrai du faux?

Servez-vous-en comme preuve qu’un contenu est fait par l’IA quand ils sont présents, jamais comme preuve qu’un contenu est réel quand ils sont absents. OpenAI est directe à ce sujet : les métadonnées peuvent être retirées par accident ou exprès, la plupart des plateformes de réseaux sociaux les suppriment des images téléversées, et une capture d’écran les retire aussi. Ainsi, selon les mots d’OpenAI, une image sans l’étiquette « peut ou non » provenir de ses outils.

Il y a d’autres lacunes. Seuls certains générateurs ajoutent des justificatifs ou des filigranes, et les modèles d’images à code source ouvert qui tournent sur l’ordinateur d’une personne n’ajoutent rien, à moins que l’utilisateur ne le choisisse. Les filigranes ne peuvent être vérifiés que par l’entreprise qui détient le détecteur. Et un justificatif confirme l’historique d’un fichier, pas la véracité de la scène qu’il montre; une vraie photo peut toujours être accompagnée d’une légende trompeuse.

Ce que ces étiquettes font bien, c’est bâtir un signal positif avec le temps. À mesure que plus d’appareils photo, d’outils de retouche et de salles de rédaction signeront leurs fichiers, un historique vérifié aura plus de poids, et son absence sera une raison de regarder de plus près. D’ici là, traitez-les comme un indice parmi d’autres, à côté des vérifications habituelles : qui a publié l’image, si des sources fiables montrent la même chose, et si les détails se tiennent.