Google SynthID : le filigrane anti-IA qui ne résout pas la désinformation

L’IA CRÉE PLUS EN 18 MOIS QUE L’HUMANITÉ EN 150 ANS

Imaginez : il a fallu 149 ans, entre 1826 et 1975, pour que l’humanité produise 1,5 milliard de photos. Starling Lab, un laboratoire commun à l’université Stanford et à l’université de Californie du Sud, a calculé ce chiffre. Aujourd’hui, une seule technologie, l’intelligence artificielle générative, en crée autant… en seulement 18 mois. Et ce n’est pas tout : au printemps 2024, Google a annoncé lors de sa conférence I/O avoir généré plus de 100 milliards d’images et de vidéos par IA en quelques années seulement. Un chiffre astronomique qui donne le vertige.

SYNTHID : LE FILIGRANE INVISIBLE QUI VEUT SAUVER LA VÉRITÉ

Face à cette explosion de contenus synthétiques, Google a développé SynthID, un filigrane invisible intégré directement dans les pixels des images ou dans les ondes des vidéos. L’idée ? Permettre à chacun de vérifier si une photo ou une vidéo a été générée ou modifiée par une IA. Google ne se contente pas de ce système : il utilise aussi C2PA, un autre outil qui ajoute des métadonnées cryptées pour tracer l’origine des fichiers. Mais C2PA est fragile : un simple recadrage ou une capture d’écran peut le faire disparaître.

SynthID, lui, résiste mieux. Contrairement aux métadonnées classiques, il est encodé dans les pixels mêmes de l’image. Même après des centaines de partages, de compressions ou de modifications, il devrait rester détectable. Du moins, c’est ce qu’affirme Google.

UN TEST EXTRÊME POUR VÉRIFIER LA ROBUSTESSE DE SYNTHID

Pour tester cette résistance, un journaliste a créé un script Python utilisant la bibliothèque Pillow afin de simuler la dégradation d’images lors de leur partage répété sur Internet. Le principe ? Appliquer aléatoirement des compressions et des recadrages à une image, puis recommencer ce processus des centaines de fois. Deux types d’images ont été testés : une image entièrement générée par IA et une photo réelle modifiée par IA. Les deux contenaient le filigrane SynthID.

Résultat après 300 itérations de compression :

Le filigrane a survécu à toutes ces épreuves. Pour le vérifier, il suffit d’uploader l’image sur Gemini et de demander une analyse SynthID. Même une capture d’écran conserve le filigrane, car les pixels spéciaux sont transférés dans le nouveau fichier.

LES LIMITES DE SYNTHID : LE RECADRAGE, CE FLEAU

SynthID est conçu pour résister aux modifications, mais il a ses faiblesses. Après 300 cycles de compression, un recadrage de seulement 20 % sur les bords de l’image suffit à rendre le filigrane indétectable. Un recadrage plus important, de 50 %, peut briser SynthID dès 250 itérations. Les images deviennent alors floues, inutilisables… mais plus personne ne peut prouver qu’elles sont artificielles.

Ces images déformées ne laissent aucune trace prouvant leur origine. Adam Rose, chercheur senior chez Starling Lab, résume la situation : « Le vrai problème ne vient pas seulement des images produites par Google ou OpenAI. Le vrai problème, ce sont les personnes qui exécutent leurs propres modèles sur leurs ordinateurs, sans aucun filigrane. »

SYNTHID N’EST PAS INVULNÉRABLE : LA COURSE AUX ARMES

Google admet que SynthID n’est pas infaillible. Le papier scientifique original précise que le filigrane n’est pas conçu pour résister à des attaques ciblées. Il est donc plausible que quelqu’un, avec suffisamment de temps et de motivation, parvienne à le contourner. Certains affirment déjà avoir piraté SynthID, mais Google n’a pas pu reproduire ces résultats. Pour l’instant, le filigrane tient bon… mais pour combien de temps ?

Si SynthID est contourné, des milliards d’images et de vidéos pourraient se retrouver sans étiquette du jour au lendemain. Google se retrouverait alors dans une course sans fin pour mettre à jour son système et bloquer les nouvelles attaques. Le géant de Mountain View insiste : SynthID n’est pas une solution miracle. Pourtant, il devient une cible de plus en plus importante. Entre Google et OpenAI, la majorité des acteurs de l’IA grand public utilisent désormais cette technologie.

UNE SÉCURITÉ QUI SE PAIE AU PRIX DE LA CONFIDENTIALITÉ

Pour limiter les risques de piratage, Google a volontairement restreint l’accès à SynthID. Impossible d’utiliser une API ou une page web publique pour vérifier un filigrane. Si vous suspectez une image d’être générée par IA, vous devez passer par Gemini, qui lancera le vérificateur. Google limite aussi le nombre de vérifications à environ 10 par jour. En pratique, si vous uploadez trop d’images similaires, le système vous bloque encore plus vite. Une contrainte problématique à l’heure où les politiciens utilisent allègrement l’IA pour diffamer leurs adversaires.

Et ce n’est pas tout : les filigranes sont fragmentés. OpenAI et Google utilisent tous deux SynthID, mais leurs détecteurs ne se reconnaissent pas mutuellement. Résultat ? Une image générée par OpenAI ne sera pas détectée par le vérificateur de Google, et vice versa. Pour couronner le tout, Google reconnaît que l’expérience utilisateur est sous-optimale et promet des améliorations… sans donner de date précise.

C2PA : LA MÉTADONNÉE QUI POURRAIT CHANGER LA DONNE

Si SynthID a ses limites, une autre technologie pourrait offrir une meilleure solution : C2PA. Contrairement aux filigranes invisibles, C2PA est une métadonnée cryptographique qui agit comme un sceau numérique infalsifiable. Elle permet de prouver l’authenticité d’un contenu réel, bien plus rare que les contenus synthétiques. Le problème ? C2PA est encore très peu répandu. Peu de téléphones ou d’appareils photo l’intègrent, et la plupart des sites web ou applications ne l’exposent pas dans les images.

Google est en avance sur ce point : ses téléphones Pixel sont les seuls appareils grand public à intégrer profondément C2PA. Les photos et vidéos capturées avec un Pixel 10 contiennent des métadonnées protégées par cryptographie, indiquant quand et comment l’image a été prise, ainsi que toute modification par IA. Dans le futur, nous pourrions être obligés de considérer comme suspect tout contenu dépourvu de données de provenance vérifiables.

LA DÉSINFORMATION N’EST PAS LE SEUL PROBLÈME : L’ABONDANCE DE CONTENUS

L’échelle de la production de contenus par IA est vertigineuse. Les 100 milliards d’images et vidéos étiquetées par SynthID ne représentent qu’une infime partie de l’iceberg. Google lui-même admet que les contenus authentiques sont déjà dépassés en volume. Mike Caronna, photojournaliste et chercheur à Starling Lab, explique : « Il y a une limite à la quantité de contenus que l’on peut créer avec de vrais appareils photo. Mais il n’y a aucune limite à la quantité de contenus synthétiques. C’est pourquoi nous devons nous concentrer sur ce qui est rare : les informations de haute valeur et vérifiables. »

LE « DIVIDENDE DU MENTEUR » : QUAND L’IA DEVIENT UNE ARME DE DIFFAMATION

Ce terme, peu connu mais terrifiant, désigne une stratégie rhétorique : face à une preuve accablante, un individu affirme que les faits sont manipulés par l’IA ou crie simplement « fake news ». Avec l’essor des contenus synthétiques, cette tactique pourrait devenir encore plus efficace. Imaginez un politique confronté à une vidéo compromettante : au lieu de nier les faits, il pourrait simplement dire « C’est du deepfake . ». L’IA devient alors un bouclier contre la vérité.

Dans ce contexte, les filigranes comme SynthID ou les métadonnées comme C2PA ne suffiront pas. Ils ne permettront jamais d’étiqueter tous les contenus générés par IA, car des milliers de modèles open source circulent librement. Même si les géants de la tech adoptent des systèmes de labellisation, des acteurs indépendants continueront de produire des contenus non étiquetés.

POURQUOI LES FILIGRANES NE SUFFIRONT JAMAIS ?

Il existe une raison simple pour laquelle les filigranes invisibles ne peuvent pas résoudre à eux seuls le problème de la désinformation : il est toujours possible de créer des contenus par IA sans aucun étiquetage. Des centaines d’entreprises proposent des outils de Génération d’images et de vidéos, et rien ne les oblige à utiliser SynthID ou C2PA. Pire encore : vous n’avez pas besoin des systèmes centralisés de la Big Tech pour générer des contenus synthétiques. Avec des modèles open source, chacun peut créer des images ou des vidéos par IA sur son propre ordinateur, sans laisser aucune trace.

Adam Rose, de Starling Lab, alerte : « Le vrai danger ne vient pas des images produites par Google ou OpenAI, mais de ceux qui exécutent leurs propres modèles localement. » Ces contenus, non étiquetés par défaut, circuleront sur Internet sans aucun moyen de les identifier. Les utilisateurs pourraient alors croire qu’une image sans filigrane est forcément authentique… une erreur dangereuse dans un monde où quelques mots suffisent à générer une avalanche de désinformation.

VERIFIER LA VÉRITÉ, PAS DÉMASQUER LES FAUX

Plutôt que de chercher à repérer systématiquement les contenus générés par IA, une approche plus efficace consisterait à vérifier l’authenticité des contenus réels. Comme l’explique Mike Caronna : « Ce qui est rare et précieux, ce sont les informations vérifiables et de haute qualité. Si nous parvenons à sécuriser ces contenus et à prouver leur authenticité, nous pourrons nous défendre contre le dividende du menteur. »

Dans un futur proche, il faudra peut-être considérer tout contenu dépourvu de données de provenance vérifiables comme suspect. Une image ou une vidéo sans preuve d’authenticité pourrait être un signal d’alerte. Mais cette solution nécessite une adoption massive de technologies comme C2PA, ce qui n’est pas encore le cas aujourd’hui.

GOOGLE A-T-IL UNE SOLUTION ?

Google mise sur deux technologies complémentaires : SynthID pour détecter les contenus générés par IA et C2PA pour authentifier les contenus réels. Pourtant, même avec ces outils, le géant technologique admet que la tâche est colossale. Les filigranes ne sont qu’un élément parmi d’autres dans la lutte contre la désinformation. Ils ne peuvent pas, à eux seuls, résoudre un problème aussi vaste et complexe.

Le porte-parole de Google reconnaît d’ailleurs que l’expérience utilisateur actuelle est perfectible : « Nous collaborons activement avec nos partenaires industriels pour rendre la vérification plus accessible et unifiée. Notre objectif est de créer un écosystème interopérable permettant une expérience fluide sur différentes plateformes. » Des mots encourageants, mais qui restent vagues sur les échéances.

LES AUTRES ACTEURS FACE À SYNTHID

Google n’est pas le seul à travailler sur des filigranes invisibles. Meta a récemment lancé son propre système, Content Seal, mais des tests ont montré qu’un simple recadrage suffisait souvent à le supprimer. Cela prouve que SynthID, bien que robuste, n’est pas une solution universelle. D’autres acteurs pourraient développer des technologies encore plus résistantes… ou encore plus vulnérables.

L’enjeu est de taille : si SynthID est contourné, des milliards de contenus pourraient perdre leur étiquette en un clin d’œil. Google se retrouverait alors dans une course sans fin pour mettre à jour son système et bloquer les nouvelles attaques. Une bataille qui rappelle celle contre les virus informatiques : chaque solution est suivie d’une nouvelle faille, et inversement.

UN FUTUR OÙ LA VÉRITÉ SERA UNE RARETÉ

Adam Rose résume la situation avec une métaphore frappante : « Nous vivons dans un monde où l’offre de contenus est illimitée. C’est l’économie de base : l’offre explose, la valeur du contenu s’effondre. Mais la demande pour des contenus authentiques, vérifiables, ne fera que croître. » Dans ce contexte, les filigranes comme SynthID ne seront qu’un outil parmi d’autres pour naviguer dans un océan de désinformation.

Le vrai défi ne sera pas de repérer les faux contenus, mais de valoriser et de protéger les contenus réels. Comme le souligne Mike Caronna : « Ce qui est rare est précieux. Si nous parvenons à sécuriser et authentifier les contenus de haute qualité, nous pourrons nous défendre contre ceux qui utilisent l’IA pour semer le doute. »

QUELLE ALTERNATIVE AUX FILIGRANES ?

Si les filigranes invisibles ne suffisent pas, quelles sont les alternatives ? Une piste sérieuse réside dans les sceaux numériques cryptographiques comme C2PA. Contrairement aux filigranes, ces métadonnées ne cherchent pas à prouver qu’un contenu est artificiel, mais à prouver qu’il est authentique. Elles permettent de retracer l’origine d’une photo ou d’une vidéo, depuis sa capture jusqu’à sa diffusion.

Le problème ? Ces technologies sont encore peu adoptées. Peu d’appareils photo ou de téléphones les intègrent nativement. Et même lorsque c’est le cas, comme avec les Pixel de Google, la plupart des sites web ou applications ne les exposent pas. Résultat : la majorité des utilisateurs ignorent même que ces données existent.

POURQUOI LES FILIGRANES SONT-ILS SI POPULAIRES ?

Malgré leurs limites, les filigranes invisibles comme SynthID séduisent les géants de la tech. Pourquoi ? Parce qu’ils offrent une solution centralisée et contrôlable. Une entreprise comme Google peut imposer son filigrane à ses propres outils, puis inciter d’autres acteurs à l’adopter via des partenariats. C’est une façon de garder la main sur la labellisation des contenus générés par IA.

Mais cette approche centralisée a un coût : elle ne couvre qu’une partie de l’écosystème. Les contenus générés par des modèles open source ou des outils indépendants échappent à ce système. Pire encore : elle donne un faux sentiment de sécurité aux utilisateurs, qui pourraient croire qu’un filigrane est une garantie d’authenticité… alors qu’il ne fait que signaler qu’un contenu est généré par une IA connue.

LE RISQUE D’UNE SÉCURITÉ ILLUSOIRE

Les filigranes invisibles pourraient donner l’illusion que la désinformation est sous contrôle. Pourtant, ils ne résolvent qu’une infime partie du problème. Une image sans filigrane n’est pas forcément authentique, et une image avec filigrane n’est pas forcément fiable. Elle pourrait avoir été modifiée après l’ajout du filigrane, ou générée par un outil non compatible avec le détecteur utilisé.

Dans ce contexte, les utilisateurs pourraient commettre une erreur dangereuse : croire qu’une image sans filigrane est forcément réelle. Une erreur qui pourrait être exploitée par ceux qui veulent semer la confusion. Comme le résume Mike Caronna : « Les filigranes sont un bon début, mais ils ne suffiront pas. Nous devons apprendre à distinguer le vrai du faux, même en l’absence de preuve. »

UNE COURSE CONTRE LA MONTRE

Google et les autres acteurs de l’IA sont engagés dans une course contre la montre. D’un côté, ils doivent améliorer la robustesse de leurs filigranes pour résister aux attaques. De l’autre, ils doivent rendre ces outils plus accessibles et interopérables. Mais le temps presse : chaque jour, des millions de contenus synthétiques sont générés et partagés sans aucun étiquetage.

Adam Rose, de Starling Lab, lance un avertissement : « La génération d’IA est sortie de la bouteille. Nous ne pouvons plus revenir en arrière. La seule solution est d’apprendre à vivre dans ce monde et à nous protéger contre la désinformation. »

QUEL AVENIR POUR LES FILIGRANES ?

Google a déjà des plans pour renforcer SynthID. Selon Pushmeet Kohli, scientifique chez DeepMind, l’équipe travaille sur des mécanismes pour rendre le filigrane encore plus résistant. Mais ces améliorations restent secrètes : « Nous pouvons, bien sûr, changer le filigrane. Il existe de nombreuses solutions à notre disposition. Je ne peux pas divulguer publiquement ces mesures de protection, car elles nous aident à garantir la sécurité du système. »

L’enjeu est clair : si SynthID est contourné, Google devra réagir rapidement pour éviter que des milliards de contenus ne perdent leur étiquette. Mais dans un monde où les contenus synthétiques sont générés à une vitesse folle, cette bataille ressemble à un jeu du chat et de la souris sans fin.

LES UTILISATEURS, OUBLIÉS DANS L’ÉQUATION ?

Malgré les efforts des géants de la tech, les utilisateurs restent les grands oubliés de cette histoire. Les outils de vérification sont complexes, limités en nombre d’utilisations, et souvent incompatibles entre eux. Google promet des améliorations, mais sans calendrier précis. Résultat : la plupart des gens ignorent comment vérifier l’authenticité d’une image ou d’une vidéo.

Pourtant, c’est sur les épaules des utilisateurs que repose la responsabilité de distinguer le vrai du faux. Dans un monde où la désinformation se propage à une vitesse folle, cette tâche devient de plus en plus difficile. Les filigranes comme SynthID ne sont qu’un outil parmi d’autres, et ils ne suffiront pas à résoudre le problème à eux seuls.

LA SOLUTION : UN ÉCOSYSTÈME DE VÉRIFICATION

Pour espérer limiter la désinformation, il faudra probablement combiner plusieurs approches : filigranes invisibles, métadonnées cryptographiques, outils de vérification accessibles, et éducation des utilisateurs. Aucun de ces éléments ne suffira à lui seul, mais ensemble, ils pourraient offrir une protection plus solide.

Google mise sur cette approche en collaborant avec d’autres acteurs pour créer un écosystème interopérable. L’objectif ? Permettre aux utilisateurs de vérifier l’authenticité d’un contenu, quel que soit l’outil utilisé pour le générer. Mais cette vision reste encore théorique, et sa mise en œuvre prendra des années.

LE VERDICT : SYNTHID, UN OUTIL UTILE MAIS INSUFFISANT

SynthID est une avancée importante dans la lutte contre la désinformation générée par l’IA. Sa résistance aux modifications en fait un outil plus robuste que les métadonnées classiques. Pourtant, il n’est pas infaillible : un recadrage bien placé peut le rendre indétectable. Et même s’il résiste, il ne couvre qu’une partie de l’écosystème, laissant de côté les contenus générés par des outils open source ou indépendants.

Dans un monde où la désinformation devient de plus en plus sophistiquée, les filigranes invisibles ne suffiront pas. Ils ne sont qu’un élément d’un puzzle bien plus large. La vraie solution réside peut-être dans un changement de paradigme : plutôt que de chercher à étiqueter tous les contenus artificiels, concentrons-nous sur la valorisation et la protection des contenus authentiques.

QUELLE EST LA PROCHAINE ÉTAPE ?

Pour l’instant, les utilisateurs doivent rester vigilants. Les filigranes invisibles sont un outil parmi d’autres, mais ils ne garantissent pas la vérité. La prochaine étape ? Une adoption massive des technologies comme C2PA, une meilleure éducation des utilisateurs, et une collaboration entre les acteurs de l’industrie pour créer un écosystème de vérification unifié. Sans cela, la désinformation continuera de prospérer, malgré les efforts de Google et des autres géants de la tech.

EN RÉSUMÉ : CE QU’IL FAUT RETENIR

En moins de deux ans, l’IA a généré plus de contenus que l’humanité en 150 ans. Google propose SynthID, un filigrane invisible pour identifier ces contenus, mais il a des limites : un simple recadrage peut le rendre indétectable. Les métadonnées cryptographiques comme C2PA pourraient offrir une meilleure solution, mais elles sont encore peu adoptées. Dans un monde où la désinformation devient de plus en plus sophistiquée, aucun outil ne suffira à lui seul. La vraie solution ? Combiner plusieurs approches et valoriser les contenus authentiques.