SynthID incruste une signature dans les pixels, l’audio et le texte

Alors que les deepfakes et les textes générés par IA inondent les réseaux, distinguer le vrai du faux relève du parcours du combattant. Google DeepMind propose une solution technique : SynthID, un filigrane numérique invisible intégré directement dans le contenu. Cette technologie pourrait devenir le standard de transparence de l’ère générative.

À retenir

• SynthID est une technologie de filigrane numérique invisible développée par Google DeepMind pour marquer les contenus générés par IA.
• Elle fonctionne sur les images, l’audio (via le modèle Lyria) et le texte (intégré dans Gemini) en modifiant subtilement les pixels, les spectrogrammes ou les probabilités des mots.
• Le tatouage est conçu pour résister aux modifications courantes (recadrage, compression MP3) sans altérer la perception humaine.
• L’outil de détection donne un résultat parmi trois niveaux de confiance : « Détecté », « Non détecté » ou « Probablement détecté ».
• Une partie de la technologie est désormais open-source, dans l’espoir d’en faire un standard industriel contre la désinformation.
• Le système n’est pas infaillible à 100% et doit être complété par d’autres initiatives comme le standard C2PA.

Dans un paysage numérique où l’authenticité se fait rare, SynthID représente une tentative pragmatique de réintroduire de la confiance à l’échelle algorithmique, directement au cœur du processus de génération.

L’art du filigrane invisible

Contrairement aux métadonnées classiques, facilement supprimables, SynthID incruste sa signature au plus profond des données elles-mêmes. Cette approche par watermarking robuste repose sur l’apprentissage profond pour être à la fois imperceptible et durable.

Une signature incrustée dans les pixels

Pour les images, SynthID utilise deux réseaux de neurones. Le premier encode le filigrane dans l’image originale en modifiant de manière infime la valeur des pixels. Le second est chargé de le détecter par la suite. L’alteration est invisible à l’œil nu. L’ingéniosité réside dans la robustesse du marquage : il survit à des transformations courantes comme le recadrage, le redimensionnement, l’ajustement des couleurs ou une compression JPEG agressive. Le tatouage fait corps avec l’image.

Du son aux mots : l’adaptation du procédé

Le principe s’adapte à l’audio via le modèle Lyria. L’onde sonore est d’abord convertie en un spectrogramme, une carte visuelle des fréquences dans le temps. C’est dans cette représentation que le filigrane est intégré, avant une reconversion en son. Ainsi, un fichier audio généré par IA et tatoué par SynthID conserve sa signature même après conversion en MP3, accélération ou ralentissement, sans que l’oreille humaine ne perçoive la différence.

Pour le texte, la méthode est encore plus subtile. SynthID n’intervient pas après coup, mais pendant la génération par un Large Language Model comme Gemini. Lorsque le modèle prédit le prochain jeton (token), il calcule une distribution de probabilités. SynthID modifie de manière imperceptible cette distribution pour y imprimer une signature statistique unique. Il est quasi impossible pour un lecteur de deviner qu’un texte contient cette empreinte, mais une analyse comparative avec une clé de référence permet de la révéler.

Une promesse de transparence sous conditions

Si la technologie est ingénieuse, son déploiement et son efficacité réelle se heurtent à des limites pratiques et à la nécessité d’une adoption large.

Trois niveaux de détection pour nuancer la confiance

L’outil de vérification de SynthID évite un binaire simpliste. Il propose trois verdicts : « Détecté » en cas de forte confiance, « Non détecté » si l’empreinte est absente, et surtout « Probablement détecté » pour les cas intermédiaires. Cette gradation reconnaît que l’identification n’est pas une science exacte et permet aux modérateurs ou aux plateformes de prendre des décisions éclairées.

Les failles inévitables du système

Google est transparent sur les limites. SynthID n’est pas un bouclier magique. Des manipulations extrêmes des pixels ou des traductions successives d’un texte pourraient, en théorie, éroder ou effacer le filigrane. Le risque de faux négatifs ou, plus rarement, de faux positifs existe. C’est pourquoi DeepMind présente cette technologie comme une couche de défense supplémentaire, et non comme une solution unique.

La bataille pour un standard ouvert

L’enjeu ultime dépasse la technique. Pour être efficace, un tel filigrane doit être largement adopté. En rendant des composants de SynthID open-source, Google espère en faire une référence et encourager son intégration dans d’autres modèles et plateformes. L’objectif est de créer un écosystème où les outils de vérification pourront s’appuyer sur une méthode commune. Cette démarche complète d’autres efforts comme le standard C2PA (Coalition for Content Provenance and Authenticity), qui travaille sur la provenance des médias. La question de la souveraineté se pose : faut-il laisser un acteur majeur définir seul les règles de l’authenticité numérique ? L’ouverture partielle du code est une réponse à cette critique.

SynthID illustre une prise de conscience : la course à l’IA générative doit s’accompagner d’une course à la traçabilité. Son succès dépendra moins de sa robustesse algorithmique que de sa capacité à devenir une norme acceptée par tous.