- SynthID ajoute un filigrane aux images générées par l’IA d’une manière facilement détectable par les outils d’IA, mais invisible à l’œil humain
- Le filigrane est intégré dans les pixels de l’image et résiste aux transformations comme le recadrage et le redimensionnement
- Le filigrane SynthID est conçu pour aider à identifier et détecter les images générées par l’IA, dans un contexte de hausse des deepfakes
- L’outil sera lancé publiquement et sera d’abord proposé aux clients Google Cloud utilisant la plateforme Vertex AI et le générateur d’images Imagen
- À mesure que SynthID sera testé et amélioré, Google espère l’utiliser dans davantage d’endroits, partager plus d’informations sur son fonctionnement et collecter plus de données sur son efficacité
- Demis Hassabis, CEO de Google DeepMind, espère que SynthID deviendra un standard à l’échelle d’Internet et pourra être étendu à d’autres médias comme la vidéo et le texte
- Le lancement de SynthID vise les clients qui doivent vérifier l’origine des images utilisées à diverses fins, de la copie publicitaire aux photos de produits
- Parmi les pistes futures figurent une intégration à Google Slides et Docs, ou encore une extension Chrome ou une intégration directe dans le navigateur pour identifier les images générées par l’IA sur l’ensemble du web
- Le lancement de SynthID devrait déclencher une course entre hackers et développeurs pour trouver des moyens de contourner le système, ce qui nécessitera des mises à jour et des améliorations continues de la part de Google DeepMind
- Malgré la concurrence d’autres entreprises développant des outils similaires de détection de l’IA, Google est convaincu que le filigranage constituera un élément clé de la solution pour identifier les contenus générés par l’IA sur le web
3 commentaires
Je pense que si cette fonctionnalité sort réellement, un autre outil d’IA apparaîtra vite pour supprimer SynthID.
J’ai l’impression qu’il n’a jamais existé de filigrane impossible à enlever.
Le problème n’est pas d’effacer le filigrane, mais de pouvoir déterminer quelle est l’image originale. Si on l’efface, c’est une copie.
Pour SynthID, le plus important est qu’il s’agisse d’une technologie permettant d’identifier les images générées par l’IA qui ne puisse ni être supprimée ni remplacée. Et tant que SynthID n’est pas appliqué à toutes les images sur Internet, on ne peut pas conclure qu’une image est une copie simplement parce qu’elle ne comporte pas de filigrane.