OpenAI ajoute un nouveau filigrane à DALL-E 3

• Le générateur d’images DALL-E 3 d’OpenAI va ajouter un filigrane aux métadonnées des images
• Avec l’augmentation du nombre d’entreprises prenant en charge la norme C2PA (Coalition for Content Provenance and Authenticity), les images générées par DALL-E 3 afficheront le filigrane C2PA
• Le filigrane apparaîtra sur les images générées sur le site web de ChatGPT et via l’API du modèle DALL-E 3, et pour les utilisateurs mobiles, il sera ajouté d’ici le 12 février
• Le filigrane comprendra un composant de métadonnées invisible ainsi qu’un symbole CR apparaissant dans le coin supérieur gauche
• Il sera possible de vérifier la provenance des images générées sur la plateforme OpenAI (c’est-à-dire quel outil d’IA a été utilisé) via des sites comme Content Credentials Verify
• Pour l’instant, seuls les images, et non les vidéos ou le texte, incluent ce filigrane

Impact du filigrane

• L’ajout de métadonnées de filigrane aux images a un impact quasi nul sur la latence et n’affecte pas la qualité de génération des images
• Dans certains cas, la taille des images peut légèrement augmenter

Coalition for Content Provenance and Authenticity (C2PA)

• La C2PA, composée d’entreprises comme Adobe et Microsoft, encourage l’utilisation du filigrane Content Credentials, qui permet d’identifier la provenance d’un contenu et d’indiquer s’il a été créé par un humain ou par une IA
• Adobe a créé le symbole Content Credentials, et OpenAI l’ajoute aux contenus générés par DALL-E 3
• Meta a récemment annoncé qu’elle ajouterait des étiquettes aux contenus générés par l’IA sur ses plateformes de réseaux sociaux

Identification des contenus générés par l’IA

• Dans le décret présidentiel de l’administration Biden sur l’IA, l’identification des contenus générés par l’IA figure parmi les principales directives
• Cependant, le watermarking n’est pas une méthode fiable à coup sûr pour empêcher la désinformation
• OpenAI souligne que les métadonnées C2PA peuvent être facilement supprimées, accidentellement ou intentionnellement, et que la plupart des plateformes de réseaux sociaux retirent souvent les métadonnées des contenus mis en ligne
• De plus, une capture d’écran supprime ces métadonnées
• OpenAI indique sur son site qu’adopter des méthodes permettant d’établir la provenance et encourager les utilisateurs à reconnaître ces signaux est important pour renforcer la fiabilité de l’information numérique