YouTube exige un étiquetage pour les vidéos réalistes créées avec l’IA

• YouTube présente un nouvel outil qui oblige les créateurs à informer les spectateurs lorsque des contenus générés par intelligence artificielle (IA) peuvent être confondus avec la réalité
• Cet outil sera ajouté à Creator Studio, et les créateurs devront indiquer aux spectateurs lorsqu’un contenu susceptible d’être facilement pris pour une vraie personne, un vrai lieu ou un vrai événement a été modifié ou généré artificiellement
• L’information sera affichée sous forme d’étiquette dans la description développée de la vidéo ou directement sur le lecteur vidéo

Exemples de contenus nécessitant une divulgation

• Utilisation de l’apparence d’une personne réelle : contenus modifiés numériquement, comme le remplacement d’un visage par celui d’une autre personne ou la narration d’une vidéo avec une voix générée artificiellement
• Modification d’images de lieux ou d’événements réels : faire croire qu’un vrai bâtiment est en feu ou modifier un paysage urbain réel pour qu’il paraisse différent de la réalité
• Génération de scènes réalistes : représenter de manière réaliste un événement majeur fictif, comme une tornade se dirigeant vers un véritable village

Exemples de contenus ne nécessitant pas de divulgation

• Contenus manifestement irréalistes, ajustements de couleur ou filtres de lumière, effets spéciaux, filtres de beauté et autres améliorations visuelles
• L’intelligence artificielle utilisée pour gagner en productivité pendant le processus de création, par exemple pour générer un script, proposer des idées de contenu ou créer automatiquement des sous-titres, est exclue de l’obligation de divulgation

Modalités d’affichage de l’étiquette

• Pour la plupart des vidéos, l’étiquette sera visible lorsque la description est développée, mais pour les vidéos traitant de sujets sensibles comme la santé, l’actualité, les élections ou la finance, une étiquette plus visible sera affichée directement sur la vidéo
• L’étiquette apparaîtra d’abord dans l’application YouTube sur mobile, puis bientôt aussi sur desktop et TV
• YouTube indique qu’il envisagera à l’avenir des mesures d’application si des créateurs choisissent de manière répétée de ne pas divulguer ces informations

Collaboration de YouTube avec le secteur

• YouTube continue de collaborer avec l’ensemble du secteur pour accroître la transparence autour des contenus numériques et agit en tant que membre pilote de la C2PA.
• L’entreprise développe également un processus de confidentialité mis à jour qui permettra de demander la suppression de contenus générés ou modifiés par l’IA lorsqu’ils portent atteinte à la vie privée d’une personne identifiable (y compris son visage ou sa voix).

Avis de GN⁺

• La nouvelle politique de YouTube semble pouvoir renforcer la transparence des contenus numériques et contribuer à instaurer la confiance entre spectateurs et créateurs.
• À mesure que l’intelligence artificielle joue un rôle de plus en plus important dans le processus créatif, ce type d’outil peut aider les utilisateurs à reconnaître et à comprendre les contenus générés par l’IA.
• Des inquiétudes peuvent toutefois subsister quant au fait que cette politique impose une charge supplémentaire aux créateurs ou limite leur liberté de création.
• L’introduction de cette technologie améliore la capacité à distinguer l’authenticité des contenus, mais elle s’accompagne aussi d’une responsabilité accrue pour les créateurs, avec des avantages et des inconvénients.
• Parmi les autres plateformes ou outils proposant des fonctions similaires figure la Content Authenticity Initiative d’Adobe, qui se concentre sur le suivi de la provenance et de l’authenticité des contenus numériques.

[GN⁺]

Avis sur Hacker News

• Résumé du premier commentaire :

  • D’un point de vue business et apprentissage, l’approche de Google constitue une première étape allant dans la bonne direction, en établissant des règles sur la manière de définir et d’étiqueter l’IA.
  • Ces règles couvrent les cas où l’on fait sembler qu’une personne réelle a dit ou fait quelque chose qu’elle n’a pas réellement dit ou fait, où l’on modifie des images d’événements ou de lieux réels, ou encore où l’on génère des scènes réalistes qui ne se sont pas produites.
  • Le commentaire s’interroge sur la façon dont ces hypothèses seront testées et sur les possibles controverses juridiques. Par exemple, l’étalonnage des couleurs, les filtres de beauté, ou la génération de scènes supplémentaires par IA à partir de différents angles vidéo pourraient faire débat.

• Résumé du deuxième commentaire :

  • Selon la page d’aide de Google, des exemples sont donnés à la fois pour les contenus que les créateurs n’ont pas besoin de déclarer et pour ceux qu’ils doivent déclarer.
  • Parmi les exemples ne nécessitant pas de déclaration figurent : une personne chevauchant une licorne, une personne flottant dans l’espace via fond vert, les ajustements de couleur ou filtres d’éclairage, les filtres d’effets spéciaux comme le flou d’arrière-plan ou l’effet vintage, la génération ou l’amélioration de plans vidéo, scripts, miniatures, titres et infographies avec des outils d’IA, la génération de sous-titres, l’amélioration de la netteté d’une vidéo, l’upscaling ou la restauration, la restauration de la voix ou de l’audio, ainsi que la génération d’idées.
  • Parmi les exemples nécessitant une déclaration figurent : une musique générée artificiellement, l’utilisation d’une voix clonée d’une autre personne pour une narration, la génération artificielle de séquences supplémentaires d’un lieu réel, une vidéo rendant réaliste un match entre de vrais joueurs professionnels de tennis, le fait de faire sembler qu’une personne a donné des conseils qu’elle n’a pas réellement donnés, la modification numérique d’un audio pour faire croire qu’un chanteur populaire a raté une note pendant un concert live, le fait de faire sembler qu’une tornade ou un autre phénomène météo qui ne s’est pas réellement produit se déplace vers une vraie ville, le fait de faire sembler que le personnel d’un hôpital a renvoyé des patients malades ou blessés, le fait de faire sembler qu’une personnalité publique a volé quelque chose ou a reconnu ce vol, ou encore qu’elle a réellement été arrêtée ou emprisonnée.

• Résumé du troisième commentaire :

  • Ces règles visent à se conformer à la nouvelle loi européenne sur l’IA.
  • Les contenus générés par IA doivent pouvoir être identifiés, et les textes générés par IA publiés pour fournir des informations sur des sujets d’intérêt public doivent être étiquetés comme artificiellement générés. Cela s’applique aussi aux contenus audio et vidéo constituant des deepfakes.

• Résumé du quatrième commentaire :

  • L’exemple consistant à modifier numériquement un audio pour faire croire qu’un chanteur a raté une note en live est mentionné comme particulièrement intéressant.
  • Il s’agit de la situation inverse de l’incident récent lors de la performance d’Alicia Keys au Super Bowl, où la NFL aurait discrètement corrigé sa « note enrouée » au montage.

• Résumé du cinquième commentaire :

  • Une représentation réaliste d’un événement majeur qui ne s’est pas réellement produit, par exemple une tornade se déplaçant vers une vraie ville, est un exemple de contenu nécessitant une déclaration.
  • Cela ressemble à la situation courante des miniatures YouTube actuelles ; ce n’est pas limité à l’IA, mais cela montre aussi combien il sera difficile de surveiller ce type de contenu.

• Résumé du sixième commentaire :

  • Comme lorsqu’une banque exige des formalités administratives tout en s’attendant à ce que des criminels mentent, il n’existe pas de conséquence explicite au fait de mentir à Google, mais cela peut servir de signal rendant un compte plus suspect s’il ment.

• Résumé du septième commentaire :

  • Modifier des images d’événements ou de lieux réels, par exemple faire sembler qu’un vrai bâtiment brûle ou qu’un paysage urbain réel est différent de la réalité, fait partie des contenus devant être déclarés.
  • Indépendamment du sujet de l’article sur le contenu réel des vidéos, le commentaire soulève aussi le problème des images d’aperçu exagérées destinées à attirer les clics.

• Résumé du huitième commentaire :

  • Le commentaire se demande si YouTube est conscient que l’équipe Google Photos encourage activement la modification de vidéos et de photos pour représenter des scènes qui ne se sont pas réellement produites.

• Résumé du neuvième commentaire :

  • Autrefois, Google aurait proposé un filtre « non-IA » dans la recherche avancée, mais aujourd’hui l’entreprise est trop occupée à vendre des outils d’IA pour calmer Wall Street, sans vraiment réfléchir à la manière dont les vidéos IA vont aggraver un problème de recherche déjà comparable à chercher une aiguille dans une botte de foin.

• Résumé du dixième commentaire :

  • Le commentaire souligne que les responsables des politiques de YouTube font face à une tâche presque impossible : interpréter les cas ambigus au cours des prochaines années.