YouTube modifie des vidéos avec l’IA sans l’accord des créateurs et ajoute des résumés pouvant induire en erreur

• YouTube a appliqué des technologies de correction vidéo basées sur l’IA à certaines vidéos de chaînes populaires sans prévenir ni les créateurs ni les spectateurs.
• Les créateurs YouTube de musique Rick Beato et Rhett Shull ont fait part de légères différences dans l’apparence de la peau, des cheveux et des plis des vêtements de leurs vidéos.
• YouTube a expliqué qu’il s’agissait d’une expérience limitée à certains Shorts, consistant à améliorer la netteté et le bruit vidéo grâce à un apprentissage automatique traditionnel.
• Les experts ont toutefois critiqué l’évitement terminologique et le manque de transparence, en notant que le machine learning relève de l’IA, et ont souligné les risques pour la fiabilité des contenus.
• Cet épisode, où le contenu est modifié sans le consentement du créateur, est vu comme révélateur d’enjeux de véracité et de confiance dans les médias numériques.

---

Expérience confidentielle de correction vidéo de YouTube par IA

• YouTube a appliqué en secret une technologie d’amélioration vidéo basée sur l’IA à certaines vidéos de créateurs populaires.
  • Les éléments visuels ont été modifiés sans préavis pour les créateurs ou les spectateurs.
  • Rick Beato et Rhett Shull ont constaté des changements de la texture de la peau, des cheveux, des plis des vêtements et de la forme des oreilles.
• Beato a déclaré que les cheveux lui semblaient étranges, comme si un maquillage avait été ajouté.
• Shull a précisé que cela paraissait généré par l’IA et a noté que la confiance avec les spectateurs pouvait être mise en péril.

Confirmation de l’expérience et clarification de YouTube

• YouTube a reconnu qu’il mène une petite expérience sur certains Shorts.
  • Rene Ritchie, créateur relationnel (Creator Liaison), a expliqué via X (anciennement Twitter) qu’il s’agissait d’une expérience visant à améliorer la netteté des vidéos et à réduire le bruit visuel grâce à un apprentissage automatique traditionnel.
  • YouTube a affirmé que cela équivalait au niveau des fonctions de correction automatique des smartphones.
• Toutefois, le professeur Samuel Woolley de l’Université du Pittsburgh a critiqué cette explication, estimant que le machine learning est une sous-catégorie de l’IA et que la communication de YouTube est trompeuse.

Diffusion de la prétraitement par l’IA et problème de confiance

• Les experts considèrent ce cas comme faisant partie d’une tendance plus large de prétraitement des contenus par l’IA.
  • Samsung utilise une fonction qui rend les photos de la Lune plus nettes avec l’IA, et le “Best Take” de Google Pixel synthétise plusieurs expressions faciales en une seule photo parfaite.
• Woolley a averti que la modification et la distribution de contenu sans le consentement du créateur installent une couche de manipulation invisible entre le public et les médias,
  • ce qui soulève des inquiétudes concernant la véracité des contenus et la transparence.

Réactions des créateurs et des experts

• Beato a adopté une attitude positive à l’égard de l’initiative de YouTube, la qualifiant de plateforme qui expérimente sans cesse de nouveaux outils.
  • Il a déclaré que “YouTube a changé sa vie”, en retenant ses critiques.
• À l’inverse, des critiques soulignent qu’il s’agit d’un précédent dangereux de modifications sans préavis.
  • Ils soulignent que, YouTube étant une plateforme majeure non seulement pour le divertissement mais aussi pour les contenus de news, d’éducation et d’information, l’exactitude et l’authenticité y sont particulièrement cruciales.

Orientation future des médias numériques

• Cet épisode annonce un avenir où l’IA reconstruit les contenus avant la perception des utilisateurs.
• Il montre que des vidéos déjà modifiées par l’IA peuvent être proposées avant même que le spectateur n’appuie sur le bouton lecture.
• Le besoin d’un avertissement transparent sur l’usage de l’IA et de procédures de consentement des créateurs devient central.

[GN⁺]

Avis Hacker News

• Une influenceuse beauté que je suis a dit que YouTube et Instagram appliquaient automatiquement des filtres sur son visage sans son consentement
  Dans les vidéos de maquillage des lèvres, les lèvres deviennent plus grandes, et dans celles de maquillage des yeux, les yeux deviennent plus grands : l’IA détecterait le type de contenu et appliquerait automatiquement un filtre
  La vidéo en question est visible ici. C’est choquant qu’une plateforme modifie les uploads d’un créateur sans accord
  • La qualité vidéo est tellement mauvaise que cela ressemble à des artefacts de compression
    L’influenceuse n’étant pas technicienne, elle semble avoir pris cela à tort pour un filtre IA. Les blocs qui flottent à l’écran sont typiques d’une compression très agressive
    Il est étrange qu’un forum technique accepte ce type d’affirmation tel quel. Toute la vidéo manque de détails et présente des traces de compression évidentes
  • Cela pourrait déboucher sur un gros litige juridique
    Les conditions d’utilisation contiennent probablement une clause disant que la plateforme peut “faire ce qu’elle veut”, ce qui pourrait ensuite être justifié comme un “paramètre utilisateur”
  • Un commentaire sur Instagram l’expliquait bien
    « Quand Meta fait de la traduction vocale automatique, elle ajoute un filtre IA pour faire correspondre les mouvements des lèvres à l’audio, et dans ce processus un filtre bizarre peut parfois recouvrir tout le visage »
    Dire que des filtres différents sont appliqués selon le type de contenu ressemble à une spéculation excessive proche du complotisme
  • Le problème, c’est qu’il n’y a même pas d’option pour désactiver cela. Rien n’a non plus été annoncé officiellement
  • C’est une situation vraiment absurde
• Le filtre IA appliqué côté serveur à YouTube Shorts est vraiment excessif
  La peau est trop lissée, les cheveux ont l’air cireux, et d’étranges halos apparaissent autour des objets en mouvement
  Au début, je pensais à un upscaling côté client, mais comme le traitement se fait sur le serveur, on ne peut même pas le désactiver
  Si les gens s’habituent à cette qualité, il deviendra plus difficile de remarquer plus tard quand du contenu généré par IA s’y mélangera
  • En regardant la même vidéo dans l’interface YouTube classique, elle peut apparaître différemment. Il est conseillé de copier l’ID unique de l’URL et de le coller dans une adresse de vidéo classique
  • Je n’avais jamais envisagé cette intention, mais maintenant que je l’entends, je me dis que cela pourrait être une stratégie délibérée
  • À terme, cela sera totalement remplacé par un flux de courtes vidéos produites par IA
    Les gens scrolleront sans fin en ne regardant que des pubs et du contenu qui fait fondre le cerveau
  • Les filtres servent peut-être à masquer la compression extrême de Shorts
• Quand je réencode une vidéo et que je veux vérifier les pertes, j’utilise la commande ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv
  On voit beaucoup de ce genre d’affirmations, mais je n’ai encore vu personne publier une vidéo de comparaison (diff). Si quelqu’un le faisait, ce serait intéressant
  • Jill Bearup avait déjà publié une vidéo comparant cela
    Dans la vidéo YouTube, à 0:31, elle montre Shorts et l’original côte à côte
    Dans la version haute qualité publiée sur Patreon, la différence est bien plus nette
  • Moi aussi, j’utilise parfois une méthode similaire pour des tests de régression visuelle. L’article lié est ici
  • Merci pour la bonne idée et la one-liner
• Depuis que j’ai vu pour la première fois les résumés IA de YouTube expliquer quelque chose exactement à l’envers, j’ai décidé de les ignorer
  • J’aimerais que cela atténue le clickbait
    En ce moment, je capture la miniature et je pose la question à ChatGPT, ou bien je mets l’URL de la vidéo dans un extracteur de transcription pour l’analyser avec Gemini
    Les fabricants de clickbait ont maintenant été rétrogradés au rang de simples “suggéreurs de sujets à demander à ChatGPT”
  • Je n’aime pas le ton trop artificiel des résumés IA. Leur structure est toujours la même, et cela finit invariablement par quelque chose comme “préparez-vous à ce voyage”
• Je ne comprends pas pourquoi YouTube applique ce genre de filtres non autorisés
  Faire ce type d’“amélioration” sans même prévenir les créateurs n’est pas judicieux
  Il faudrait que davantage de gens expérimentent de meilleures plateformes, ne serait-ce que pour les petits et moyens créateurs qui souffrent de fausses réclamations de copyright
  • Au final, il suffira peut-être d’une seule personne ambitieuse pour provoquer ce changement
  • C’est peut-être une tentative pour augmenter l’engagement, ou pour justifier les investissements dans l’IA
    Comme alternative, il existe des plateformes du Fediverse comme PeerTube
  • Une plateforme devrait simplement rester une plateforme
    Augmenter l’engagement relève du créateur ; si la plateforme intervient, les utilisateurs finiront par partir
  • Cela pourrait aussi être une stratégie visant à faire ressembler tout le contenu à de l’IA afin de normaliser les contenus IA
• Je me demandais si c’était un vrai filtre IA, ou simplement une perte de détails due à un algorithme de compression très agressif
  On peut voir un exemple lié dans cet article
  La compression avec pertes et la quantification adaptative peuvent donner à la peau un aspect lissé
  • En réalité, il s’agit bien d’un cas d’application de filtre. On peut en voir un exemple dans cette vidéo Instagram
  • Mais certains y voient toujours des artefacts de compression. Cela pourrait aussi être une tentative de restauration de détails côté client
• YouTube est aujourd’hui rempli de fausses vidéos de personnes
  Des scientifiques, des responsables politiques, des économistes et des experts tech y apparaissent entièrement clonés par IA
  • Au Canada, des publicités politiques deepfake sont diffusées ouvertement sur YouTube. On dirait que YouTube a renoncé à modérer ses publicités
  • J’ai aussi vu des cas où de vraies vidéos de médecins étaient reprises puis modifiées par IA pour faire la promotion d’un produit
    Article lié : enquête du Guardian
• YouTube est en pratique un dataset d’entraînement pour l’IA
  Je ne pense pas que Google ait la moindre raison de fournir à l’extérieur des données propres
• Je vois souvent sur YouTube des miniatures générées par IA
  Par exemple, cette chaîne utilise ce qui ressemble non pas à une vraie image tirée de la vidéo, mais à une image de synthèse façon Stable Diffusion
  • C’est une fonction de génération de miniatures par IA que l’uploader peut choisir
    Je l’ai vue une fois sur ma propre chaîne, mais l’option a disparu depuis. La plupart des chaînes que je suis utilisent cette fonction
    Personnellement, je n’aime pas cela
• J’aimerais que YouTube ne touche pas directement aux vidéos, mais donne plutôt aux utilisateurs le pouvoir d’éditer avec l’IA
  Par exemple, on pourrait saisir sous la vidéo des prompts comme “remplacer l’anglais par du gaélique”, “remplacer les blagues de papa par du lorem ipsum”, ou “transformer le chien en forme de vie extraterrestre”
  • Je me demande dans combien de temps ce genre de fonction sera possible
    Ce serait génial si cela pouvait tourner localement dans le navigateur, mais d’ici là ce sera peut-être interdit légalement