Ma voix volée par l’IA

Lien vidéo reçu par e-mail

• Contenu de la vidéo : une vidéo promotionnelle d’Elecrow utilisant la voix de Jeff Geerling
• Problème soulevé : Jeff Geerling affirme n’avoir jamais utilisé sa voix dans cette vidéo

Soupçons de clonage vocal par IA

• Soupçon : Elecrow aurait utilisé les vidéos YouTube de Jeff Geerling comme entrée dans un outil de clonage vocal par IA afin d’utiliser sa voix
• Cas antérieur : mention du cas où OpenAI a cloné la voix de Scarlett Johanssen
• Problème juridique : il existe peu de précédents juridiques concernant le clonage vocal par IA non autorisé

Réponse envisagée

• Situation actuelle : les relations passées avec Elecrow n’étaient pas mauvaises
• Recours juridique : une action en justice coûte cher, et il n’est pas certain qu’il y ait eu violation des conditions d’utilisation de YouTube
• Demande : envoi d’un e-mail à Elecrow pour demander la suppression de la vidéo concernée

Mise à jour

• E-mail envoyé : demande adressée à Elecrow sur ses intentions quant à l’utilisation d’une voix IA, ainsi que sur la suppression de la vidéo
• Historique des e-mails : plus de 43 échanges par e-mail avec Elecrow, qui avait aussi proposé par le passé un partenariat rémunéré

Réactions dans les commentaires

• Jimmy : il est certain qu’une IA a été utilisée, et c’est un comportement très inapproprié
• Gary Hayman : il apprécie les vraies vidéos de Jeff, et cet incident est très grave
• Kayla : certaines erreurs de prononciation dans la vidéo ont permis de comprendre qu’il s’agissait d’une voix IA
• BC : suggère que l’outil de clonage vocal par IA utilisé pourrait être ElevenLabs
• Mike Robinson : recommande un épisode du podcast Tech Life de la BBC
• George : affirme que la voix de la vidéo ne ressemble pas vraiment à celle de Jeff
• mam : estime que la situation manque de clarté et conseille de contacter directement l’entreprise avant toute action en justice
• John : recommande de consulter un avocat spécialisé dans le divertissement
• Derek : déclare qu’il n’achètera plus de produits Elecrow
• Oh No : souligne l’ironie de voir des défenseurs de la liberté de l’information se plaindre que leur propre contenu soit détourné

# Récapitulatif GN⁺

• Problème du clonage vocal par IA : les progrès de l’IA rendent possible le clonage vocal non autorisé, ce qui peut soulever des problèmes éthiques
• Difficulté des recours juridiques : le manque de précédents juridiques sur le clonage vocal non autorisé complique la réponse
• Protection des droits des créateurs de contenu : utiliser sans autorisation la voix ou l’image d’un créateur peut poser des problèmes éthiques et juridiques
• Alternative proposée : au lieu du clonage vocal par IA, il serait préférable d’embaucher de vrais comédiens voix ou de collaborer avec les créateurs de contenu
• Cas similaires : le cas du clonage de la voix de Scarlett Johanssen par OpenAI, ainsi que la recommandation d’un épisode du podcast Tech Life de la BBC

[GN⁺]

Avis sur Hacker News

• Si l’IA imite la voix d’une personne pour lui faire tenir des propos blasphématoires, cela peut provoquer des violences

  • Dans certains pays, des lynchages violents se produisent à cause du blasphème
  • Avec les progrès de l’IA, ce problème risque de se propager davantage
  • Indépendamment de la réputation, de la sécurité ou du droit d’auteur, cela peut menacer la vie des gens
  • Il existe peu d’outils pour contrôler cela

• Cloner une voix à l’aide de l’IA ne semble pas pouvoir échapper à l’affaire Midler vs. Ford

  • Défendre un clonage vocal par IA est plus difficile que le fait d’utiliser un autre comédien de doublage

• Les précédents sont importants, mais les avancées technologiques exigent de nouveaux principes

  • Lorsqu’une technologie introduit de nouvelles capacités, il faut en fixer les limites pour qu’elles puissent être utilisées au bénéfice des gens
  • Sinon, on risque de vivre dans un monde où les puissants font ce qu’ils veulent et où les faibles en subissent les conséquences

• Si les LLM sont la machine à remix ultime, alors celui qui possède du RAG peut devenir un DJ numérique

  • Cela amène à s’interroger sur ce que signifie le vol d’informations numériques
  • En l’absence de précédents juridiques suffisants, le droit de la propriété intellectuelle et le droit d’auteur ressemblent à un Far West
  • Si même Scarlett Johansson n’a eu d’autre choix que d’écrire une lettre douloureuse au sujet de l’imitation d’OpenAI, comment les gens ordinaires peuvent-ils réagir ?
  • Comme Geerling, on ne peut qu’être triste et en colère, tout en disant : « pour tout ce qui est bon, soyez bienveillants et respectez un code d’honneur »

• Même en laissant de côté la partie IA, déformer l’opinion de Jeff ou utiliser son image sans autorisation est une mauvaise chose

  • Utiliser sa voix pour créer un soutien implicite (et manipulé) à un produit est particulièrement condamnable
  • Il existe probablement déjà des lois pour traiter ce type de cas

• En tant que petit youtubeur tech, j’ai déjà été en contact avec Elecrow

  • Chez Elecrow, comme ailleurs, les employés obtiennent des récompenses, des promotions et des commissions lorsqu’ils sécurisent des partenariats de long terme et des collaborations vidéo
  • Quelqu’un a sans doute pensé qu’il serait malin de cloner la voix de Jeff
  • Ce n’est pas une bonne RP pour Elecrow
  • Je me demande s’ils reconnaîtront que c’était intentionnel

• Je ne trouve pas que cela se ressemble tant que ça

  • C’est un peu similaire, mais différent
  • Le ton est légèrement plus aigu, plus nasillard, et l’intonation est un peu différente

• Nous disposons de centaines d’outils de clonage vocal

  • Il y aura donc forcément des contenus publiés avec des voix clonées
  • Comme pour les images utilisées sans autorisation, les plateformes et leurs équipes de modération ont des procédures pour signaler et retirer ces contenus
  • Il faut quelque chose de similaire pour les voix

• Quand on dit que les avocats coûtent toujours très cher : moi, je ferais absolument ce travail gratuitement

  • Mais il est probable que vous ne soyez pas dans l’État où je suis habilité à exercer
  • Si votre problème est suffisamment intéressant, vous pouvez trouver un avocat pro bono
  • C’est <i>l’un des problèmes les plus intéressants de notre époque</i>

• Elecrow semble être une entreprise chinoise

  • Dans ce cas, je n’attends aucune réponse de leur part