Production de contenu dopée à l’IA chez AdVon et recours à de faux auteurs
- Des rédacteurs de pays en développement travaillaient comme contractuels chez AdVon Commerce, payés quelques centimes par mot pour écrire des avis produits en ligne
- Leur rôle a rapidement évolué vers le polissage de brouillons générés par « MEL », le système d’IA qu’AdVon développait
- On leur demandait de laisser des notes détaillées sur le travail de MEL, qu’ils pensent avoir servi à affiner l’IA destinée à les remplacer à terme
- Une fois que MEL a été « suffisamment entraîné pour écrire seul », les rédacteurs ont été licenciés
- Un rédacteur dit avoir « beaucoup souffert » et affirme que « c’était de l’exploitation »
Cas d’utilisation de faux auteurs par AdVon
- Un employé de Gannett a découvert sur le site de USA Today des avis produits publiés sous des signatures qui ne semblaient pas correspondre à de vraies personnes
- Chez Sports Illustrated aussi, AdVon menait une opération similaire en utilisant de fausses signatures et des photos de profil générées par IA
- AdVon n’a pas nié que les signatures étaient fausses ni que les photos de profil étaient générées par IA, mais a soutenu que les articles eux-mêmes avaient été écrits par de vraies personnes
Diffusion massive des contenus d’AdVon
- Les faux auteurs et les contenus d’AdVon ont été repérés dans un large éventail de médias, des sites de potins people comme Hollywood Life et Us Weekly jusqu’à des journaux de premier plan comme le LA Times
- McClatchy a mis fin à sa relation avec AdVon et supprimé des centaines d’articles AdVon de plus de 20 journaux, dont le Miami Herald et le Sacramento Bee
- Par le passé, le site d’AdVon indiquait collaborer avec de nombreux médias connus, dont PC Magazine, Mashable, AskMen, Good Housekeeping, People, Parents, Food & Wine, InStyle, Real Simple, Travel + Leisure, Better Homes & Gardens et Southern Living
Vidéo de démonstration de génération d’avis avec l’IA MEL d’AdVon
- Une vidéo montre un responsable d’AdVon saisissant uniquement le titre d’un article et un lien produit Amazon, puis MEL AI générant chaque mot de l’article
- Le travail de MEL est souvent maladroit, vague et parfois même contradictoire
- Quand la sortie est incompréhensible, le responsable demande simplement de générer une nouvelle version
- « Notre objectif est que cela ne sonne pas comme si c’était écrit par un robot », dit le responsable
Faible qualité des avis AdVon et erreurs étranges
- Les avis AdVon sont remplis de remplissage et de banalités, et contiennent parfois des erreurs si absurdes qu’il est difficile de croire qu’un humain les ait sérieusement relus avant publication
- Il arrive que le sujet change brusquement sans explication, par exemple un avis sur une ceinture d’haltérophilie qui se met soudain à parler de ceintures vestimentaires, ou un avis sur un micro-ondes qui bascule vers les fours classiques
- Dans d’autres avis sur des micro-ondes signés du même auteur, les mêmes erreurs étranges se répètent, comme affirmer qu’on peut utiliser du papier aluminium dans un micro-ondes
Attribution de faux auteurs et remplacement par des signatures de personnes réelles
- Une fois les articles terminés, le rôle d’initiés chez AdVon était d’y apposer le nom d’un faux auteur
- Après qu’un employé de Gannett a signalé les faux auteurs d’AdVon sur USA Today, les faux noms ont disparu et ont commencé à être remplacés par des noms paraissant réels, notamment ceux de personnes ayant des liens personnels avec le CEO d’AdVon, Ben Faw
- Une signature au nom de Julia Yoo est apparue ; elle semble être l’épouse de Ben Faw et affiche un parcours étonnamment prestigieux par rapport aux autres employés d’AdVon, avec un diplôme du MIT, un poste de direction chez Autodesk et une expérience comme conseillère économique à la Maison-Blanche sous l’administration Obama
- Une signature au nom de Denise Faw est également apparue, et elle semble être la mère de Ben Faw
Avis sponsorisés d’AdVon via SellerRocket
- Le CEO d’AdVon Ben Faw et son président Eric Spurling dirigent aussi une autre société, SellerRocket, qui fait payer les vendeurs de produits Amazon pour être promus dans les mêmes médias où AdVon publie ses avis produits
- Des employés de SellerRocket expliquent avec une grande franchise dans des vidéos YouTube comment ce dispositif fonctionne
- Les produits des clients de SellerRocket sont marqués dans le CMS d’AdVon avec un « petit icône de fusée mignon » et sont « toujours prioritaires »
Carrière du CEO d’AdVon, Ben Faw, et pratiques commerciales
- Faw a un parcours prestigieux mais, selon d’anciens collègues, il cherchait sans cesse à gagner davantage d’argent avec du contenu de faible qualité
- Faw « méprisait totalement les consommateurs » et « ne se souciait que de trouver un moyen rapide et bon marché de gagner plus d’argent pour lui-même »
- Faw a tenté d’influencer la couverture en mettant en avant ses relations personnelles et d’affaires avec des dirigeants de la maison mère de Futurism
Évolution et contradictions dans les affirmations d’AdVon
- Au départ, AdVon niait utiliser l’IA, puis, face à la preuve vidéo d’avis générés par IA, a reconnu l’utiliser pour certains clients
- Les historiques de modification d’articles fournis par AdVon ne sont pas crédibles, car ils montrent une vitesse de rédaction trop rapide pour sembler humaine
- AdVon affirme que MEL AI n’était pas en service avant 2023, mais les profils LinkedIn d’employés contredisent cette version
- AdVon soutient ne pas avoir licencié de rédacteurs à cause du passage à l’IA, mais le nombre de rédacteurs visibles sur LinkedIn semble avoir fortement chuté
Réaction des lecteurs au contenu IA et tendances du secteur
- Juste après l’affaire des faux auteurs de Sports Illustrated, un sondage a montré que 80 % des répondants estimaient que cela devrait être rendu illégal
- Le journalisme est un secteur fondé sur la confiance, mais dans le labyrinthe de faux auteurs et de menaces juridiques d’AdVon, il devient difficile de faire confiance même sur des questions élémentaires, comme savoir si un auteur est une vraie personne ou si une IA a généré un article
- Certains médias cherchent des usages honnêtes de l’IA, mais la plupart des expérimentations se heurtent à des problèmes embarrassants, comme les erreurs et le risque de plagiat
- Dans le pire des cas, l’IA menace de permettre à des escrocs de produire en masse, à une échelle inédite, du contenu de faible qualité et d’engloutir tout le Web sous le spam
- Il n’est pas surprenant que des entreprises comme AdVon évinceraient des rédacteurs en produisant à la chaîne du contenu médiocre avec l’IA, mais que des médias de confiance le diffusent constitue une tragédie de l’ère de l’IA
1 commentaires
Dans ce cas, la seule solution serait-elle vraiment d’obliger la création de comptes via une vérification d’identité fondée sur un numéro unique attribué à chaque personne, comme en Corée ou en Chine… C’est effrayant.