- Une analyse du phénomène par lequel les contenus générés par l’IA en viennent à représenter une part importante des interactions sur Internet
- À partir d’une polémique sur HackerNews autour du caractère généré ou non par l’IA d’un projet open source, l’auteur observe des schémas laissant penser que même les commentaires semblent écrits par une IA
- À l’époque d’IRC et des forums phpBB, les échanges entre vrais humains étaient au centre, alors qu’aujourd’hui des images, commentaires et bouts de code produits par l’IA se mêlent au quotidien
- Il a aussi constaté sur LinkedIn et ailleurs des cas où des photos d’entreprise manipulées par l’IA sont publiées comme de véritables posts d’employés
- Il exprime son inquiétude face à une évolution technologique qui semble s’orienter non plus vers le partage du savoir humain, mais vers des conversations entre bots et le reconditionnement commercial de contenus
Polémique sur HackerNews et prise de conscience du problème
- L’auteur découvre sur HackerNews un projet open source publié par un utilisateur
- Dans les commentaires, plusieurs utilisateurs anonymes soupçonnent que le code a peut-être été généré par l’IA
- Des remarques pointent la chronologie des commits, le style des commentaires dans le code et d’autres indices évoquant une production par IA
- L’auteur n’est pas opposé à l’usage de l’IA en soi, mais souligne qu’il faut indiquer explicitement son utilisation dans l’open source
- Parce que la plupart des participants sur Internet sont anonymes, il est difficile de vérifier leur expertise ou l’authenticité de ce qu’ils publient
- Les LLM peuvent être utiles pour des tâches simples, mais ils peuvent devenir dangereux sur des problèmes complexes ou des edge cases
Les traces de l’IA visibles dans les commentaires
- L’auteur remarque aussi dans les commentaires du créateur du projet un style typique de l’IA
- Exemple : usage excessif du tiret cadratin (—), expressions peu naturelles comme "you are absolutely right"
- Répétition de structures de phrase typiques de l’IA comme "let me know if you want to [do that thing] or [explore this other thing]"
- Comme ces formulations diffèrent des habitudes langagières réelles, cela amène à douter que l’interlocuteur soit une vraie personne
La prise de conscience de la « théorie de l’Internet mort »
- Cette expérience rappelle à l’auteur la Dead Internet Theory
- Cette théorie soutient que, depuis environ 2016, la majeure partie d’Internet serait remplie d’interactions entre bots et de contenus générés par des machines
- Le but de ces contenus serait principalement lié à la vente de produits ou à la manipulation du SEO
Contraste entre l’Internet d’hier et celui d’aujourd’hui
- Au début des années 2000, à l’époque d’IRC et des forums phpBB, l’apprentissage et les échanges entre humains réels étaient centraux
- L’auteur qualifie cette période d’« Internet University » et se souvient y avoir appris les réseaux, les systèmes d’exploitation, les jeux et le développement web
- À l’époque, il était évident que l’on parlait à de vraies personnes
- Aujourd’hui, la réalité est celle d’un mélange d’images IA et de commentaires IA, où il devient difficile de distinguer le vrai du faux
Inquiétudes face à la prolifération des contenus IA
- Sur LinkedIn, il a vu des photos de bureau manipulées par l’IA publiées par de vrais employés d’entreprise
- Des formes de mains étranges et du texte sans signification trahissaient leur génération par IA
- Il soulève même la possibilité que les personnes présentes sur ces photos n’existent pas
- Sur Facebook, Xitter, TikTok et d’autres plateformes également, les faux contenus générés par l’IA se propagent
- Exemples : une image montrant un personnage géant construisant une pyramide, ou des vidéos véhiculant un message politique précis
- L’auteur explique que cette réalité lui inspire tristesse et impuissance
- Avec l’accessibilité grand public de l’IA, les « AI-slop » (déchets de contenu IA) débordent
- Nous sommes entrés dans une époque où les gens n’écrivent plus directement leurs textes ou leur code, mais les confient à des agents IA
Doutes sur l’avenir de la technologie et du savoir humain
- L’auteur affirme aimer toujours la technologie et l’ingénierie logicielle, mais
estime que l’Internet d’aujourd’hui devient un espace où des bots parlent à d’autres bots
- Le savoir humain est reconditionné en contenus commerciaux du type « 10 étapes pour résoudre votre problème du quotidien »,
et le sens originel du partage des connaissances est en train de disparaître
Aucun commentaire pour le moment.