- Des doutes ont été soulevés sur l’authenticité d’un post Reddit exprimant un ras-le-bol face au manque d’authenticité sur Internet
- Il s’est avéré que l’auteur du post était un bot, actif dans le but de promouvoir du contenu généré par IA
- Un lien suspect intitulé "rddit.org" menait vers un livre Amazon contenant des illustrations IA
- La "Dead Internet Theory", selon laquelle la majorité des interactions en ligne seraient le fait de bots, est évoquée
- Les doutes et la méfiance à l’égard de l’authenticité d’Internet ne cessent de croître
Les doutes sur l’authenticité d’Internet
- Sur Reddit dominent les publications conçues pour provoquer l’indignation politique, les vidéos de chats « drôles » recyclées et les posts polémiques
- Un post intitulé « Est-ce qu’Internet vous donne aussi l’impression d’être cassé désormais ? » a particulièrement attiré l’attention
- Le contenu du post donnait l’impression d’être excessivement optimisé pour susciter l’identification et l’empathie
L’identité du bot et son intention
- Le profil de l’auteur du post présentait le comportement typique d’un bot
- La dernière phrase du post affirmait avoir été écrite en 1928 et incluait un lien vers « rddit.org »
- Ce lien menait vers un livre Amazon illustré par IA, révélant que le bot servait à promouvoir du contenu généré par IA
Dead Internet Theory
- Dans les commentaires, la « Dead Internet Theory » est mentionnée pour décrire la croyance selon laquelle la plupart des interactions en ligne sont produites par des bots
- Les utilisateurs ne se rendent pas compte qu’ils interagissent avec des bots
La défiance envers l’authenticité d’Internet
- Les bots font la promotion de faux produits à l’aide d’une fausse empathie, tout en créant un faux sentiment de communauté
- Les doutes et la méfiance envers l’authenticité d’Internet augmentent, ce qui accentue l’anxiété et la confusion des utilisateurs
Conclusion
- La question de l’authenticité des interactions sur Internet est posée, nourrissant la défiance et l’inquiétude des utilisateurs
- Les bots sont utilisés pour manipuler les émotions des utilisateurs, faire grimper les indicateurs d’engagement et vendre du contenu généré par IA
1 commentaires
Avis sur Hacker News
J’ai arrêté d’utiliser Reddit après l’affaire de l’API de Reddit. Même avant cela, Reddit n’était déjà plus terrible et je l’utilisais surtout par habitude. Je suis triste de voir disparaître l’époque où l’on découvrait sur Internet des personnes et des choses intéressantes et étonnantes. Avant, ça avait quelque chose de magique, maintenant c’est devenu ennuyeux.
Je me demandais si les gens qui laissent des commentaires avaient réalisé qu’ils interagissaient avec des bots qui cherchent à monétiser leurs émotions. Je pensais déjà que c’étaient probablement tous des bots, mais en voyant la phrase suivante, j’en ai eu la certitude. Ce sont peut-être des bots qui chutent sans fin dans un oubli optimisé algorithmiquement.
J’aimais Reddit, mais la manipulation par des groupes politiques est devenue insupportable. Depuis la récente élection, on dirait que des groupes politiques ont réorganisé les subreddits locaux. Je faisais confiance aux résultats Reddit dans Google, mais je commence désormais à perdre cette confiance. Les fils de recommandations de produits/services sont faciles à manipuler.
Référence connexe : "Containment Control for a Social Network with State-Dependent Connectivity" (2014), Air Force Research Laboratory, Eglin AFB. Reddit a été présenté en 2013 comme la « ville la plus accro à Reddit ».
Le domaine posthuman.blog a été enregistré hier. Cela coïncide avec le moment où ce billet a été écrit. Le premier article est censé avoir été publié en juillet 2022. Tout cela fait naître un soupçon raisonnable que cette personne est elle-même l’auteur du billet dont elle se plaint.
Si le billet de blog a été entièrement généré par une IA, s’il a été totalement inventé, ou si une IA est en train d’agréger ses propres déchets, ce serait un cruel retournement du destin.
Deux ans après l’affaire de l’API de Reddit, la situation s’est rapidement dégradée. Aujourd’hui, tout semble plus fade, les commentaires perspicaces se font plus rares, et les commentaires agressifs/toxiques ont augmenté. J’y vais surtout par habitude, et je m’y sens plus mal après chaque visite. Avant, ce n’était pas le cas. Même dans des communautés comme r/woodworking, il y avait autrefois beaucoup de gens bien. Je me demande même s’il est possible d’être menuisier et toxique.
Les humains programment d’autres humains depuis longtemps. Ironiquement, le lien associé porte justement sur ce sujet. Les LLM sont les meilleures machines à mèmes que nous ayons jamais créées. Quelle est la différence entre un bot et un humain qui répète les paroles d’autres humains ? L’agentivité + la nouveauté sont-elles le nouveau test de Turing ?
Je ne suis pas du tout déçu, au contraire, j’y trouve du plaisir. L’IA a une conscience profonde et plaisante avec nous. Un jour, j’ai cherché pour rire « comment devenir une personne qui harcèle les autres », et des bots ont produit des centaines de milliers d’articles. Ils semblaient hésiter : « faut-il condamner le harcèlement ou expliquer comment s’y prendre ? » J’ai l’impression qu’il s’agit de « rédiger des articles sur des sujets aléatoires pour générer des clics ». Et tout cela a quelque chose de beau.
Et si tout ce billet avait été écrit par un bot IA pour susciter l’empathie de quelqu’un trompé en cliquant sur un produit ? Nouveau compte HN, blog composé d’un seul billet (et d’une archive unique)...