Les résultats de recherche « produit X vs Y » sont désormais presque tous du baratin d’IA.
Voir l’Internet mort prendre de l’ampleur me donne envie de m’abonner à Kagi. Un jour, il faudra sans doute une certification de contenu créé par des humains.
Malheureusement, Kagi n’est pas non plus une panacée. Je paie et je l’utilise tous les jours pour soutenir une alternative à Google, mais le problème des résultats, aussi bien en recherche d’images qu’en recherche texte, saturés de déchets d’IA reste très sérieux.
Les comparatifs de produits en sont un exemple typique, mais ce qui m’inquiète davantage, ce sont les recherches liées à la santé. Cette semaine, j’ai essayé de trouver des études sur un médicament que je prends ; les résultats, déjà pollués par le SEO il y a cinq ans, sont désormais bien pires, avec des centaines de pages de spam généré par GPT pour pousser au clic.
Au final, j’ai complètement abandonné la recherche et j’ai dû trouver un article à peu près pertinent sur nih.gov, puis suivre manuellement sa liste de citations pour trouver des informations.
En me souvenant de l’Internet que j’utilisais enfant puis dans la vingtaine, c’est vraiment étrange de savoir que cet Internet ne reviendra jamais.
Regarder l’Internet mort prendre de l’ampleur est assez surréaliste.
Je pense que la commercialisation d’Internet par la publicité, puis sa centralisation dans des plateformes hostiles aux utilisateurs, ont clairement mis le feu aux poudres. L’ancien Internet paraît encore bien meilleur aujourd’hui, mais il a perdu la plupart de ses utilisateurs au cours des quinze dernières années.
Ajouter « Reddit » à la fin de toutes les requêtes aide, mais ce n’est probablement qu’une question de temps avant que la majeure partie du contenu de Reddit soit elle aussi générée par IA.
Même en cherchant « baby peacock » sur Kagi, on obtient presque les mêmes résultats que sur Google, et la plupart sont des images IA.
C’est à devenir fou. Internet est mort.
J’ai récemment acheté une maison et j’ai cherché des choses comme la façon de préparer des moulures avant de les peindre, bref des travaux de bricolage domestique. Presque tous les résultats étaient des fermes de contenu généré par IA, avec des pubs entre chaque paragraphe, une vidéo en lecture automatique sans rapport avec le sujet qui vous suit sur la page, une modale de consentement aux cookies, puis aussitôt une modale d’inscription à une newsletter pour « devenir ami ».
Qu’on le veuille ou non, le seul endroit où l’on semble encore pouvoir trouver de vraies informations, c’est à peu près Reddit.
Pour ce genre de recherches, YouTube et TikTok sont ce qu’il y a de mieux. La vidéo n’a pas encore été totalement submergée par l’IA, et on peut trouver quasiment n’importe quoi concernant les travaux manuels.
Je préfère largement le contenu texte à la vidéo, mais le vrai contenu texte écrit par des humains est quasiment mort. Reddit est peut-être une rare exception pour l’instant. Il reste aussi de vieux forums encore vivants selon les domaines, mais ils deviennent extrêmement difficiles à trouver.
Mieux vaut acheter un livre généraliste d’entretien de la maison.
Par exemple, https://archive.org/details/stanleyhomerepai0000fine/page/14... mène au chapitre « Painting Trim the Right Way » du livre Stanley Home Repairs, publié en 2014.
Les librairies d’occasion valent aussi le coup d’œil. Le bricolage domestique n’a pas énormément changé.
On peut aussi lancer Wine et essayer le CD-ROM « Black & Decker Everyday Home Repairs » publié par Broderbund : https://archive.org/details/BlackDeckerEverydayHomeRepairsBr.... D’après https://www.goodreads.com/book/show/3424503-everyday-home-re..., il guide pas à pas sur plus de 100 problèmes domestiques courants, de la réparation d’un robinet qui fuit à la remise en état d’un parquet massif, avec animations et narration, et inclut aussi les durées et coûts estimés ainsi que les listes de matériaux et d’outils nécessaires.
En vrai, ça a l’air plutôt pas mal.
En tant que propriétaire d’une maison construite en 1939 que je répare moi-même, je me suis constitué une bibliothèque de références sur la maison seulement après avoir déjà avancé dans les travaux, alors que j’aurais dû le faire avant même de prendre un tournevis.
Renovations de Taunton Press (https://www.bookfinder.com/search_s/?title=Renovation%205th%...) est la première ressource que je consulte quand je commence un projet de rénovation. Le chapitre 18 est entièrement consacré à la peinture. Les autres livres de Taunton sont excellents aussi, mais l’étendue de Renovations est incomparable.
Les moulures plates en MDF blanc que l’on achète aujourd’hui sont déjà apprêtées et prêtes à peindre.
J’ai une vieille voiture et une voiture récente ; pour la vieille, comme elle existait à l’époque de l’ancien Internet, on peut trouver comment faire n’importe quelle réparation. À cette époque, les gens laissaient toutes sortes de comptes rendus de travaux.
Pour la voiture récente, il y a très peu d’informations pratiques, et la plupart se résument à des vidéos YouTube de personnes qui n’y connaissent rien en train de filmer des réparations maison mal faites.
Pour le bricolage domestique, je pense que YouTube est la meilleure ressource. Bien sûr, je comprends si l’on voulait du texte et des photos.
Dans une économie d’Internet qui tourne autour de la production et de la monétisation du « contenu », il était probablement très probable que cela arrive dès le départ.
On a commencé par adosser de la publicité à du contenu existant, puis on est passé aux réseaux sociaux et aux médias sociaux, qui étaient au fond des moteurs permettant de crowdsourcer encore plus de production de contenu pour afficher des publicités à côté. Comme de l’argent est en jeu, produire du contenu est devenu une activité importante, et la technologie répond à cette demande en fabriquant du contenu pour moins cher que ce qu’il peut rapporter.
À l’origine, la difficulté de gérer les contenus indésirables créés par des humains commençait déjà à éroder ce modèle économique ; désormais, les outils génératifs produisent des contenus non désirés plus vite qu’on ne peut les modérer. À un certain niveau de saturation, les gens perdront tout intérêt, et les outils qui distinguaient jusque-là les bons contenus des mauvais à l’aide d’heuristiques algorithmiques deviendront inutiles. La seule issue visible serait une curation humaine de contenus créés par des humains, mais je ne sais pas s’il existe un modèle économique de ce type à l’échelle exigée par l’industrie.
Beaucoup regardent les blogs avec nostalgie, mais ils ont été l’un des premiers exemples du passage d’un Internet de contenus durables à une production d’articles façon ferme à contenus.
Le Web des débuts ressemblait davantage à une visite de bibliothèque. On ne s’attendait pas à ce que la plupart des sites soient mis à jour tous les jours, ni même tous les mois, et les textes étaient presque toujours organisés par sujet plutôt que par ordre chronologique inverse.
L’obsession des blogs pour la nouveauté a changé beaucoup de choses, et de nombreux sites se sont nettement dégradés en passant de la constitution de bibliothèques de ressources pérennes à la recherche de nouvelles pages vues. Les discussions en ligne ont connu une évolution similaire en passant des forums aux structures de recommandation à la Reddit/HN. Sur les anciens forums, il reste encore des discussions qui se poursuivent depuis plus de dix ans ; sur Reddit ou HN, au bout de quelques heures seulement, un post est repoussé hors de la page et la discussion meurt.
La confiance humaine dépasse déjà difficilement 100 personnes ; à l’échelle de tout Internet, c’est encore plus impossible, donc je ne pense pas qu’un tel modèle économique existe. Les humains reviendront probablement à la taille tribale pour laquelle ils sont faits, celle qu’ils peuvent comprendre et à laquelle ils peuvent appartenir.
Les discussions de groupe privées sont bien plus populaires et répandues que nous ne voulons l’admettre, et dans ce contexte le mouvement ne fera que s’accélérer.
Dans les systèmes ouverts, la curation humaine est possible, mais avec quelques énormes silos, l’efficacité algorithmique opère à l’intérieur et produit les résultats que nous voyons aujourd’hui.
J’aimerais que les gens perdent tout intérêt et cessent de consommer du contenu-poubelle, mais le pari d’en face est qu’ils s’habitueront à des contenus fournis par algorithme de qualité toujours plus basse, tandis que l’industrie extraira indéfiniment du profit par tous les moyens. L’histoire de la télévision par câble suggère tout de même qu’il existe un point de rupture.
La curation par des humains de contenus créés par des humains, c’est en réalité le retweet.
De petits groupes monoculturels, comme une poignée d’étudiants qui s’ennuient, finiront toujours par comprendre l’algorithme, prendre le contrôle de la plateforme avec du porno et du spam, et en ronger les ressources. Les meilleurs outils créés pour aider les groupes les plus faibles, associés à des incitations financières, creusent au contraire l’écart. Cela pose problème parce que les influenceurs financiers ne paient pas pour être humiliés par une poignée d’influenceurs du marché du contenu, mais pour être reconnus par le grand public.
Mais en quoi est-ce un problème ? Les producteurs de « contenus indésirables » ne font qu’optimiser pour ce que le marché valorise le plus. Si c’est un problème, alors c’est l’existence même du marché qui est le problème. Dans ce cas, que faire ? Le détruire purement et simplement peut aussi se défendre.
Depuis Gutenberg, l’édition n’a-t-elle pas toujours évolué vers la monétisation du contenu ? Si l’on regarde l’histoire de l’Église catholique, il est possible que ce soit même antérieur.
Ce n’est pas limité aux images. Quand on cherche sur Google quelque chose qui ressemble à une question courante, on voit souvent apparaître dans les 3 à 5 premiers résultats une salade de mots générée par IA.
Au début de la lecture, on ne s’en rend pas compte immédiatement. Puis on finit par soupçonner même des choses qui ne sont manifestement pas générées par IA. On a une intuition de la manière dont les humains peuvent se tromper, de la façon dont ils se trompent quand ils se trompent, du ton qu’ils prennent lorsqu’ils ont tort, de la probabilité qu’ils aient tort, des formats et plateformes où les erreurs apparaissent, de leur fréquence, et de la manière dont les autres réagissent. L’IA est quelque chose de totalement différent. Aucune intuition ni expérience ne permet de savoir quand une IA qui paraît plausible se trompe.
Voir tout l’ensemble d’heuristiques qui servaient inconsciemment à évaluer la qualité des informations transmises être rendu inopérant du jour au lendemain, c’est une recette pour la folie et le malheur. Rarement une technologie m’a rendu aussi sincèrement triste de toute ma vie.
Honnêtement, je pense que c’est la fin de l’Internet public. Ce qui a échoué, ce n’est pas Google, c’est la réalité même de l’Internet public.
Quand j’ai besoin d’aide ou que j’ai une question, je n’utilise pas Google et je ne poste pas sur un forum public. Je demande dans une discussion de groupe privée où tout le monde est une vraie personne, où personne ne gagne d’argent, et où personne ne copie-colle ChatGPT pour accumuler des points Internet afin de revendre son compte plus tard.
Il n’y a qu’une seule voie pour changer cela, et elle ne plaira pas aux gens : que tout le contenu sur Internet soit relié à une identité légale. Chaque publication et chaque commentaire sur Facebook devrait pouvoir être attribué à une personne réelle.
Je ne pense pas que les heuristiques soient si différentes. Le spam d’optimisation pour les moteurs de recherche et les contenus absurdes existaient déjà, et Google comme YouTube étaient remplis de « créateurs de contenu » humains qui optimisaient pour le clic et manipulaient le système de recommandation de YouTube.
Le contenu IA n’est pas si différent. Simplement, il est désormais 100 fois plus facile d’en produire, donc on en voit beaucoup plus. Fondamentalement, ce n’est pas un problème d’IA, mais un problème d’incitations et de modèles économiques fondés sur la publicité. L’IA a rendu la dégradation des services beaucoup plus visible, mais le problème existait déjà.
Je ne connais pas la solution. Je suppose qu’à mesure que les contenus de mauvaise qualité submergeront le Web public, celui-ci deviendra de moins en moins important, et qu’une grande partie des échanges migrera vers de petites communautés reposant fortement sur la vérification de l’identité et des qualifications des personnes.
Je ne veux pas jouer les rabat-joie, mais la perte de la vie privée me paraît encore bien plus triste.
C’est difficile d’expliquer pourquoi, mais peut-être parce que je ne savais pas à quoi ressemble un bébé paon, cet exemple m’a vraiment fait ressentir très fortement le côté sombre de l’IA.
J’avais l’habitude de faire assez confiance aux résultats de recherche. Il y avait certes des résultats bizarres ou presque absurdes, mais ils étaient épars au milieu d’une mer d’images pertinentes. Désormais, je peux être complètement aveugle sur un sujet que je ne connais pas. Pour quelqu’un qui a grandi avec Google comme quelque chose qui « existe tout simplement », c’est vraiment effrayant.
Si Google veut rester pertinent, ne doit-il pas résoudre ce problème d’une manière ou d’une autre ? Si chercher des images et générer des images donne le même résultat, quel est encore l’intérêt de la recherche d’images ?
On pourrait dire exactement la même chose de la recherche classique. Peu importe ce que vous cherchez, vous obtenez une page de publicités, puis quelques pages de fermes à contenu, puis des pages qui « ont l’air d’être écrites par des experts mais sont au final des fermes à contenu »
Le fait d’avoir financé Internet par la publicité a rendu vraiment difficile la recherche de contenus de bonne qualité. Si vous n’êtes ni créateur de contenu ni Google, les incitations sont complètement dévoyées
L’objectif semble être le watermarking, mais je ne vois pas comment qui que ce soit pourrait considérer le Web autrement que comme étant dans un déclin géré. La boucle où l’IA nourrit l’IA finira par tout achever. Platformer l’a, à mon avis, le mieux expliqué : https://www.platformer.news/google-io-ai-search-sundar-picha...
La question est de savoir ce qui vient ensuite, et personne ne semble avoir la réponse
Je ne sais pas ce que « résoudre » veut dire. C’est déjà en train de résoudre le problème. Si les gens trouvent ça suffisamment acceptable, alors c’est terminé
La preuve, c’est tout le reste de l’actualité et des réseaux sociaux sur Terre
Google est plus susceptible de résoudre le problème en faisant en sorte que les gens ne remarquent pas que les bébés paons sont générés par IA
Je pense que c’est l’une des raisons pour lesquelles les grandes entreprises tech font du lobbying pour une réglementation plus stricte de l’IA. Elles ne craignent pas que l’IA prenne le pouvoir, elles craignent que l’IA détruise leur activité
Le pire, c’est le résultat qui reprend le titre de Snopes, “Video Genuinely Shows White ‘Baby Peacock’?”, en enlevant simplement le point d’interrogation. Cette page explique que la photo en question n’est pas celle d’un vrai bébé paon
Si l’on cherche le terme plus exact, peachick, on semble obtenir 100 % d’images réelles. Même si la moitié des pages les appellent encore “baby peacocks”
Le premier résultat est Adobe Stock. On pourrait penser que leurs critères seraient plus élevés que ceux de Pinterest ou TikTok, mais voilà la réalité
Dans un avenir proche, il y a de fortes chances qu’une part importante des vidéos YouTube et des podcasts soit générée par IA, par exemple via des outils comme Notebook LM.
Cela dit, je ne suis pas sûr que le public apprécie vraiment ce contenu généré par IA. Personnellement, je préfère les contenus créés par des humains. Ils me semblent plus authentiques et plus immersifs.
Les outils d’IA ont absolument besoin de dispositifs de détection robustes, comme un watermark fiable, pour que les autres plateformes puissent identifier les contenus générés par IA. Malheureusement, les outils actuels de détection d’audio généré par IA sont encore insuffisants : https://www.npr.org/2024/04/05/1241446778/deepfake-audio-det...
Je viens aussi de compiler une liste de « podcasts » générés par Notebook LM : https://github.com/ListenNotes/notebooklm-generated-fake-pod...
Il faut se demander si l’on a envie d’écouter des podcasts créés par IA. Les gens peuvent accepter assez bien les programmes qu’ils ont créés eux-mêmes, mais je pense qu’ils apprécieront moins les « podcasts » générés par IA par d’autres personnes.
J’aimerais penser que les contenus créés par des humains sont plus authentiques et plus immersifs, mais je me demande combien de temps cela restera vrai.
Je « voudrais » préférer les contenus produits par des humains, mais l’IA semble capable de mieux optimiser l’engagement humain. Ce sera probablement d’autant plus vrai pour les contenus simples qui déclenchent de la dopamine, comme les vidéos TikTok. Nous sommes moins complexes que nous ne le pensons.
Malheureusement, les dispositifs de détection des outils d’IA ne fonctionneront jamais vraiment correctement. Il n’y a aucun moyen d’exclure les acteurs malveillants, et il y a beaucoup d’argent en jeu pour faire passer l’IA pour un humain. Il faudra peut-être plutôt apposer un watermark ou une signature sur les contenus créés par des humains.
La dichotomie posée ici n’est pas très utile.
Par exemple, il y a déjà dix ans, je regardais des vidéos YouTube dont toute la narration était en TTS. Le créateur ne voulait pas utiliser sa propre voix, il écrivait donc un script et le passait dans un système TTS. Compte tenu de l’état de la technologie à l’époque, le son était atroce, mais les gens appréciaient les vidéos et elles faisaient beaucoup de vues. Est-ce qu’on appelle cela du contenu généré par IA ?
Aujourd’hui, il existe un TTS bien meilleur même sans IA générative. Ces vidéos seraient désormais plus agréables à regarder. On pourrait peut-être deviner que ce n’est pas un humain à cause du peu de variation dans le ton, mais il faudrait probablement écouter plus d’une minute pour le distinguer. Est-ce généré par IA ?
Avec l’IA générative, on peut désormais produire une voix qu’il est peut-être impossible d’identifier comme étant de l’IA. Mais si un humain a écrit le script, est-ce acceptable ? Est-ce généré par IA ?
Enfin, imaginons que, dans la même vidéo, le créateur écrive lui-même le script, mais estime ne pas très bien écrire, ou que l’anglais ne soit pas sa langue maternelle et que son texte contienne beaucoup d’erreurs grammaticales. Il transmet alors le script à GPT, non seulement pour corriger la grammaire, mais aussi pour l’améliorer avec un objectif du type « en faire le script d’une vidéo populaire ». Ensuite, il vérifie que le message essentiel qu’il voulait transmettre est bien présent, puis lance la génération de la voix. Est-ce généré par IA ?
Pour moi, tous ces cas sont acceptables et ne sont pas inférieurs à un workflow entièrement humain. Si le créateur est humain et qu’il estime transmettre ce qu’il avait à transmettre, cela suffit.
J’aimerais envoyer les brouillons de mes articles de blog à GPT pour qu’il les écrive à ma place. Si je ne le fais pas encore, c’est parce que le résultat n’a pas ma « voix ». Il peut contenir ce que je voulais dire, mais le style est complètement différent. Si GPT/Claude parvenait à imiter plus fidèlement mon style, je l’utiliserais immédiatement. Peu de gens aiment les révisions sans fin, et c’est particulièrement vrai des auteurs.
La question est de savoir combien de temps il faudra avant qu’on ne puisse plus faire la différence.
Chez Listen Notes, nous avons supprimé plus de 500 faux podcasts générés avec Notebook LM rien que le week-end dernier.
C’est décevant de voir des escrocs et des spécialistes black hat du référencement utiliser déjà Notebook LM pour produire en masse de faux podcasts et les diffuser sur plusieurs plateformes.
Personnellement, je suis opposé aux machines à contenu de mauvaise qualité illimitées.
Comme Google rend de plus en plus difficile, dans la recherche d’images, l’accès à l’image réelle ou son téléchargement, j’ai créé un outil de recherche d’images qui permet de chercher dans le stock d’images de Google via un raccourci du système d’exploitation et de copier rapidement le résultat dans le presse-papiers. Il utilise un identifiant Google Search Engine personnalisé.
Il y a environ un an, j’ai remarqué que 90 % des résultats étaient générés par IA, alors j’ai ajouté un flag « No AI ». C’est un filtre rapide et grossier qui limite par défaut les résultats à ceux d’avant 2022. Ce n’est pas parfait, mais ça fonctionne comme solution de fortune. https://github.com/scpedicini/truman-show
1 commentaires
Avis de Hacker News
Les résultats de recherche « produit X vs Y » sont désormais presque tous du baratin d’IA.
Voir l’Internet mort prendre de l’ampleur me donne envie de m’abonner à Kagi. Un jour, il faudra sans doute une certification de contenu créé par des humains.
Les comparatifs de produits en sont un exemple typique, mais ce qui m’inquiète davantage, ce sont les recherches liées à la santé. Cette semaine, j’ai essayé de trouver des études sur un médicament que je prends ; les résultats, déjà pollués par le SEO il y a cinq ans, sont désormais bien pires, avec des centaines de pages de spam généré par GPT pour pousser au clic.
Au final, j’ai complètement abandonné la recherche et j’ai dû trouver un article à peu près pertinent sur nih.gov, puis suivre manuellement sa liste de citations pour trouver des informations.
Je pense que la commercialisation d’Internet par la publicité, puis sa centralisation dans des plateformes hostiles aux utilisateurs, ont clairement mis le feu aux poudres. L’ancien Internet paraît encore bien meilleur aujourd’hui, mais il a perdu la plupart de ses utilisateurs au cours des quinze dernières années.
C’est à devenir fou. Internet est mort.
J’ai récemment acheté une maison et j’ai cherché des choses comme la façon de préparer des moulures avant de les peindre, bref des travaux de bricolage domestique. Presque tous les résultats étaient des fermes de contenu généré par IA, avec des pubs entre chaque paragraphe, une vidéo en lecture automatique sans rapport avec le sujet qui vous suit sur la page, une modale de consentement aux cookies, puis aussitôt une modale d’inscription à une newsletter pour « devenir ami ».
Qu’on le veuille ou non, le seul endroit où l’on semble encore pouvoir trouver de vraies informations, c’est à peu près Reddit.
Je préfère largement le contenu texte à la vidéo, mais le vrai contenu texte écrit par des humains est quasiment mort. Reddit est peut-être une rare exception pour l’instant. Il reste aussi de vieux forums encore vivants selon les domaines, mais ils deviennent extrêmement difficiles à trouver.
Par exemple, https://archive.org/details/stanleyhomerepai0000fine/page/14... mène au chapitre « Painting Trim the Right Way » du livre Stanley Home Repairs, publié en 2014.
Les librairies d’occasion valent aussi le coup d’œil. Le bricolage domestique n’a pas énormément changé.
On peut aussi lancer Wine et essayer le CD-ROM « Black & Decker Everyday Home Repairs » publié par Broderbund : https://archive.org/details/BlackDeckerEverydayHomeRepairsBr.... D’après https://www.goodreads.com/book/show/3424503-everyday-home-re..., il guide pas à pas sur plus de 100 problèmes domestiques courants, de la réparation d’un robinet qui fuit à la remise en état d’un parquet massif, avec animations et narration, et inclut aussi les durées et coûts estimés ainsi que les listes de matériaux et d’outils nécessaires.
En vrai, ça a l’air plutôt pas mal.
Renovations de Taunton Press (https://www.bookfinder.com/search_s/?title=Renovation%205th%...) est la première ressource que je consulte quand je commence un projet de rénovation. Le chapitre 18 est entièrement consacré à la peinture. Les autres livres de Taunton sont excellents aussi, mais l’étendue de Renovations est incomparable.
Les moulures plates en MDF blanc que l’on achète aujourd’hui sont déjà apprêtées et prêtes à peindre.
Pour la voiture récente, il y a très peu d’informations pratiques, et la plupart se résument à des vidéos YouTube de personnes qui n’y connaissent rien en train de filmer des réparations maison mal faites.
Dans une économie d’Internet qui tourne autour de la production et de la monétisation du « contenu », il était probablement très probable que cela arrive dès le départ.
On a commencé par adosser de la publicité à du contenu existant, puis on est passé aux réseaux sociaux et aux médias sociaux, qui étaient au fond des moteurs permettant de crowdsourcer encore plus de production de contenu pour afficher des publicités à côté. Comme de l’argent est en jeu, produire du contenu est devenu une activité importante, et la technologie répond à cette demande en fabriquant du contenu pour moins cher que ce qu’il peut rapporter.
À l’origine, la difficulté de gérer les contenus indésirables créés par des humains commençait déjà à éroder ce modèle économique ; désormais, les outils génératifs produisent des contenus non désirés plus vite qu’on ne peut les modérer. À un certain niveau de saturation, les gens perdront tout intérêt, et les outils qui distinguaient jusque-là les bons contenus des mauvais à l’aide d’heuristiques algorithmiques deviendront inutiles. La seule issue visible serait une curation humaine de contenus créés par des humains, mais je ne sais pas s’il existe un modèle économique de ce type à l’échelle exigée par l’industrie.
Le Web des débuts ressemblait davantage à une visite de bibliothèque. On ne s’attendait pas à ce que la plupart des sites soient mis à jour tous les jours, ni même tous les mois, et les textes étaient presque toujours organisés par sujet plutôt que par ordre chronologique inverse.
L’obsession des blogs pour la nouveauté a changé beaucoup de choses, et de nombreux sites se sont nettement dégradés en passant de la constitution de bibliothèques de ressources pérennes à la recherche de nouvelles pages vues. Les discussions en ligne ont connu une évolution similaire en passant des forums aux structures de recommandation à la Reddit/HN. Sur les anciens forums, il reste encore des discussions qui se poursuivent depuis plus de dix ans ; sur Reddit ou HN, au bout de quelques heures seulement, un post est repoussé hors de la page et la discussion meurt.
Les discussions de groupe privées sont bien plus populaires et répandues que nous ne voulons l’admettre, et dans ce contexte le mouvement ne fera que s’accélérer.
J’aimerais que les gens perdent tout intérêt et cessent de consommer du contenu-poubelle, mais le pari d’en face est qu’ils s’habitueront à des contenus fournis par algorithme de qualité toujours plus basse, tandis que l’industrie extraira indéfiniment du profit par tous les moyens. L’histoire de la télévision par câble suggère tout de même qu’il existe un point de rupture.
De petits groupes monoculturels, comme une poignée d’étudiants qui s’ennuient, finiront toujours par comprendre l’algorithme, prendre le contrôle de la plateforme avec du porno et du spam, et en ronger les ressources. Les meilleurs outils créés pour aider les groupes les plus faibles, associés à des incitations financières, creusent au contraire l’écart. Cela pose problème parce que les influenceurs financiers ne paient pas pour être humiliés par une poignée d’influenceurs du marché du contenu, mais pour être reconnus par le grand public.
Mais en quoi est-ce un problème ? Les producteurs de « contenus indésirables » ne font qu’optimiser pour ce que le marché valorise le plus. Si c’est un problème, alors c’est l’existence même du marché qui est le problème. Dans ce cas, que faire ? Le détruire purement et simplement peut aussi se défendre.
Ce n’est pas limité aux images. Quand on cherche sur Google quelque chose qui ressemble à une question courante, on voit souvent apparaître dans les 3 à 5 premiers résultats une salade de mots générée par IA.
Au début de la lecture, on ne s’en rend pas compte immédiatement. Puis on finit par soupçonner même des choses qui ne sont manifestement pas générées par IA. On a une intuition de la manière dont les humains peuvent se tromper, de la façon dont ils se trompent quand ils se trompent, du ton qu’ils prennent lorsqu’ils ont tort, de la probabilité qu’ils aient tort, des formats et plateformes où les erreurs apparaissent, de leur fréquence, et de la manière dont les autres réagissent. L’IA est quelque chose de totalement différent. Aucune intuition ni expérience ne permet de savoir quand une IA qui paraît plausible se trompe.
Voir tout l’ensemble d’heuristiques qui servaient inconsciemment à évaluer la qualité des informations transmises être rendu inopérant du jour au lendemain, c’est une recette pour la folie et le malheur. Rarement une technologie m’a rendu aussi sincèrement triste de toute ma vie.
Quand j’ai besoin d’aide ou que j’ai une question, je n’utilise pas Google et je ne poste pas sur un forum public. Je demande dans une discussion de groupe privée où tout le monde est une vraie personne, où personne ne gagne d’argent, et où personne ne copie-colle ChatGPT pour accumuler des points Internet afin de revendre son compte plus tard.
Il n’y a qu’une seule voie pour changer cela, et elle ne plaira pas aux gens : que tout le contenu sur Internet soit relié à une identité légale. Chaque publication et chaque commentaire sur Facebook devrait pouvoir être attribué à une personne réelle.
Le contenu IA n’est pas si différent. Simplement, il est désormais 100 fois plus facile d’en produire, donc on en voit beaucoup plus. Fondamentalement, ce n’est pas un problème d’IA, mais un problème d’incitations et de modèles économiques fondés sur la publicité. L’IA a rendu la dégradation des services beaucoup plus visible, mais le problème existait déjà.
Je ne connais pas la solution. Je suppose qu’à mesure que les contenus de mauvaise qualité submergeront le Web public, celui-ci deviendra de moins en moins important, et qu’une grande partie des échanges migrera vers de petites communautés reposant fortement sur la vérification de l’identité et des qualifications des personnes.
C’est difficile d’expliquer pourquoi, mais peut-être parce que je ne savais pas à quoi ressemble un bébé paon, cet exemple m’a vraiment fait ressentir très fortement le côté sombre de l’IA.
J’avais l’habitude de faire assez confiance aux résultats de recherche. Il y avait certes des résultats bizarres ou presque absurdes, mais ils étaient épars au milieu d’une mer d’images pertinentes. Désormais, je peux être complètement aveugle sur un sujet que je ne connais pas. Pour quelqu’un qui a grandi avec Google comme quelque chose qui « existe tout simplement », c’est vraiment effrayant.
Si vous n’avez pas de compte Twitter et que vous voulez en voir plus qu’un seul post, c’est visible ici : https://xcancel.com/notengoprisa/status/1842550658102079556
Si Google veut rester pertinent, ne doit-il pas résoudre ce problème d’une manière ou d’une autre ? Si chercher des images et générer des images donne le même résultat, quel est encore l’intérêt de la recherche d’images ?
Le fait d’avoir financé Internet par la publicité a rendu vraiment difficile la recherche de contenus de bonne qualité. Si vous n’êtes ni créateur de contenu ni Google, les incitations sont complètement dévoyées
La question est de savoir ce qui vient ensuite, et personne ne semble avoir la réponse
La preuve, c’est tout le reste de l’actualité et des réseaux sociaux sur Terre
Le pire, c’est le résultat qui reprend le titre de Snopes, “Video Genuinely Shows White ‘Baby Peacock’?”, en enlevant simplement le point d’interrogation. Cette page explique que la photo en question n’est pas celle d’un vrai bébé paon
Si l’on cherche le terme plus exact, peachick, on semble obtenir 100 % d’images réelles. Même si la moitié des pages les appellent encore “baby peacocks”
Dans un avenir proche, il y a de fortes chances qu’une part importante des vidéos YouTube et des podcasts soit générée par IA, par exemple via des outils comme Notebook LM.
Cela dit, je ne suis pas sûr que le public apprécie vraiment ce contenu généré par IA. Personnellement, je préfère les contenus créés par des humains. Ils me semblent plus authentiques et plus immersifs.
Les outils d’IA ont absolument besoin de dispositifs de détection robustes, comme un watermark fiable, pour que les autres plateformes puissent identifier les contenus générés par IA. Malheureusement, les outils actuels de détection d’audio généré par IA sont encore insuffisants : https://www.npr.org/2024/04/05/1241446778/deepfake-audio-det...
Je viens aussi de compiler une liste de « podcasts » générés par Notebook LM : https://github.com/ListenNotes/notebooklm-generated-fake-pod...
Il faut se demander si l’on a envie d’écouter des podcasts créés par IA. Les gens peuvent accepter assez bien les programmes qu’ils ont créés eux-mêmes, mais je pense qu’ils apprécieront moins les « podcasts » générés par IA par d’autres personnes.
Je « voudrais » préférer les contenus produits par des humains, mais l’IA semble capable de mieux optimiser l’engagement humain. Ce sera probablement d’autant plus vrai pour les contenus simples qui déclenchent de la dopamine, comme les vidéos TikTok. Nous sommes moins complexes que nous ne le pensons.
Malheureusement, les dispositifs de détection des outils d’IA ne fonctionneront jamais vraiment correctement. Il n’y a aucun moyen d’exclure les acteurs malveillants, et il y a beaucoup d’argent en jeu pour faire passer l’IA pour un humain. Il faudra peut-être plutôt apposer un watermark ou une signature sur les contenus créés par des humains.
Par exemple, il y a déjà dix ans, je regardais des vidéos YouTube dont toute la narration était en TTS. Le créateur ne voulait pas utiliser sa propre voix, il écrivait donc un script et le passait dans un système TTS. Compte tenu de l’état de la technologie à l’époque, le son était atroce, mais les gens appréciaient les vidéos et elles faisaient beaucoup de vues. Est-ce qu’on appelle cela du contenu généré par IA ?
Aujourd’hui, il existe un TTS bien meilleur même sans IA générative. Ces vidéos seraient désormais plus agréables à regarder. On pourrait peut-être deviner que ce n’est pas un humain à cause du peu de variation dans le ton, mais il faudrait probablement écouter plus d’une minute pour le distinguer. Est-ce généré par IA ?
Avec l’IA générative, on peut désormais produire une voix qu’il est peut-être impossible d’identifier comme étant de l’IA. Mais si un humain a écrit le script, est-ce acceptable ? Est-ce généré par IA ?
Enfin, imaginons que, dans la même vidéo, le créateur écrive lui-même le script, mais estime ne pas très bien écrire, ou que l’anglais ne soit pas sa langue maternelle et que son texte contienne beaucoup d’erreurs grammaticales. Il transmet alors le script à GPT, non seulement pour corriger la grammaire, mais aussi pour l’améliorer avec un objectif du type « en faire le script d’une vidéo populaire ». Ensuite, il vérifie que le message essentiel qu’il voulait transmettre est bien présent, puis lance la génération de la voix. Est-ce généré par IA ?
Pour moi, tous ces cas sont acceptables et ne sont pas inférieurs à un workflow entièrement humain. Si le créateur est humain et qu’il estime transmettre ce qu’il avait à transmettre, cela suffit.
J’aimerais envoyer les brouillons de mes articles de blog à GPT pour qu’il les écrive à ma place. Si je ne le fais pas encore, c’est parce que le résultat n’a pas ma « voix ». Il peut contenir ce que je voulais dire, mais le style est complètement différent. Si GPT/Claude parvenait à imiter plus fidèlement mon style, je l’utiliserais immédiatement. Peu de gens aiment les révisions sans fin, et c’est particulièrement vrai des auteurs.
C’est décevant de voir des escrocs et des spécialistes black hat du référencement utiliser déjà Notebook LM pour produire en masse de faux podcasts et les diffuser sur plusieurs plateformes.
Comme Google rend de plus en plus difficile, dans la recherche d’images, l’accès à l’image réelle ou son téléchargement, j’ai créé un outil de recherche d’images qui permet de chercher dans le stock d’images de Google via un raccourci du système d’exploitation et de copier rapidement le résultat dans le presse-papiers. Il utilise un identifiant Google Search Engine personnalisé.
Il y a environ un an, j’ai remarqué que 90 % des résultats étaient générés par IA, alors j’ai ajouté un flag « No AI ». C’est un filtre rapide et grossier qui limite par défaut les résultats à ceux d’avant 2022. Ce n’est pas parfait, mais ça fonctionne comme solution de fortune.
https://github.com/scpedicini/truman-show