Ask HN : faut-il ajouter un indicateur pour signaler les textes générés par IA ?

• Proposition d’une fonctionnalité qui ajouterait uniquement un signalement, sans déclasser les textes générés par IA, afin de permettre aux utilisateurs qui ne souhaitent pas les lire de les ignorer
• Le débat porte sur la question de savoir si le système de vote existant suffit, ou si HN doit modifier les principes de base qu’il a longtemps conservés pour s’adapter à l’ère de l’IA générative

[GN⁺]

Avis sur Hacker News

• dang : HN a déjà une règle interdisant les textes générés par IA : https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
  Il n’existe pas encore de règle identique pour le corps des articles, mais la communauté semble globalement ne pas vouloir de ce type de contenu ou le noter faiblement. Si des réactions comme « montrez simplement le prompt » ont été rassemblées sur https://news.ycombinator.com/genai-pushback, c’est pour les envoyer aux utilisateurs qui demandent pourquoi leur texte généré par IA a été signalé
  En ce moment, il y a une intéressante course aux armements où l’IA apprend des humains pendant que les groupes humains apprennent aussi à reconnaître et intégrer le style de l’IA. Les lecteurs réagissent presque allergiquement à une écriture de type LLM, et à cet instant le texte est aussitôt relégué dans une catégorie de faible statut. Impossible de savoir où cela mènera à mesure que l’IA et les humains s’adaptent mutuellement
  À l’inverse, si l’on veut qu’un texte soit classé comme ayant un statut élevé, il faut l’écrire soi-même. pg l’a déjà formulé comme « writes and write-nots » : https://paulgraham.com/writes.html
  Il ne s’agit pas de nier la technologie des LLM en elle-même, et HN en dépend fortement aussi. La vraie question est de savoir comment l’utiliser, et s’il faut s’en servir pour des textes publiés à destination d’autres humains : https://x.com/paulg/status/2058871512451412457
  Un signalement servant uniquement d’étiquette serait en pratique une fonction de tag, que HN a toujours refusée jusqu’ici sans toutefois l’exclure totalement. À la place, il est plus probable qu’au moment du signalement on demande une raison, avec des choix comme suspicion de contenu généré par IA, spam, hors sujet ou agressivité. Les simples votes ne suffisent jamais : https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
  À la question de savoir si HN doit changer à l’ère de l’IA générative, j’aimerais répondre avec https://news.ycombinator.com/item?id=48887149, en hommage à https://news.ycombinator.com/item?id=3742902

  • grayclhn : Le réduire à une allergie ou à une question de statut est trop simpliste. J’ai relu des centaines de documents générés par IA au travail et j’en ai moi-même beaucoup généré, mais le plus gros problème est qu’il est impossible d’avoir un retour approfondi
    On ne peut pas savoir si un malentendu ou une lacune vient d’un manque de compréhension de l’auteur, du fait que l’IA n’a pas compris, ou du fait que l’auteur n’a pas correctement relu. Même s’il y a une idée surprenante, il est difficile de vérifier si elle vient vraiment de l’intuition de l’auteur, s’il peut l’expliquer davantage ou d’où elle sort
    Si un co-auteur humain retravaille suffisamment le texte, il peut refléter fidèlement son point de vue et sa compréhension, mais c’est rare en pratique. Et le fait qu’il n’y ait pas réellement d’auteur avec qui interagir plus profondément sur le contenu est un problème particulièrement grave pour un site de discussion
  • Springtime : Ce n’est pas un test de pureté, c’est le problème du fait que l’auteur fait porter au lecteur la charge de vérifier l’exactitude. Si l’usage de l’IA et l’étendue de la relecture humaine ne sont pas précisés, le lecteur doit enquêter sur la factualité de chaque phrase et devient encore plus méfiant
    Si le texte vient d’un expert reconnu, on peut le lire avec confiance et dans une posture d’apprentissage. Mais les tournures banales dont l’IA abuse deviennent un signal qu’on ne sait pas combien de relecture humaine elles ont reçue. Au final, on remet le texte à plus tard comme un « texte dont la valeur n’apparaîtra peut-être qu’après une analyse complète par un humain », ou on le rejette immédiatement
  • bhaney : Si le motif de signalement inclut « je pense que c’est généré par IA », je me demande si cela veut dire que les textes générés par IA eux-mêmes deviennent signalables. On ne sait pas non plus s’il faut commencer à signaler dès maintenant les textes suspects, ou attendre l’arrivée d’une fonction de sélection du motif

• IgorPartola : Si l’on appose une mention IA générée, cela fait perdre en crédibilité, donc personne ne voudra probablement l’indiquer volontairement. La communauté peut signaler sur la base d’indices et de suppositions, mais ce n’est pas précis et cela demande du travail supplémentaire
  L’époque des blogs est pratiquement terminée, et ce n’est pas forcément une mauvaise chose. Même avant l’IA, le spam de blogs et les blogs d’entreprise avaient déjà ruiné les bons blogs ; la vraie question est donc qu’est-ce qui remplacera le blog
  Si les textes d’IA deviennent indiscernables des textes humains tout en étant exacts et intéressants, est-ce que l’identité de l’auteur a encore de l’importance ? Ce qu’il faut éviter, ce n’est pas la génération par IA en soi, mais la faible qualité, non ?

  • freehorse : S’il y a tant de spam sur Internet, l’une des principales raisons de venir sur HN reste qu’on peut y découvrir du contenu intéressant. Comme je considère que le contenu actuellement généré par machine est de faible qualité, je veux pouvoir choisir moi-même de le lire ou non avant de perdre mon temps
    Il se peut qu’un avenir arrive où l’on ne pourra plus faire la différence parfaitement, mais dire qu’il ne faut rien faire aujourd’hui à cause d’un futur incertain n’est pas un bon argument. Le contenu IA actuel reste assez identifiable, et s’il a été retravaillé pour ne plus avoir l’air d’avoir été produit par une IA, c’est au moins un texte dans lequel davantage d’effort humain a été investi
  • asdff : Si un texte d’IA est vraiment excellent, il n’y a aucune raison d’archiver la sortie longue d’un modèle qui sera bientôt obsolète. Il suffit de publier le prompt et, dans six mois, un modèle plus gros et meilleur pourra générer un texte encore meilleur
  • dgellow : Ce qui compte, c’est le fait d’interagir avec un humain. Si un LLM produit un contenu qui ressemble à celui d’un humain sans le révéler, c’est fondamentalement trompeur
    Peu importe qu’une personne ait tapé elle-même au clavier, mais il importe de savoir si le contenu a été façonné par un humain. Un LLM ne se contente pas de taper : il décide aussi du style, du ton, de la voix et de la structure, et ce sont précisément ces éléments qui sont au cœur de la communication entre humains

• Retr0id : une part importante des votants ne repère pas les phrases générées par l’IA et, même s’ils les repèrent, cela ne les dérange pas ou ils passent outre si le postulat est suffisamment intéressant. Introduire un vote à deux dimensions, bon/mauvais et IA/humain, pourrait réduire les débats méta sur le degré d’usage de l’IA dans un texte

  • DaiPlusPlus : l’ensemble des textes assez intéressants pour être lus, mais pas assez pour être écrits soi-même, est probablement plus petit qu’on ne le pense
  • andrewmutz : je ne vois pas pourquoi bon/mauvais suffit pas. Qu’y a-t-il de mal à avoir utilisé l’IA dans le processus de création d’un excellent texte ?
  • ryandrake : si l’usage de l’IA en ligne continue d’augmenter aussi vite, d’ici la fin de l’année la majorité d’Internet et des liens HN pourrait n’être plus que du contenu IA de mauvaise qualité. À ce moment-là, dire « ce texte a été écrit par une IA » n’apportera guère plus d’information que dire que l’auteur a utilisé un correcteur orthographique

• minimaxir : une fonction de signalement IA est bien plus dangereuse en pratique qu’en théorie. Sur les réseaux sociaux, il suffit que quelqu’un lance malicieusement un « IA ? » pour provoquer un scandale dû à un faux positif, et l’auteur original doit alors prouver qui il est
  Pour un billet de blog, il existe peu de moyens concrets de prouver qu’un humain l’a écrit, et exiger l’historique d’édition serait injuste. Si HN adopte cette fonction, il est probable qu’elle fasse plus de mal que de bien

  • Aachen : parler de quelque chose de « malicieux » implique en réalité qu’on accuse tout en croyant le contraire, alors qu’il est bien plus probable que la plupart des gens se trompent sincèrement en pensant avoir affaire à un mauvais texte généré par IA. Les accusations sans fondement et à faible coût sont néfastes pour plusieurs raisons, mais il est difficile de croire que les gens en publient souvent en sachant qu’elles sont fausses
  • Joel_Mckay : les utilisateurs de uBlock Origin en filtrent déjà beaucoup avec des listes de blocage de sites de mauvaise qualité générés par IA, ce qui peut faire gagner beaucoup de temps lors de recherches d’informations précises : https://github.com/alvi-se/ai-ublock-blacklist, https://github.com/laylavish/uBlockOrigin-HUGE-AI-Blocklist, https://github.com/Stevoisiak/Stevos-AI-Blocklist/

• shantnutiwari : contre. Sous chaque post HN bien classé, il y a désormais quelques commentaires du type « c’est du LLM », et c’est devenu une autre manière de dire « je n’aime pas ce texte, donc ça doit être du LLM » : https://news.ycombinator.com/item?id=48063759
  Comme ce genre de commentaire reçoit toujours quelques votes positifs, cela ressemble à une paresseuse récolte de karma. Si on accuse 100 textes d’être du LLM, on finira bien par tomber juste une fois, et comme un astrologue on pourra se vanter de ce seul succès. Il faudrait un moyen de décourager ce type de commentaire à faible effort

• dawnerd : vu les investissements de YC dans l’IA, il est difficile d’attendre ce genre de mesure. Il y a aussi beaucoup trop de gens ici qui estiment qu’il faut simplement se résigner et l’accepter, ce qui me donne personnellement l’impression d’une logique d’agresseur

  • dang : lisez https://news.ycombinator.com/item?id=48887149 et je me demande si cette réponse resterait la même une fois l’édition terminée
  • xdennis : HN interdit les commentaires IA, donc les suppositions conspirationnistes fondées sur les investissements de YC ont particulièrement peu de valeur

• nunez : j’avais demandé la même fonction il y a un mois : https://news.ycombinator.com/item?id=48296731
  Si un nombre suffisant d’utilisateurs signalent un contenu comme généré par IA, ce serait bien d’ajouter la mention [AI Generated] à la fin du titre

• CM30 : comme le contenu généré par IA représente en général moins d’investissement qu’un travail fait directement, un signalement serait utile, mais il n’est pas clair comment bien le mettre en place
  En ligne, on voit déjà beaucoup de chasses aux sorcières et de faux positifs où même des œuvres humaines sont accusées d’être générées par IA parce qu’elles utilisent un long tiret ou que des mains paraissent étranges dans une image. Si des utilisateurs très méfiants partent systématiquement du pire, la moitié du site pourrait finir avec un label IA
  Si les auteurs se signalent eux-mêmes, ils perdent en confiance et en lectorat, donc l’incitation à mentir est forte, et les outils de détection d’IA ont eux aussi trop de faux positifs pour être fiables. On pourrait ajouter le contenu IA comme motif de signalement, tout en partant du principe de bonne foi pour les soumissions ordinaires, et j’aimerais que le site ne devienne pas excessivement paranoïaque ni trop restrictif

• Debugreality : certaines idées n’auraient jamais vu le jour sans l’aide de l’IA. J’ai récemment publié sous forme de livre blanc une conception de la démocratie à laquelle je réfléchissais depuis des décennies, et l’IA m’a aidé à développer les idées, structurer le document et rédiger le texte
  Comme je ne suis pas universitaire, il est très probable que je n’aurais pas pu l’achever sans l’IA, et il vaut mieux que cela soit publié plutôt que de rester dans ma tête jusqu’à disparaître. Un document académique écrit directement par une personne serait préférable, mais même si la majeure partie du texte a été rédigée par l’IA, j’ai passé deux jours à vérifier que j’étais d’accord avec chaque paragraphe et à corriger les problèmes
  Pour juger de la qualité, il est plus pertinent de regarder l’effort humain investi que de savoir si l’IA a été utilisée

  • Aachen : utiliser un LLM pour donner une structure, c’est acceptable, mais en réalité cela relève davantage d’un problème de motivation pour écrire un premier jet, et le LLM ne fait alors que jouer le rôle d’un interlocuteur attentif
    Je préfère de loin une version où seules les intuitions essentielles sont écrites directement, plutôt que de faire rédiger le corps du texte par un LLM. Je n’ai pas envie d’errer dans plusieurs pages de phrases pour y chercher l’idée principale. En particulier, utiliser un LLM pour « engraisser » des idées est le moyen le plus sûr de rendre un texte ennuyeux pour les gens
    Transformer une intuition en document verbeux n’est nécessaire qu’au stade de la mise en loi. Il suffit de comparer « dites comment vous utilisez les données » avec les clauses correspondantes du GDPR

• lazyasciiart : pourquoi ne pas ajouter un marqueur dans le titre comme [1997] ? C’est un contenu qui peut intéresser certains lecteurs et pas d’autres, mais connaître la source peut changer la manière dont on le reçoit

  • sph : c’est l’une des meilleures solutions. On pourrait mettre [AI] à la fin du titre, mais comme l’IA a aussi des usages légitimes, [SLOP] serait peut-être plus approprié

• teo_zero : de la même façon que certaines personnes ne supportent pas les textes générés par IA, d’autres ne supportent pas les fautes de grammaire. S’il existait une mention AI generated, on finirait aussi par vouloir une mention lousy with mistakes

• DevKoala : la seule chose qui compte, c’est de savoir si le texte est utile, factuel et non biaisé. La manière dont il a été écrit m’importe peu

• thinkingemote : Une grande partie des billets que je veux lire sur HN concernent les LLM, et beaucoup sont eux-mêmes rédigés avec des LLM. C’est pénible à lire et on y trouve rarement des perles inspirantes, donc quand c’est lié au sujet, je me contente souvent de survoler ; la vraie valeur est en général dans les commentaires
  Si l’on peut repérer facilement le style LLM, il vaut aussi la peine de relire des articles de chercheurs et fondateurs en IA d’avant les LLM grand public. Leur style est étonnamment proche de la prose des LLM actuels

• rddbs : Plus que les textes écrits par l’IA, c’est le contenu sur l’IA lui-même que j’aimerais masquer. J’ai l’impression qu’une grande partie de HN ne parle plus que d’IA, et ça me fatigue. Je me demande s’il existe un moyen, comme une extension de navigateur, de rétablir un peu d’équilibre

  • insin : L’extension HN que j’ai créée propose par défaut un filtre de mots-clés et de domaines liés à l’IA, via un bouton distinct des filtres personnels. Il faudrait ajouter les noms des modèles récents : https://soitis.dev/comments-owl-for-hacker-news
  • dijksterhuis : Il existe déjà des clones de HN avec filtres par expressions régulières, ou des outils qui utilisent l’IA pour détecter les textes générés par l’IA, mais ce n’est pas parfait : ce genre de fil finit aussi par être filtré
    Moi, en première étape, je masque tous les billets liés à l’IA sur la page d’accueil, puis en deuxième je cherche les billets intéressants parmi ce qui reste. Ces temps-ci, malheureusement, il y a souvent des jours où il ne reste rien

• mattas : À ce stade, il serait peut-être plus pertinent d’ajouter un indicateur not AI

• ramon156 : J’ai créé une extension perso qui bloque dans mon flux les gens qui publient surtout des contenus générés par l’IA. Pour moi, ça marche bien, mais je ne sais pas si ce serait viable à l’échelle du service entier
  Il suffirait peut-être de fournir un simple tag pour que les gens jugent par eux-mêmes. Des extensions YouTube comme DeArrow et SponsorBlock mettent bien en œuvre ce type d’approche participative

  • arjie : Si tu as rendu ta liste de blocage publique, je veux bien la récupérer

• cloudpilot : J’ai créé une app avec l’aide de l’IA, mais j’ai rédigé le message moi-même, et il a quand même été signalé

• jaredcwhite : Je crois fermement que les textes générés par l’IA ne devraient tout simplement pas apparaître. Le problème, c’est qu’en dehors des traces évidentes de LLM, c’est difficile à prouver, et il n’est pas simple non plus d’exiger une preuve d’écriture réellement humaine
  De plus en plus, je préfère les communautés où, si un texte est partagé de façon légitime, on part du principe qu’il a été écrit par un humain

  • ldoughty : Si un humain a écrit un brouillon puis s’est servi de l’IA pour l’améliorer ou le corriger, faut-il le considérer comme généré par l’IA ? Et comment distinguer les deux cas ? Si l’on n’autorise aucune aide de l’IA, on risque aussi de discriminer les personnes qui ne sont pas à l’aise pour écrire dans un anglais impeccable
    Je suis d’accord sur le principe, mais c’est difficile à appliquer équitablement et le risque de discrimination est élevé. Paradoxalement, corriger les fautes de frappe et laisser des traces d’édition peut même faire paraître un texte plus humain
  • stackghost : Il est difficile de trouver une communauté où l’on puisse présumer qu’un partage légitime a été rédigé par un humain

• shahzaibmushtaq : L’IA n’est pas supérieure à l’intelligence humaine (HI) et ne pourra probablement jamais l’être. Déclarer si son travail a été généré par l’IA, et dans quelle proportion elle a été utilisée, relève de la responsabilité de l’auteur et du rédacteur

• KingOfCoders : Un texte est soit excellent, soit mauvais. Je me fiche de savoir s’il a été écrit par un humain, une IA ou un chat

  • pillmillipedes : Je serais curieux de voir un exemple de grand texte écrit par une IA ou un chat

• amelius : Ce serait bien si Unicode ajoutait une zone de code réservée, semblable aux caractères Latin-1, mais dédiée aux outils d’IA. On pourrait laisser dans les contenus générés une sorte de bit de marquage fixe
  On pourrait déjà faire quelque chose de semblable aujourd’hui en imposant aux entreprises d’IA d’utiliser un caractère d’espace spécial à la place de l’ASCII 0x20, ce qui aiderait aussi à éviter le problème du réentraînement sur les données générées

• nickandbro : Je ne vois pas comment on ferait concrètement appliquer ça à du texte brut, à moins de compter le nombre de tirets longs. Même les détecteurs d’IA conçus pour ce but font énormément d’erreurs

• warshinder : Je regarde d’abord les commentaires. Il y a toujours quelqu’un pour dire si c’est un texte d’IA, si ça ne vaut pas la peine d’être lu ou si ça ne charge pas
  Aux débuts de HN, ça aidait aussi les auteurs à éviter un afflux massif de trafic, et quand il y avait un paywall, quelqu’un postait souvent une version archivée dans les commentaires

• CqtGLRGcukpy : Un texte que quelqu’un croit généré par l’IA peut en réalité ne pas l’être, et les détecteurs d’IA ne sont pas assez fiables pour l’affirmer avec certitude

  • esjeon : Qualifier de généré par l’IA un texte écrit par un humain est une insulte grave. Une fonction de signalement IA pourrait faire plus de mal à la communauté que le simple fait de laisser ces contenus en ligne
  • bakugo : En cas de doute, il faut trancher en faveur de l’auteur, mais dans la plupart des cas ce n’est pas si difficile à distinguer. Les modèles récents spécialisés dans le code écrivent, sauf consigne très prudente, d’une manière particulière et immédiatement reconnaissable, et en ce sens c’est presque pratique, car cela évite de perdre du temps à lire des textes d’IA
    Le billet creux et promotionnel actuellement n°1 en page d’accueil en est un bon exemple : https://news.ycombinator.com/item?id=48884853

• aryehof : J’ai peur qu’il devienne trop facile de balayer ou de faire taire quelqu’un simplement en insinuant que son point de vue humain a été généré par l’IA

• rdataguy : Il n’est pas toujours facile de savoir si quelque chose a été généré par l’IA, et cette fonction pourrait être détournée. Cela dit, si l’intelligence collective parvient à en identifier une quantité suffisante, ça pourrait quand même être utile

• itsgrimetime : Je ne suis pas contre l’idée d’apposer un marquage sur les textes d’IA, mais j’aimerais qu’on s’intéresse davantage au contenu lui-même, indépendamment de la manière dont il a été produit. J’ai l’impression qu’on voit de plus en plus de cas où des soumissions sont rejetées ou critiquées immédiatement sur la seule base de leur mode de rédaction, plutôt que sur ce qu’elles disent

• Xotic007 : S’il y a un marquage IA, on ne fera que donner aux producteurs une cible de détection claire à éviter. Au final, le style IA le plus grossier diminuera peut-être, mais contourner la détection n’aura rien de difficile, donc l’effort de production n’augmentera presque pas

• deevus : Un billet Show HN que j’avais écrit moi-même a été pris dans la modération automatique. Honnêtement, ça a déclenché chez moi une sensibilité au rejet, et depuis je ne poste plus sur HN

• edoceo : Ne suffirait-il pas simplement d’ajouter un bouton de vote négatif pour les soumissions ?

  • jagged-chisel : Il y a déjà flag
  • JimsonYang : HN n’autorise le vote négatif que de façon limitée, et seulement aux membres actifs de longue date. C’est sans doute conçu ainsi pour encourager des discussions positives

• Esophagus4 : Une notion pertinente à consulter : https://en.wikipedia.org/wiki/Evil_bit

• atomicthumbs : recommander à quelqu’un de lire un texte écrit par une machine, c’est ne pas respecter son temps. Si l’auteur n’y a pas accordé assez d’attention pour l’écrire lui-même, il n’y a aucune raison que d’autres le lisent non plus, donc sa valeur est nulle

• mleroy : au lieu de traquer le contenu IA pour le signaler, il suffirait de laisser les auteurs indiquer volontairement qu’il s’agit d’un contenu original. On pourrait ajouter aux liens des tags comme [Handmade], [Craft-Article], [Artisan-Thinking]

• jeremyjh : on ne peut pas downvoter les soumissions, et beaucoup de gens n’ont aucun problème à lire des textes que personne n’a écrits directement, donc le vote classique ne suffit pas.
  Il peut y avoir un effort considérable dans les étapes autres que l’écriture, donc on ne peut pas affirmer automatiquement qu’un texte rédigé par IA est sans valeur. Malgré cela, je penche pour l’idée de le pénaliser afin d’établir une norme qui respecte la véritable communication humaine.
  J’utilise beaucoup l’IA à diverses fins, donc je lis souvent du contenu généré, mais plus j’identifie la voix typique de l’IA, plus elle m’agace. Il y a une grande différence entre une réponse à mon propre prompt et un texte dont j’ignore totalement le prompt, le nombre de révisions et s’il a été relu par un humain.
  En général, pour un texte écrit par un humain, l’auteur fournit au moins 5 fois plus d’efforts que le lecteur, alors qu’avec un texte IA, on ne sait pas si le lecteur y passera plus de temps que l’auteur, ce qui en fait un élément perturbateur difficile à supporter.

  • visarga : quand je repère les indices typiques de l’IA, ça m’agace aussi, mais si quelqu’un a saisi lui-même 10 fois plus de contenu que le texte final avant de seulement en changer la formulation, il devient difficile de dire si c’est vraiment du contenu généré par IA. Je n’utilise pas l’IA pour les commentaires, seulement pour structurer la forme de longs billets destinés à être publiés sur mon blog.

• nyellin : si on introduit un marquage indiquant l’usage de l’IA, les commentaires de tous les posts se transformeront en débats sur le fait de savoir si l’IA a écrit le texte, et dans quelle mesure. Il vaut mieux laisser les gens juger le contenu lui-même

• lukasbm : personne n’aime lire une sortie de chatbot non filtrée, mais il est aussi impossible de la détecter avec certitude