Faut-il interdire les commentaires de type « J’ai demandé à l’IA et voici ce qu’elle a répondu » sur HN ?

• Une discussion a été lancée pour savoir s’il faut autoriser les commentaires citant des réponses générées par l’IA sur Hacker News
• Certains utilisateurs indiquent que ces commentaires dégradent la l’authenticité des opinions et la qualité des discussions
• D’autres estiment que l’usage de l’IA peut être utile en soi, et qu’une interdiction totale serait excessive
• Le débat s’est étendu aux questions de révision des directives de HN et de fiabilité des propos de l’IA
• La discussion s’est poursuivie autour de la nécessité pour la communauté de redéfinir les critères de responsabilité des prises de parole et de contrôle de la qualité à l’ère de l’IA

---

Débat sur les commentaires citant l’IA au sein de la communauté HN

• Certains utilisateurs critiquent les commentaires de type “I asked AI, and it said…” comme diffusant de l’information générée automatiquement sans réelle valeur
  • Ces commentaires seraient surtout le simple copier-coller de réponses répétitives de l’IA, plutôt qu’une contribution réelle au débat
• Les opposants soutiennent que l’IA peut être utile comme outil de recherche d’informations ou de résumé, et que citer ses résultats est une pratique naturelle pour l’utilisateur
  • Ils précisent toutefois qu’une citation doit indiquer clairement la source et le contexte

Discussion sur la révision des lignes directrices

• Certains proposent d’ajouter une interdiction explicite dans les lignes directrices des commentaires de HN
  • Ils argumentent qu’une formulation du type “l’IA a dit cela” rend l’auteur de l’opinion flou et affaiblit la responsabilité du débat
• D’autres s’opposent à l’interdiction au nom de la liberté d’expression et de la diversité des usages technologiques
  • À la place, ils proposent un compromis avec une indication claire ou des critères de validation lors des citations d’IA

Points centraux du débat

• La fiabilité des déclarations de l’IA, la distinction entre le vrai et les opinions humaines et le maintien de la qualité de la communauté sont les enjeux principaux
• Il est fait valoir qu’une augmentation des citations d’IA pourrait affecter la structure de débat de HN et son système de confiance
• Aucune conclusion claire n’a été tirée, et il existe un consensus sur la nécessité d’une auto-régulation communautaire et d’un accord culturel

[GN⁺]

Avis sur Hacker News

• On ne peut probablement pas empêcher complètement les gens d’utiliser l’IA pour peaufiner leurs réponses, mais c’est agaçant de faire comme si c’était « aider »
  Je viens ici pour connaître les pensées de personnes, pas celles d’une IA. Donc quand je sens que quelqu’un a utilisé l’IA dans un message, cela influence à lui seul mon jugement sur sa valeur

  • Je suis du même avis. Je ferais juste une exception pour les personnes dont l’anglais n’est pas la langue maternelle quand elles participent à une discussion en anglais
    Les traductions par LLM sont naturelles aujourd’hui, mais il reste ce style IA caractéristique, et à partir de là la confiance diminue quand même
  • Au travail, quand quelqu’un dit « ChatGPT a répondu ça », j’entends plutôt : « j’ai fait une recherche, mais j’ai ramené une réponse non vérifiée »
  • Maintenant, dès que j’utilise un tiret cadratin (—), les gens pensent tout de suite : « ah, c’est un texte écrit par une IA », et ça me désole
  • Je me demande si c’est comparable au fait que quelqu’un demande « la source ? ». Tout le monde peut faire une recherche Google, mais exiger des références améliore malgré tout la qualité de la discussion
  • Parmi les messages écrits avec l’IA, il y a des cas bien écrits et des cas insultants. Beaucoup de gens croient être dans le premier cas, alors qu’en réalité c’est souvent le second

• Les commentaires qui citent une IA me semblent comparables à « copier-coller tel quel le résultat d’une recherche »
  La différence, c’est que beaucoup de gens prennent à tort le résultat d’une IA pour une réponse faisant autorité
  Cela dit, dans une conversation sur l’IA, citer une réponse d’IA à titre d’exemple est naturel, donc une interdiction totale serait inadaptée
  Au fond, on dirait un cas de nouvelles règles de savoir-vivre qui se forment en temps réel. Un peu comme les gens qui portaient des oreillettes Bluetooth dans les cafés dans les années 2000, je pense que cela se réglera par la pression sociale

  • En réalité, c’est plus proche de « faire une recherche et ne ramener que le premier résultat »
  • Cela ressemble à l’ancien phénomène des « porteurs de Google Glass (glassholes) ». Publier ouvertement des phrases d’IA telles quelles donne une impression d’arrogance
  • En fait, la recherche sur le web pose le même problème. Sans vérification, on tombe dans exactement le même travers
  • Les commentaires sur internet ont toujours été un espace d’expression personnelle. Utiliser aussi un peu d’IA me semble être dans cette continuité
  • Si cela répond directement à la question, ça va, mais utiliser l’IA comme outil d’appoint pour enrichir une réponse humaine peut au contraire être positif

• En réalité, ce type de commentaires générés par l’IA constitue déjà une infraction aux règles de HN
  Il y a des cas liés à cela dans ce lien.
  Les règles de HN ont des principes de base comme une constitution, et les commentaires de modération de dang et tomhow fonctionnent comme une jurisprudence

  • Oui. Pour voir d’autres cas d’interdiction, il suffit de consulter les commentaires de dang et de tomhow contenant « please don’t »
  • Le problème, c’est que ces règles non officielles sont difficiles à connaître pour les nouveaux arrivants
    Les ajouter explicitement aux directives permettrait sans doute de créer une ambiance plus transparente et accueillante

• Même avant les LLM, il y avait déjà des gens qui « copiaient-collaient le premier résultat d’une recherche »
  Chacun est libre d’écrire son avis, mais externaliser complètement sa réflexion n’apporte rien à la conversation
  Si HN avait voulu cela, ils auraient déjà introduit des bots

  • Bonne remarque

• Je viens ici pour entendre ce que pensent les gens. Donc je n’ai pas envie de voir des commentaires d’IA
  Mais maintenant, c’est fatigant que le simple fait d’utiliser un tiret cadratin fasse soupçonner l’IA. C’est facile à saisir sur macOS et utile pour exprimer ma pensée

  • Au contraire, le fait que les gens s’en plaignent me donne encore plus envie d’utiliser des tirets cadratins

• Est-ce qu’il faut vraiment une règle ? Ces commentaires reçoivent déjà beaucoup de downvotes. Ceux qui ne le remarquent pas ne liront de toute façon pas les règles

  • Malgré tout, si les modérateurs estiment que c’est nécessaire, il faut l’écrire dans les règles.
    À mon sens, l’attitude de la communauté s’exprime par le vote, et l’attitude de l’espace par les règles
    L’ignorance n’est pas une excuse, donc une formulation explicite est nécessaire
  • Pour moi aussi, si le système de vote fonctionne correctement, cela suffit. Le problème n’est pas la règle, mais la conception du mécanisme de vote
  • Mais dans les faits, certaines personnes défendent les commentaires IA. C’est particulièrement fréquent chez les gens liés à des startups IA
  • Avoir une directive peut donner un cap aux nouveaux arrivants.
    Le simple copier-coller de LLM n’a rien d’intéressant, donc mieux vaut l’interdire explicitement
  • HN est fondamentalement une communauté avec une forte capacité d’autorégulation

• À l’échelle de la communauté, je pense qu’il faudrait encourager la divulgation de l’usage de l’IA (disclaimer)
  Si quelqu’un écrit « j’ai demandé à ChatGPT et voici ce qu’il a répondu », l’information peut malgré tout rester utile.
  Plutôt qu’une interdiction totale, il vaudrait mieux encourager la transparence et la concision

  • D’accord. Si on interdit cela, les gens risquent au contraire de cacher leur usage de l’IA

• Copier-coller uniquement une réponse de LLM devrait être interdit. Ce n’est pas plus intéressant que de dire « je l’ai trouvé en cherchant »

  • Il faut quand même une exception dans les contextes où l’on discute du LLM lui-même.
    Plutôt qu’une interdiction absolue, je pense qu’il vaut mieux laisser cela être régulé par une forme de gêne collective (collective embarrassment)
  • En réalité, c’est pire qu’une simple recherche. Une recherche implique au moins un effort de compréhension, alors qu’un copier-coller d’IA n’a même pas cela
  • Malgré tout, les commentaires du type vérification factuelle comme « j’ai cherché pour vérifier » gardent de la valeur
  • De toute façon, c’est déjà une pratique interdite
  • Certains soutiennent même que le prompt en soi est une contribution

• Si on crée une règle, cela risque aussi de bloquer les messages qui discutent à titre expérimental des erreurs ou des biais de l’IA
  Donc plutôt qu’une interdiction complète, je pense qu’une directive du type « évitons cela » serait préférable
  De toute façon, tout le monde ne lit pas toutes les règles, et comme le public de HN est moins technique qu’avant, ce genre de réponses continuera d’apparaître

• Même avec une telle règle, on ne fera pas disparaître les commentaires IA ; on ne fera probablement que réduire les cas où les gens déclarent utiliser l’IA

  • Et je trouve que c’est plutôt une bonne chose. Si on les pousse à le cacher par honte, cela finira par disparaître
  • Pour ma part, les commentaires IA en soi ne me dérangent pas, mais les longs copier-coller bruts non édités me paraissent impolis.
    En revanche, si c’est court et naturel au point qu’on ne le remarque même pas, je ne vois pas pourquoi en faire un problème