Ask HN : veuillez limiter la publication de posts pour les nouveaux comptes

• Hacker News : proposition de restreindre les comptes nouvellement créés pour qu’ils ne puissent pas publier immédiatement
• Récemment, les spams et les contenus de faible qualité ont augmenté, en particulier depuis des comptes tout juste créés
• Il serait souhaitable de limiter l’activité des nouveaux comptes pendant une certaine période, ou de n’afficher que les posts de comptes remplissant certaines conditions
• Certains utilisateurs proposent de limiter les nouveaux comptes aux commentaires uniquement, puis de leur accorder le droit de publier après un certain délai
• D’autres mentionnent une solution où la publication ne serait possible qu’après avoir atteint un certain délai après la création du compte ou un seuil d’activité
• Certains suggèrent aussi d’introduire un système de confiance fondé sur l’historique d’activité, afin que seuls les comptes ayant démontré un certain niveau de participation puissent publier
• Des inquiétudes existent aussi sur le fait que ces restrictions pourraient décourager la participation des nouveaux utilisateurs
  • Il faut mettre en place des mécanismes de prévention des abus tout en préservant la croissance et l’ouverture de la communauté
• Certains utilisateurs proposent de combiner une intervention minimale des modérateurs avec des procédures de vérification automatisées

[xguru]

On dirait que HN se pose aussi des questions similaires, peut-être sous l’effet de l’essor du vibe coding avec l’IA.
Dans le premier commentaire, l’administrateur dang mentionne même qu’il va limiter temporairement les Show HN.

GeekNews fait face à une situation comparable.

Afin de laisser aux nouveaux utilisateurs le temps de se familiariser avec la communauté, la publication de posts et de commentaires est limitée pendant une semaine après la création du compte.
Malgré cela, il y a encore pas mal de publications mises en ligne sans vérification de base.

Par exemple, il arrive que des posts inadaptés à Show GN soient publiés,
et même lorsqu’on fournit des indications à ce sujet, des posts du même type reviennent parfois, ce qui nous conduit à en supprimer certains.
Autrement dit, il arrive que des projets personnels soient partagés sans que les usages de base ou l’objectif de la communauté aient été suffisamment compris.

Comme GeekNews est avant tout un espace de partage d’actualités et d’informations, ainsi que de discussion,
il nous semble important que la présentation de projets personnels s’inscrive elle aussi dans ce cadre.

C’est pourquoi nous réfléchissons aussi à un système où, tant qu’un certain score ou un certain historique d’activité n’a pas été acquis, les posts de type Show
ne seraient pas affichés immédiatement dans les derniers posts ou sur la page d’accueil.

Cela semble être une question sur laquelle on doit continuer à réfléchir : comment préserver l’ouverture de GeekNews tout en maintenant sa qualité.

[mammal]

C’était un marché aux puces d’artisanat, mais depuis un certain temps, j’ai l’impression que plus de la moitié des articles sont des produits récupérés sur AliExpress ou Temu.

[sleepyeye]

Il devrait y avoir un bouton de vote négatif.

[princox]

La demande pour créer quelque chose à bas coût et en faire la promotion est énorme,
mais quand on découvre de bonnes choses, on a tendance à les garder pour soi, à les enregistrer et à les gérer seul.

J’ai l’impression qu’à l’origine, il n’est tout simplement pas facile pour les bonnes informations ou les actualités de bien circuler.

[GN⁺]

Réactions sur Hacker News

• Nous allons probablement restreindre Show HN pendant un certain temps
  La remarque selon laquelle « HN ne peut pas être immunisé contre les grandes tendances de fond » résonne particulièrement juste.
  L’ancien fil de discussion lié mérite d’être consulté.

  • J’aimerais vraiment qu’ils le fassent. Et je pense aussi qu’il faut davantage de barrières à l’entrée pour créer un compte. J’ai été surpris de voir à quel point des systèmes comme ChatGPT Atlas créent facilement de nouveaux comptes.
  • J’ai moi aussi pensé à construire un système pour détecter les comptes qui enfreignent les règles ou les soi-disant « sock puppets ». Par exemple, exploiter l’infrastructure de hackersmacker.org pour faire tourner un compte du type sock_puppet_detector. Je ne sais pas, en revanche, si l’équipe de HN verrait d’un bon œil ce genre de projet externe.
  • HN ne peut pas être une exception au mouvement du monde de la programmation. J’aimerais qu’il y ait une fonction permettant à chaque utilisateur de masquer ou mettre en sourdine certains comptes.
  • Comme l’option « Show dead », on pourrait peut-être laisser ça au choix dans les préférences utilisateur.
  • C’est regrettable, mais je pense qu’on n’a pas vraiment le choix. Show HN permettait de partager des projets vraiment formidables, mais la situation a changé.

• Reddit a essayé une approche similaire, mais a échoué
  Même quand de nouveaux utilisateurs rédigent soigneusement un message, il est supprimé par les filtres automatiques, tandis que les spammeurs apprennent vite à contourner les règles. Au final, ce type de règles laisse davantage de comptes malveillants que de vrais nouveaux utilisateurs.

  • Si Reddit a échoué, c’est à cause de l’absence d’outils de modération. HN est dans une position bien plus favorable, car il est géré par une équipe qui construit elle-même ses outils, à plus petite échelle, et sans structure centrée sur le revenu.
  • Il faudrait restreindre seulement la publication de messages pour les nouveaux comptes, tout en autorisant les commentaires. Il faut pouvoir apprendre la culture de la communauté à travers les commentaires.

• Ces temps-ci, Show HN m’intéresse moins
  Avant, il y avait beaucoup de messages sincèrement investis dans leur projet ; aujourd’hui, beaucoup donnent l’impression d’avoir été écrits par un LLM. La technologie en elle-même n’est pas mauvaise, bien sûr, mais j’ai l’impression que le côté « création pure » d’autrefois a disparu.

  • Je n’ai rien contre l’IA, mais le fait que des robots publient sur les réseaux sociaux est intrinsèquement étrange. Je ne vois pas pourquoi il faudrait poster dans Show HN un projet bricolé avec Claude en 45 minutes.
  • Entendre quelqu’un parler de son projet IA, c’est un peu comme écouter quelqu’un raconter son rêve de la nuit dernière.
  • Ça ne veut pas dire que les projets LLM sont faits sans attachement. Mais il est vrai que la dimension artisanale s’est amoindrie. C’est un peu comme des meubles IKEA : efficaces, mais moins soignés.

• Je pense qu’il faudrait bannir immédiatement les gens qui publient des commentaires générés par LLM en les faisant passer pour les leurs
  Bien sûr, cela ne devrait s’appliquer que lorsque c’est « manifestement écrit par une IA ». Le style propre à ChatGPT est assez distinct pour être reconnaissable.

  • En ce moment, on accuse très vite n’importe quoi d’avoir été écrit par un LLM, donc une telle règle me semble difficile à faire appliquer.
  • Beaucoup affirment qu’on ne peut pas distinguer les textes d’IA de ceux des humains. Pourtant, un monde saturé de messages écrits par des LLM ne vaudrait pas la peine d’être lu. Si on veut l’avis de ChatGPT, on peut lui demander directement.
  • À l’inverse, pour les non-natifs, un LLM peut être un bon outil d’aide à la rédaction. En retravaillant plusieurs fois le texte pour affiner les formulations, on peut même aboutir à un message plus soigné. Et si ça ne plaît pas, il suffit de downvoter.
  • Un critère du type « les modérateurs le sauront quand ils le verront » est dangereux. Il peut y avoir beaucoup de faux positifs.

• Au fond, il faut juger sur la valeur intrinsèque du texte
  À une époque où il devient impossible de distinguer un auteur humain d’une IA, il faut juger uniquement la qualité de l’écrit. Dans le déluge de données, la capacité à repérer les vraies perles devient essentielle.

  • Pour conserver un HN centré sur les humains, il faudrait un réseau de confiance local. J’imagine une structure où des utilisateurs vérifiés lors de rencontres hors ligne gèrent le contenu chapitre par chapitre.
  • Des affirmations comme « c’est la seule solution » sont excessives. D’autres méthodes pourraient fonctionner pendant quelques mois, voire quelques années.
  • Même si un texte est mal écrit, on peut quand même y trouver des informations nouvelles. Un LLM peut assembler des sources inattendues, et des exemples de code peuvent être utiles.
  • Au final, il faut un filtrage méritocratique. En musique, vidéo ou code, les œuvres humaines restent supérieures. Le contenu IA sera naturellement éliminé.
  • Le contenu produit par LLM fait encore l’objet de beaucoup de signalements et de blocages. Ce n’est pas parfait, mais la réponse actuelle n’est pas totalement inutile.

• Limiter aux comptes anciens ne résoudra pas le problème
  Les créateurs de bots vont simplement préparer des comptes à l’avance et les laisser vieillir.

  • Il ne faut pas laisser le mieux être l’ennemi du bien. Exiger un certain âge de compte a tout de même un effet dissuasif à court terme.
  • En pratique, c’est déjà plus ou moins ainsi que ça fonctionne. Quand on regarde les auteurs de messages « Show HN », on voit souvent des comptes âgés de 50 à 100 jours. Exiger au moins 25 à 50 points de karma avant de publier sur Show HN pourrait être réaliste.
  • Moi aussi, j’aimerais un filtre basé sur le karma. J’aimerais ne voir que les messages de comptes au-dessus d’un certain score.
  • Les agents IA autonomes ne sont pas encore assez avancés pour planifier sur le long terme.
  • C’est la même logique que verrouiller un vélo. Une défense parfaite est impossible, mais il y a quand même un effet dissuasif.

• Je pense que les plateformes qui remplaceront Reddit ou HN seront à l’avenir fondées sur des réseaux de confiance
  On ne verrait que les messages publiés ou recommandés par des utilisateurs de confiance, tandis que ceux des utilisateurs jugés peu fiables seraient masqués.

  • Autrefois, Advogato utilisait un système de certification comparable. La qualité était bonne, mais le site a fini par disparaître à cause du spam et de problèmes de visibilité dans les moteurs de recherche.
  • Le format de newsletter payante directement curée par les utilisateurs me paraît aussi intéressant. Pour un résumé hebdomadaire du niveau de HN, je serais prêt à payer environ 5 euros par mois.
  • Mais ce type de structure risque aussi de renforcer les chambres d’écho. Il faudrait des mécanismes pour préserver la diversité des points de vue.
  • Au final, ça pourrait simplement finir par ressembler à Facebook ou LinkedIn.

• Ce genre de restriction pourrait aider à bloquer les bots, mais risque aussi d’étouffer les avis divergents
  HN reste l’un des rares espaces où des opinions minoritaires ou opposées peuvent encore exister. Si la régulation se renforce, cette diversité pourrait disparaître.

• Je suis un vieux lecteur silencieux de HN depuis 2014
  Je n’ai posté pour la première fois que récemment, et j’ai beaucoup utilisé l’IA. J’y ai passé plus de trois heures ; si cela devait être classé comme « contenu généré par l’IA », je trouverais ça injuste.
  Les critères d’acceptation du contenu créé avec l’aide de l’IA ne sont pas clairs.

  • Si le résultat a été réellement travaillé par une personne, même avec l’aide de l’IA, il mérite volontiers d’être lu. En revanche, des phrases simplement produites par un modèle sont une perte de temps.
  • Que le code soit généré par l’IA ne me dérange pas, mais quand le contenu lui-même adopte un style IA, c’est ennuyeux. Des formules comme « No buzzwords » me sortent désormais par les yeux.
  • Si c’est pour y passer trois heures, autant l’écrire soi-même, non ? C’est ainsi qu’on préserve la crédibilité.
  • La plupart des gens n’aiment pas lire des textes écrits par une IA. Un texte écrit directement par son auteur est bien meilleur.

• Un jour, HN devra peut-être aussi facturer 1 $ par publication. Comme mesure anti-spam, et les fonds pourraient être reversés à l’open source.

  • Mais 1 $ est bon marché pour la publicité et cher pour la participation communautaire. L’effet serait probablement inverse.
  • Le paiement par carte bancaire constitue une forte barrière à la participation. Même un centime peut rebuter.
  • Elon a proposé une idée similaire pour Twitter (X), mais au final la monétisation s’est étendue de manière excessive. Autour d’un dollar par mois, ce serait peut-être encore réaliste.
  • Cela rappelle les anciennes checklists anti-spam. La plupart des idées finissent par être neutralisées par la capacité d’adaptation des spammeurs.
  • 1 $ ne suffit pas à arrêter le spam. C’est un coût tout à fait supportable.