La fraude scientifique est devenue une « industrie »

• Une étude d’analyse à grande échelle révèle que la fraude scientifique est le résultat d’un phénomène d’« industrialisation » mené de façon organisée.
• Des fabricants d’articles, des éditeurs, des revues et des intermédiaires forment un réseau de fraude complexe et interconnecté.
• Des cas ont été détectés où des éditeurs et des auteurs échangent des articles à traiter, suggérant une collusion dans les irrégularités.
• Les faux articles montrent une tendance à augmenter de manière explosive ces dernières années et dépassent la vitesse d’identification et de rétractation.
• Les défauts et la structure d’incitation des systèmes d’évaluation de la publication et du recrutement ont été signalés comme des causes qui encouragent la croissance de cette industrie de la fraude.

---

État et analyse de l'industrie de la fraude scientifique

Introduction : structure d'une fraude scientifique en hausse

• Jusqu’à présent, les experts qui étudient la fraude scientifique mettaient en garde contre la production de faux articles à grande échelle et sa sophistication.
• Des investigations à grande échelle ont confirmé que divers acteurs — fabricants d’articles, revues, intermédiaires, maisons d’édition — participent à la fraude pour des bénéfices financiers.
• L’étude analyse, à partir de milliers d’articles, d’auteurs et d’éditeurs, un mécanisme frauduleux fortement imbriqué et complexe.

Aperçu des résultats de l'étude

• Les résultats ont été publiés dans Proceedings of the National Academy of Sciences et confirment des cas où les réseaux éditeur-auteur enregistrent de manière systématique des publications de faible qualité.
• Sont apparus des cas où de grandes organisations soumettent simultanément des dizaines de faux articles, ainsi qu’une structure dans laquelle des courtiers relient les fabricants d’articles aux revues qui acceptent les manuscrits frauduleux.
• Bien que le nombre de faux articles soit minoritaire par rapport à l’ensemble des publications, la vitesse d’augmentation est nettement supérieure à celle de la croissance globale des publications scientifiques.

Analyse des éditeurs douteux et des articles

• Pour repérer les corrupt editors (éditeurs inféodés), l’équipe a choisi la grande revue PLOS ONE, dont de nombreux métadonnées et les noms réels des éditeurs sont accessibles, ce qui facilite la détection d’anomalies.
• Ils ont identifié les éditeurs responsables des articles rétractés de PLOS ONE et de ceux critiqués pour des problèmes sur PubPeer.
• 33 éditeurs se sont avérés responsables de façon répétée d’articles rétractés et/ou critiqués.
  • Exemple : sur 79 articles gérés par un éditeur, 49 ont été rétractés.
• En 2024, ces éditeurs géraient seulement 1,3 % de l’ensemble des articles, mais représentaient presque un tiers des articles rétractés.

Réseaux de collusion entre éditeurs et auteurs

• De nombreux cas ont montré des éditeurs traitant de manière répétée les articles d’un même auteur, et beaucoup de ces éditeurs sont aussi des auteurs.
• Entre eux, des formes diverses de collusion illicite, comme le versement de pots-de-vin ou l’entraide informelle entre pairs, ont été avancées.
• Des cas similaires ont été reproduits dans une dizaine de revues publiées par des éditeurs en open access dont Hindawi.
• Les représentants des éditeurs ont insisté sur le fait que, bien que les données ouvertes de PLOS aient été la cible principale de la recherche, le problème des fabricants d’articles est sectoriel, touchant l’ensemble de l’industrie.

Cas récents de collusion détectés et aggravation du problème

• Récemment, l’éditeur Frontiers a également détecté un réseau de 35 éditeurs et auteurs qui cachait des conflits d’intérêts et assurait une relecture mutuelle des articles, entraînant le retrait de 122 articles.
• Ce réseau a publié plus de 4 000 articles dans au moins 7 éditeurs, soulevant la nécessité d’enquêtes supplémentaires.

Intermédiaires et fabricants d’articles

• Au-delà des simples fabricants d’articles et du réseau de collusion, une distribution organisée a été confirmée, consistant à soumettre massivement des articles à plusieurs revues en même temps.
• En s’appuyant sur plus de 2 000 articles impliqués dans des controverses de duplication d’images, les chercheurs ont tracé des clusters où les mêmes images apparaissent dans plusieurs publications.
• Le groupe d’articles présente un schéma clair, avec une concentration marquée sur certaines périodes et un nombre limité de revues.
• Dans ce processus, les courtiers (intermédiaires) participent également au dispositif de collusion, en plus des fabricants.

Cas d'organisations comme ARDA

• Analyse de l’exemple de l’Academic Research and Development Association (ARDA), basée à Chennai, en Inde
  • Services de rédaction d’articles et travaux de thèse, obtention de résultats de publication, etc.
  • Son site web organise l’inscription des publications à la place des chercheurs et demande des frais de 250 à 500 dollars.
• ARDA n’est pas une entreprise qui produit ses propres articles, mais joue un rôle de courtier doté d’une façade légale.
• ARDA et des structures similaires ciblent principalement les doctorants et les jeunes chercheurs.

Hausse et vitesse des faux articles

• L’analyse s’est appuyée sur les statistiques annuelles de 55 ensembles d’articles suspects répertoriés par différentes bases de données.
• Entre 2016 et 2020, les articles suspects ont doublé tous les 1,5 ans (soit dix fois le rythme de croissance global des publications scientifiques).
• Le nombre de rétractations et les signalements de problèmes sur PubPeer ont, respectivement, doublé tous les 3,3 ans et 3,6 ans.
• Toutefois, la vitesse de détection ne suit pas celle de l’augmentation des faux articles, ce qui fait monter la proportion de fraude dans la science.

Causes et facteurs structurels

• La vitesse de croissance globale de la science mondiale, l’augmentation des revues à faible impact et de l’anonymat, ainsi que des systèmes d’évaluation centrés sur la production d’articles contribuent à créer une dynamique de rétroaction négative.
• Le recours des jeunes chercheurs aux fabricants d’articles, afin de survivre à la compétition entre pairs, progresse fortement.
• Dans certains domaines médicaux, ces faux articles ont aussi pénétré des revues systématiques de la littérature et des méta-analyses, avec un risque de déformation de la perception de l’efficacité des traitements et des nouveaux médicaments.

Conclusion : urgence d'une réponse à l'échelle industrielle de la fraude

• Le problème était déjà suspecté, mais cette étude a une importance majeure car elle le démontre de manière radicale.
• Les chercheurs et les experts soulignent l’urgence de voir l’ensemble du monde académique reconnaître la réalité du phénomène et mettre en place une réponse ferme.
• Si les acteurs de l’embauche, de l’évaluation et de l’édition n’introduisent pas de sanctions claires pour les contrevenants et une réforme des incitations, la question d’une « industrie » de la fraude risque de s’étendre très rapidement.

[GN⁺]

Avis Hacker News

• J’ai constaté qu’il existe plusieurs types de fraude scientifique. À mon avis, les mélanger ne fait qu’ajouter de la confusion.

  • 1. Quand des données sont manipulées dans un article publié dans une revue prestigieuse, c’est un problème extrêmement grave
  • 2. Un article publié dans une revue légitime mais fondé sur une méthodologie erronée, ce qui conduit à des conclusions fausses — c’est précisément la « crise de la reproductibilité »
  • 3. Des articles produits en masse sans vérification, autrement dit des faux complets issus de paper mills — ils sont faciles à repérer et personne ne se fait vraiment berner individuellement
    • 3a. Mais si ces articles finissent utilisés dans des méta-analyses, cela devient très dangereux, parce que les gens font confiance aux méta-analyses elles-mêmes
  • Le problème 1 est le pire moralement, et il survient bien plus souvent qu’on ne le pense. Voir des articles aux données truquées publiés dans des revues comme Nature ou le NEJM est catastrophique
  • Le problème 2 est celui qu’on peut réformer. Des changements sont effectivement en cours dans plusieurs disciplines
  • Le problème 3 a peu d’impact sur la connaissance scientifique elle-même. Du point de vue des universités ou des organismes de financement, ils peuvent être contrariés que leurs chercheurs achètent de faux articles, mais on peut ignorer ces publications
  • En revanche, le problème 3a est très grave parce qu’il peut affecter de vraies politiques publiques

  • D’après mon expérience, les données totalement fabriquées sont rares. En revanche, sélectionner les données de manière opportuniste pour obtenir le résultat souhaité ou mal utiliser les statistiques est extrêmement courant, même dans des revues renommées comme celles du portefeuille Nature. Je pense qu’au moins 20 % des articles en sciences de la vie et en médecine comportent de graves erreurs méthodologiques

    • La principale raison, c’est un système d’incitations pervers et un déséquilibre de pouvoir. Si un étudiant ou un postdoc refuse les exigences de son directeur, il peut être évincé du projet et voir sa carrière anéantie
    • À l’inverse, les professeurs qui encouragent cette culture ne subissent pratiquement aucune sanction. Il n’y a ni supervision ni contrôle d’intégrité, et les universités ferment les yeux même sur des manipulations de données ou des fraudes manifestes. Au final, ceux qui savent enfreindre les règles sont davantage récompensés, donc les mauvais comportements perdurent

  • Malveillance, incompétence, accident — du point de vue de la reproductibilité, il est impossible de distinguer les trois. Il n’existe aucun moyen de connaître l’intention du chercheur

    • Si ce secteur (chercheurs, universités, organismes financeurs, etc.) ne fait pas le ménage et ne sanctionne pas les mauvais acteurs, on finira dans une époque où tout résultat de recherche devra être suspecté tant qu’il n’aura pas été effectivement reproduit
    • Les sanctions peuvent prendre différentes formes : de « pas de publication sans soumission des données et de la méthodologie » à des réductions de financement, ou encore un registre public des mensonges et de l’incompétence

  • Je voudrais parler d’un cas que j’ai vécu avec un article. J’étais tombé sur un article vraiment génial, qui semblait sur le point de résoudre mon problème. Il avait été publié dans une conférence de rang A, et les auteurs indiquaient que les données et le code seraient bientôt rendus publics

    • Mais j’ai eu beau chercher, impossible de trouver les données ou le code. J’ai même contacté les auteurs et leur département, et la seule réponse obtenue a été qu’aucune publication n’était prévue avant un moment.
    • Au final, cet article a peut-être été entièrement fabriqué, ou n’être qu’une histoire sans le moindre fondement
    • De mon côté, il me faut un temps énorme pour rassembler chaque donnée expérimentale et chaque bout de code, et cette réalité me fait perdre confiance dans mon propre travail

  • Je voudrais citer comme exemple le cas de l’article Reinhart-Rogoff. Une simple faute de frappe dans Excel a suffi à des tas de responsables politiques pour justifier des politiques d’austérité ; je me demande si cela relève du problème 2 ou du problème 3a

  • Le problème 3 a aussi un autre effet pervers. Les complotistes s’appuient sur ce genre d’articles pour donner une crédibilité scientifique à leurs propres thèses farfelues

    • Ils les citent sur Youtube ou dans des articles de vulgarisation et induisent le public en erreur. Une de mes connaissances s’est récemment « intéressée » à la science et ne m’envoie plus que des vidéos Youtube absurdes
      • Par exemple, que la Terre aurait été détruite parce que Bételgeuse est devenue une supernova, ou qu’il existerait sous la pyramide de Khéops un tunnel profond que seuls des extraterrestres auraient pu creuser
    • Au bout du compte, ce phénomène érode encore davantage la confiance du public dans la science

• Je me souviens d’un professeur chinois qui avait repris dans un article tout ce qu’il y avait dans ma thèse de doctorat — formules, figures, tout. C’est un étudiant chinois d’un autre labo qui a comparé les deux articles et m’a signalé à quel point ils se ressemblaient. J’ai contacté l’université concernée et n’ai jamais reçu de réponse. Quel bon souvenir

  • J’ai vécu quelque chose de similaire. Je faisais de la recherche au Royaume-Uni, et un postdoc chinois envoyait notre méthode et nos résultats à quelqu’un en Chine. Ils ont été publiés simultanément dans des revues dont nous n’avions jamais entendu parler, et nous avons compris que nous ne pouvions pratiquement rien faire. Même les couvrir de honte n’a servi à rien. Heureusement, cela n’a pas eu de conséquences majeures pour nous

  • À moitié en plaisantant, je proposerais de leur rendre visite à l’improviste en tant que voyageur et d’aller frapper au bureau du professeur fraudeur

    • Dans un cas similaire, je suis allé voir en personne quelqu’un qui avait plagié mon mémoire de master. Si vous signalez ensuite l’affaire à l’administration du campus, il reste un rapport officiel expliquant pourquoi vous êtes venu, ce qui place l’autre partie dans une situation encore plus gênante
    • À noter : cela ne s’est pas produit en Chine. Ironiquement, les chercheurs chinois que j’ai rencontrés étaient au contraire très éthiques et très consciencieux. C’est dommage que la réputation des autres soit abîmée par quelques individus

• Dans les emplois high-tech liés à l’IA, il devient presque indispensable aujourd’hui d’avoir publié en premier auteur dans une conférence de tout premier plan

  • Les salaires d’entrée dépassent souvent les $150,000, donc l’incitation financière à la fraude scientifique est bien réelle
  • Je pense qu’au final, publier un article aura de moins en moins d’importance. Avec le temps, le monde des affaires trouvera d’autres indicateurs de réussite

  • Publier des articles ne sert pas seulement à trouver un emploi. Cela aide aussi à immigrer avec un visa « expert », avec des délais d’attente plus courts, des quotas plus larges et de meilleurs avantages

    • Dans mon entourage, faire produire contre paiement des articles de dossier ou de prétendues recherches originales par des prestataires spécialisés est devenu presque banal.
    • Cela finit aussi par créer une perception biaisée de ce qui distingue les « bons » des « mauvais » immigrés

  • Les articles de conférences de tout premier niveau ne sont pas ceux qui sortent de ces « usines à articles »

    • Les faux articles apparaissent plutôt dans certains journaux, comme dans le cas de PLOS ONE où 49 articles sur 79 traités par un éditeur ont été rétractés
    • Ce genre de chose n’arrive pas dans les meilleures conférences

  • J’ai aussi vu récemment des entreprises qui, lorsqu’elles évaluent le parcours de publication d’un candidat, lui demandent de reproduire un article sur le terrain. Tout le monde commence à prendre conscience du problème

• Certains disent avoir de plus en plus de mal avec le slogan « trust the science »

  • On a désormais l’impression que la science s’est transformée, passant du progrès de l’humanité à une lutte pour des emplois stables de cols blancs

  • Tout cela n’affaiblit pas vraiment le message « trust the science ». En revanche, il ne faut jamais croire naïvement un article pris isolément

    • Quiconque suit la recherche de près le sait très bien
    • Il arrive souvent qu’un article paraisse révolutionnaire, mais qu’en essayant de le reproduire on n’y parvienne pas, et qu’il ne débouche jamais non plus sur une application commerciale
    • Certaines communautés, comme celle des podcasteurs santé, s’enthousiasment pour ce type d’articles, mais en réalité il ne faut leur accorder sa confiance qu’après validation

  • Si l’on peut encore dire « trust the science », c’est parce que, dans l’ensemble, la science fonctionne toujours bien

    • Au contraire, c’est plutôt une culture consistant à justifier sa position sous le slogan « trust the science* » tout en ne citant que des résumés d’articles qui alimente la crise de confiance
    • La vraie science repose sur des expériences vérifiables et des faits
    • Si la science elle-même devenait intrinsèquement indigne de confiance, ce serait le signe que nous faisons quelque chose de fondamentalement mauvais ; la science en tant que telle reste solide

  • D’après l’article, les mauvais papiers sont critiqués puis rétractés

    • Cela montre que, malgré quelques fraudeurs, le système scientifique dans son ensemble fonctionne de façon robuste, comme prévu

  • Depuis le Covid, on voit d’ailleurs moins souvent le slogan « trust the science »

    • La mauvaise science a toujours existé en abondance, et j’ai plutôt l’impression qu’aujourd’hui la sensibilisation du public à la fraude et les rétractations sont plus actives qu’avant

  • Il est vrai que le monde scientifique contient beaucoup de corruption et de fraude. Mais il est rare que cette fraude pilote les grands débats publics

    • La fraude se cache surtout dans les 99 % de science qui restent invisibles, et c’est justement pour cela qu’elle est difficile à détecter

• Autrefois, je pensais que le monde académique était un espace de pure méritocratie. En y entrant, j’ai découvert qu’il était bien plus impitoyable que l’entreprise, et qu’aucune organisation n’échappe aux faiblesses humaines. Après tout, tout cela est produit par la nature humaine

  • En tant qu’ancien chercheur dans le solaire, j’ai vécu exactement la même chose

    • Rédaction de mon mémoire de master dans un des meilleurs labos du monde, avec des expériences basées sur un article publié par un chercheur senior
    • J’ai expérimenté comme un fou pendant des mois sans jamais réussir à reproduire les résultats
    • Par hasard, j’ai montré mes données expérimentales à un doctorant plus avancé, qui m’a expliqué que la tension indiquée dans l’article était physiquement impossible, et qu’il suffisait d’augmenter la tension pour gonfler artificiellement la puissance annoncée
    • Dans le monde académique, il suffit d’avoir beaucoup de citations pour réussir, et les professeurs n’obtiennent leurs financements qu’en fonction du nombre de citations
    • Cela crée au final un cercle vertueux pour ceux qui ont plus d’expérimentateurs, plus d’équipements, plus d’articles, plus de citations
    • Dans un tel système, l’incitation à la fraude est énorme, et tout le monde le sait tout en la tolérant
    • En science, tout relève de petits domaines de niche, donc à l’intérieur tout le monde se connaît, ce qui laisse prospérer une culture négative
    • J’ai gâché sept mois à m’acharner sur des chiffres impossibles, puis j’ai compris que tout ce système était gouverné par l’argent et la politique, et j’ai renoncé à devenir chercheur
    • La seule solution serait que plusieurs gouvernements et ministères de l’Éducation coopèrent pour faire vérifier rigoureusement chaque article par plusieurs laboratoires. Ce serait coûteux, mais je ne vois pas d’autre issue

  • En venant du monde des affaires, j’avais en réalité une image différente de l’université

    • Un budget de recherche fixé, un nombre de postes limité, tout le monde en compétition dans un jeu à somme nulle, avec en plus des positions qu’on ne peut pratiquement pas perdre
    • Si j’étais dans un tel environnement, j’aurais l’impression de vivre sous menace permanente
    • Le business connaît déjà beaucoup de fraude malgré ses nombreuses opportunités de win-win ; dans le monde académique, cela doit être encore pire

  • Je pensais que le milieu académique était altruiste et éclairé. Et j’ai effectivement rencontré beaucoup de gens comme ça

    • À l’inverse, il existe réellement des départements entiers gangrenés par la fraude
    • Mais la plupart des universitaires prennent sincèrement leur discipline au sérieux, s’occupent de leurs étudiants et essaient honnêtement de faire le travail qu’on leur confie au milieu d’une politique souvent solitaire
    • Cela reste malgré tout bien meilleur que l’industrie tech

  • Il existe une citation célèbre connue sous le nom de Sayre's Law : « La politique universitaire est si féroce et venimeuse parce que les enjeux y sont si faibles »

  • Il y a un point qu’il faut absolument dissocier

    • Aujourd’hui, certification, enseignement et recherche sont tous imbriqués
    • Si l’on veut obtenir une qualification reconnue par une institution de premier rang, il faut s’y inscrire et y suivre des cours
    • Ce qui signifie qu’on se retrouve à apprendre auprès de chercheurs qui n’ont aucun intérêt pour l’enseignement, tandis qu’en pratique ce sont des doctorants débutants payés au salaire minimum qui assurent les cours
    • Et malgré cela, il faut payer des frais de scolarité énormes

• Cette situation n’a rien de surprenant. C’est la conséquence naturelle d’une surproduction de scientifiques, d’un marché à la concurrence extrême et de décisions à courte vue qui font du nombre de publications un indicateur central dans l’évaluation des carrières

  • Si quelqu’un en est surpris, c’est qu’il n’a pas vraiment vu à quel point les scientifiques subissent depuis des décennies des incitations profondément biaisées

• Les types de faux articles mentionnés ici, comme les paper mills, sont rares aux États-Unis (même s’il existe là-bas des formes de fraude plus subtiles et plus complexes)

  • Ces pratiques sont liées à l’environnement académique propre à certains pays et à l’histoire de l’expansion de leurs universités
  • Avant les LLM (grands modèles de langage), je pense que ce genre de papiers absurdes avait peu d’effet sur le terrain réel
  • Ils circulaient surtout dans des boucles de citations où ces papiers ne citaient qu’entre eux, avec un impact minime sur les connaissances dominantes hors du champ
  • Mais si des outils comme Deep Research commencent à les exploiter, cela devient un vrai problème
  • Aux États-Unis, il est aussi courant de voir des articles qui modifient à peine quelque chose d’existant pour donner une impression de nouveauté et insister sur leur fraîcheur

• Il suffit de voir à quel point Nature a changé

  • Autrefois, c’était la grande revue de référence en sciences de la vie, mais aujourd’hui le Nature Portfolio comprend des dizaines de sous-revues comme celles-ci
  • Nature Energy publie beaucoup d’articles exagérant les performances des batteries, et Nature Materials regorge particulièrement d’articles très promotionnels en chimie de surface et en nanotechnologies
  • Je soupçonne que d’autres sous-revues souffrent des mêmes problèmes
  • Il ne faut pas non plus oublier les « nature partner journals ». Les gens les citent eux aussi en parlant de « Nature XX »

• La fraude scientifique est une industrie depuis longtemps, et j’ai toujours pensé que tant que le rapport signal/bruit restait suffisamment bon, l’ensemble continuait plus ou moins à fonctionner

  • Je me demande si l’aggravation des inégalités de richesse n’accroît pas la pression de survie sur les chercheurs, ce qui se traduirait par davantage de comportements frauduleux

  • La culture du « publish or perish » a complètement marchandisé la recherche scientifique

    • Ma théorie, c’est qu’avant la Première Guerre mondiale, une aristocratie aisée se consacrait réellement à la science par goût, mais qu’il était difficile de changer d’échelle
    • Il y avait alors moins de mensonges de subsistance
    • Cela ne veut pas dire qu’il faille revenir à cet ancien modèle, mais je pense qu’une approche de type MBA qui transforme les scientifiques en « pièces interchangeables » du système et mesure leur influence via des métriques comme le nombre de citations est vouée à l’échec

  • Parmi les indicateurs curieux utilisés aujourd’hui pour détecter les faux articles, il y a les « tortured phrases » (formulations artificielles issues de mauvaises paraphrases automatiques)

    • Exemple : Parkinson’s illness/infection/sickness
    • Ces expressions viennent de logiciels de reformulation destinés à contourner la détection du plagiat, et le fait que ni les auteurs, ni les éditeurs, ni les relecteurs, ni les correcteurs ne s’en soient aperçus est un problème grave
    • Article connexe : Retraction Watch: All the red flags...

• Certains posent la question : jusqu’à quel point cette fraude doit-elle se répandre avant qu’on réduise drastiquement le soutien à la science ?

  • Si 90 % des travaux deviennent irréproductibles ? 95 % ? 98 % ? Leur position est qu’il faut une réponse ferme, même si certains domaines encore sains en pâtissent eux aussi

  • Beaucoup de personnes en ligne qui défendent l’importance du financement de la science le font davantage par réflexe de fan que par compréhension de la réalité interne ou de la pensée scientifique

    • Sur le terrain, les organismes de financement ne parviennent pas à allouer correctement les ressources aux bonnes idées, et le système est structuré pour ne laisser survivre que ceux qui savent en maîtriser les codes
    • Même le mot « expert » finit par désigner surtout ceux qui se sont bien adaptés à ce système
    • Chaque fois qu’un nouveau système de financement est proposé, il suscite d’ailleurs une opposition très forte

  • Je ne pense pas qu’assimiler la science à un cancer soit une bonne façon de débattre

    • J’aimerais savoir s’il existe des données, et si 90 % des travaux sont réellement irréproductibles
    • Je me demande aussi sur quoi repose l’idée que le cancer et la fraude scientifique seraient comparables

  • Selon une autre analyse, le recul général de la prospérité dans les années 1970 et la forte inflation ont déclenché une réduction du soutien aux universités, à partir de laquelle celles-ci se sont progressivement éloignées à la fois du financement sain et de l’excellence académique

    • À partir de là, tout le monde a dû se concentrer davantage sur les considérations économiques pour survivre, et cet état d’esprit a été injecté jusqu’au cœur des universités
    • C’est aussi à ce moment qu’a commencé la forte dépendance aux étudiants étrangers payants