- Pendant l’élection présidentielle américaine de 2020, dans un échantillon d’électeurs américains sur X (ex-Twitter), environ 2 000 supersharers ont diffusé 80 % des contenus issus de sites de fake news, montrant que la propagation de la désinformation était concentrée sur un très petit nombre de comptes
- Ce groupe avait un âge moyen de 58 ans, soit 17 ans de plus que la moyenne de l’échantillon ; près de 60 % étaient des femmes ; et leur affiliation politique enregistrée était de 64 % républicains contre 16 % démocrates
- Les chercheurs s’attendaient à trouver de l’automatisation en raison de leur forte activité, mais n’ont détecté aucun schéma de bot dans le timing ou l’intervalle des tweets ; le comportement ressemblait davantage à de vrais utilisateurs qui retweetent eux-mêmes
- S’ils avaient été suspendus en août 2020, on estime que le volume de fausses informations électorales vues par les électeurs aurait diminué des deux tiers ; une limite de 50 retweets par jour toucherait environ 90 % des supersharers, contre seulement 1 % de l’ensemble des utilisateurs
- Des limites sur les retweets ou des étapes de reconfirmation pourraient réduire la diffusion sans dégrader fortement l’expérience de la plupart des utilisateurs, mais leur efficacité réelle dépendra de la compréhension des raisons pour lesquelles ces personnes continuent de diffuser ces contenus
Une diffusion concentrée mise en évidence dans les données de l’élection de 2020
- Selon une analyse publiée dans Science, dans un échantillon de plus de 600 000 électeurs américains sur X (ex-Twitter), la diffusion de contenus provenant de sites de fake news était fortement concentrée entre les mains d’un petit nombre d’utilisateurs
- Si des contenus liés à l’élection américaine de 2020 en provenance de sites comme Infowars ou Gatewaypundit sont apparus dans des fils sociaux, il y a de fortes chances qu’ils proviennent initialement d’un groupe d’utilisateurs extrêmement réduit
- Les chercheurs ont utilisé les données de 660 000 utilisateurs américains de X utilisant leur vrai nom et leur localisation, puis les ont mises en correspondance avec les données d’inscription sur les listes électorales
- Environ 7 % des actualités politiques partagées chaque jour par ces utilisateurs provenaient de sites non fiables comme Infowars et Gatewaypundit
- Parmi eux, 2 107 personnes ont diffusé 80 % des fake news, et plus d’un utilisateur sur 20 du jeu de données suivait au moins un supersharer, ce qui donnait à ce petit groupe une portée importante
Caractéristiques des supersharers et réponses possibles
- L’âge moyen des supersharers était de 58 ans, soit 17 ans de plus que la moyenne de l’ensemble de l’étude, et près de 60 % étaient des femmes, ce qui ne correspond pas au stéréotype du manipulateur des réseaux sociaux comme jeune homme alt-right
- Leur affiliation politique enregistrée était de 64 % républicains et 16 % démocrates
- Malgré leur forte activité, aucun schéma suggérant une automatisation n’a été observé dans le moment ou l’intervalle des tweets ; la coautrice Briony Swire-Thompson explique qu’ils appuient réellement sur le bouton retweet devant leur ordinateur
- Pour Nir Grinberg, le supersharing ressemble moins à une intervention électorale ponctuelle menée par des individus à l’aise avec la technologie qu’à un processus sociotechnique de long terme qui pollue l’écosystème informationnel d’une partie de la société
- Des recherches antérieures avaient déjà mis en évidence une concentration similaire
- En 2019, Nir Grinberg et ses collègues ont analysé un échantillon de plus de 16 000 utilisateurs de Twitter avant et après l’élection présidentielle américaine de 2016, concluant que 80 % des actualités provenant de sites non fiables et tweetées venaient de seulement 16 personnes
- Les réponses peuvent être conçues soit pour viser directement les supersharers, soit pour limiter le processus de retweet
- Si les supersharers avaient été suspendus en août 2020, on estime que les fake news électorales vues par les électeurs auraient diminué de deux tiers
- Fixer un plafond de 50 retweets par jour toucherait environ 90 % des fake news supersharers de l’étude
- Avec la même limite, seulement environ 1 % de l’ensemble des utilisateurs atteindraient le plafond
- Stephan Lewandowsky estime qu’au lieu d’une limite absolue, X pourrait simplement rendre le processus un peu plus contraignant, par exemple en demandant à l’utilisateur s’il veut vraiment retweeter
- La question restante ne porte plus sur ce que font les supersharers, mais sur les raisons pour lesquelles ils le font
1 commentaires
Avis de Hacker News
La bonne question n’est pas « comment empêcher le partage de fake news ? », mais « comment donner aux gens les outils pour identifier les fake news ? »
Si, même après avoir reçu ces outils, quelqu’un diffuse ce que je considère comme une fake news, alors on a fait tout ce qu’on pouvait. Trop de gens s’indignent que d’autres partagent des contenus différents des leurs et cherchent à étouffer la communication. Mais cela signifie seulement que leur idée a perdu la bataille de la persuasion, et les gens ont la liberté de penser et de partager des idées qui me mettent en colère. Si l’on saisit l’arme de la censure, je ne serai pas la dernière personne à la brandir.
Les fake news relèvent généralement plutôt de l’amplification de rumeurs fausses ou d’affirmations invérifiables et sans fondement, ce qui dégrade fortement le débat. Même s’il s’agit d’une opinion opposée, si elle est présentée comme un fait vérifiable et étayée, je suis tout à fait prêt à la lire.
La quantité n’est ni un fait ni la vérité. Oui, la censure est dangereuse, mais cet article ne plaide pas pour la censure. Comme le disait Mark Twain, « le mensonge fait le tour du monde pendant que la vérité met ses bottes » ; les réseaux sociaux reviennent à verser du carburant de fusée sur cet effet. Si un groupe amplifie des mensonges de façon cohérente et disproportionnée, il est raisonnable d’introduire un peu de friction, ou d’obliger à choisir en priorité ce que l’on va republier. Cela n’empêche pas de publier des mensonges, cela oblige seulement la personne à choisir ce qui lui paraît le plus important.
Sur Hacker News aussi, si l’on publie trop, un message du type « Please slow down, you're posting too fast. » s’affiche, et il devient impossible de republier pendant quelques heures. Je n’ai vu personne crier à la « censure !! » pour autant, et peu de gens penseraient que les débats sur Twitter sont meilleurs que ceux de HN. Donc, si l’on qualifie de « censure » une proposition de limitation du volume de publication similaire sur d’autres réseaux sociaux, il faut expliquer pourquoi, y compris le fait qu’aucun contenu particulier n’est restreint.
Ce que l’on veut, c’est que les gens soient bloqués lorsqu’ils rencontrent les fake news de l’ennemi, ou même la vérité si elle est dite par l’ennemi. Ainsi, les gens croiront tout ce que je dis, et l’ennemi ne pourra pas les influencer.
Vers 1990, quand l’e-mail Internet a commencé à être déployé auprès d’employés non techniques d’organisations technophiles, un tout petit nombre de personnes manifestaient une sorte de trouble du partage récréatif.
Peu importait qu’il s’agisse de blagues sur les blondes, de « priez tous pour Katie qui a un cancer » ou de « faites suivre ceci 1 000 fois et la paix dans le monde arrivera ». Il n’y avait ni filtre de crédibilité, ni filtre de respect du temps et des centres d’intérêt des autres. À mesure que le nombre d’utilisateurs connectés augmentait, même une infime proportion de cas de ce type suffisait à générer assez de trafic pour mettre à mal des services de messagerie au niveau de modems RTC ou de liaisons T-1 partielles. Mathématiquement, c’était intéressant, et au travail, c’était assez maîtrisable lorsque les administrateurs faisaient parfois des rappels. Aujourd’hui, la politique et les émotions se sont ajoutées, ce qui rend la situation bien plus toxique, mais il faut se rappeler que le fond du problème tient surtout aux très grands réseaux et à la distribution en cloche des comportements humains.
Si les plateformes le voulaient, il semblerait facile de créer des paramètres utilisateur permettant de filtrer la politique, les contenus qui déclenchent l’indignation, etc. Par exemple, Reddit affiche sur ma page d’accueil des liens vers des vidéos de violences policières même si je ne fais pas partie de ces communautés. Cela ressemble à un dark pattern comparable au fait de placer des barres chocolatées près de la caisse pour lutter délibérément contre ma maîtrise de moi.
Je travaillais dans une petite entreprise située à quelques heures de route de New York, filiale d’une grande entreprise dont le siège était plus à l’ouest. Quelqu’un dans l’organisation administrative du siège a transféré des photos en très haute résolution des événements de la veille, et l’adresse e-mail de groupe utilisée incluait toutes les organisations relevant de cette structure de gestion, si bien que 10 000 à 20 000 personnes ont probablement reçu les photos. Après environ trois messages, la personne s’est arrêtée ou a été arrêtée. Pour le meilleur ou pour le pire, les personnes à tendance RSD semblent être passées sur Facebook.
https://www.youtube.com/watch?v=KCSA7kKNu2Y
Le fait que de petits groupes concentrés puissent avoir un impact important sur la société est bien connu ; c’est aussi ainsi que des idées progressistes initialement marginales, comme les droits LGBT, ont été mises en œuvre.
Le problème des fake news, c’est que certaines finissent par s’avérer vraies, ce qui entame la crédibilité de ceux qui s’y opposaient, pousse à douter des « arbitres de la vérité » et donne davantage de crédit aux superpartageurs. Cela devient : « si les médias officiels ont menti sur cette affaire, cette personne pourrait-elle avoir raison aussi ? » Désormais, même des personnalités respectées comme Jeffrey Sachs, qui a passé sa vie dans les cercles du pouvoir, remettent en question plusieurs récits officiels. Cela affaiblit encore le signal de « vérité » et accroît la confusion. L’IA risque elle aussi d’aggraver bientôt la situation.
Il suffit de se rappeler l’époque où le simple fait d’évoquer l’hypothèse de la fuite de laboratoire valait une stigmatisation. Les grands médias ont fini par faire volte-face, mais leur crédibilité a été fortement entamée au passage. Beaucoup de gens ont aussi grandi en voyant le récit sur les armes de destruction massive en Irak se révéler directement mensonger. Désormais, ils ne croient plus à rien. Si l’on a un esprit scientifique, on peut heureusement se faire sa propre opinion et être assez sûr de ne pas être fou, mais le problème central semble être que, pour la plupart des gens, cela ne fonctionne pas bien.
Dans n’importe quelle organisation, une minorité bien organisée exerce du pouvoir sur la majorité non organisée ou sur le reste des gens. C’est ainsi que naissent des arrêtés locaux absurdes. Un petit groupe bien organisé crée de la pression, tandis que l’opposition est dispersée et indifférente. Tant que ce groupe minoritaire n’est pas trop petit, sa petite taille même facilite l’organisation d’un cercle de soutien plus large, fait de sympathisants ou d’idiots utiles. Si l’on défile ensemble un samedi après-midi, une idée marginale peut donner l’impression d’être l’opinion majoritaire, et les personnes qui ne s’y intéressaient pas finissent par se dire : « bon, peu importe ».
Personnellement, je préfère les réseaux sociaux qui n’ont tout simplement pas de fonction « retweet »
Je veux voir les véritables mises à jour originales des personnes que je suis, pas des infos, vraies ou fausses, ni des chaînes de lettres
La grande majorité des comptes que je suis, je les ai découverts parce que quelqu’un que je suivais déjà les avait retweetés, ou boostés sur Mastodon
Je ne sais donc pas si l’on peut vraiment empêcher cela complètement
Le problème, c’est que les gens croient sans recul des sources originales du type « J’ai entendu dire que X est en train de se produire ! », sans preuve réelle
Si l’on remonte très loin, on peut imaginer des inconnus se rencontrant dans la nature et se méfiant les uns des autres
Pour déterminer s’il s’agissait d’une menace ou d’amis potentiels, il fallait établir de la confiance : d’où ils venaient, qui ils connaissaient, si nous avions des connaissances en commun, s’ils mentaient, etc. Les premiers réseaux de confiance reposaient sur une connaissance personnelle des autres. Je pense qu’un maillage de confiance similaire devrait réapparaître. Une structure où l’on se porte garant de quelqu’un, et où, si cette personne fait n’importe quoi, celui qui s’est porté garant en subit aussi les conséquences. On peut imaginer que si l’on laisse entrer un loup dans son cercle de confiance, le graphe de relations peut s’effondrer
Si un cercle de confiance compromis pouvait être coupé en bloc, on pourrait peut-être retrouver un Web plus authentique. Quand on voit de la publicité poubelle ou du spam de blog, on pénalise le cercle qui l’héberge en cessant de voir son contenu. De petits cercles se relient à d’autres cercles, et dans le premier cercle il y a des gens que l’on connaît réellement. Une sorte de nouveau webring. Si ma seule porte d’entrée vers Internet était mon anneau et les anneaux associés, cela pourrait créer une chambre d’écho, mais cela donnerait aussi la capacité d’exclure immédiatement les acteurs malveillants de son anneau. Si de la propagande de fake news apparaît, l’anneau et tous ses membres sont pénalisés jusqu’à ce que le loup soit retiré
Bonus s’ils portent un uniforme : tout le monde leur fera confiance. Savoir à qui se fier n’a jamais été un point fort de l’être humain
On peut faire confiance à quelqu’un sur un sujet et lever les yeux au ciel sur un autre. Cette confiance change, et elle change effectivement souvent. Parfois parce que l’autre personne change, parfois parce que c’est moi qui change. Pour moi, cela ressemble plutôt à un seul nœud avec d’innombrables connexions de profondeur 1 qui clignotent
Je pense que la plupart des gens raisonnent de façon similaire, même s’ils n’en ont pas forcément conscience. On a des démocraties où tout le monde vote en apparence pour le candidat qu’il veut voir gagner, alors que le taux d’approbation du Congrès frôle les chiffres à un seul chiffre. [1] C’est possible parce que les gens sont extrêmement insatisfaits même quand leur camp et leur parti détiennent le pouvoir ; sinon, ce taux se maintiendrait au moins autour de 50 %
[1] - https://news.gallup.com/poll/1600/congress-public.aspx
L’individu n’existe plus vraiment. Tout le monde est principalement façonné par les médias de masse et l’enseignement de masse dispensé par l’école. Les rares individus qui existent peuvent exercer une influence démesurée, comme les superpartageurs
Le terme « fake news » est tellement large, et mêle tellement positionnement idéologique, excès de langage et réalisme moralisateur et naïf, qu’il devrait pratiquement être interdit
L’objectif semble être de rendre les gens plus critiques vis-à-vis de ce qu’ils lisent et partagent, mais en pratique cela produit l’effet inverse. On se contente d’étiqueter les sources comme mauvaises ou bonnes, ce qui est très proche de la propagande. Il nous faut d’urgence une classification beaucoup plus nuancée que la dichotomie fake news/bonnes nouvelles
Le fait que toute diffusion d’information suive une loi de puissance n’a absolument rien de surprenant. S’ils avaient comparé des catégories d’information comme la politique, l’indignation, les discussions techniques, ou des informations neutres et ennuyeuses, ils auraient pu dire quelque chose d’intéressant. Mais cela se concentre surtout sur une catégorie étroite de désinformation fondée sur des jugements de valeur. Il serait bien plus intéressant de savoir en quoi certains types d’information diffèrent par leurs propriétés topologiques
Ces dernières années, j’ai fait la promotion payante de plusieurs tweets, et j’ai constamment vu une certaine proportion d’utilisateurs qui semblaient retweeter presque tout ce qui passait dans leur fil
Mon contenu étant de niche, son lectorat est généralement très réduit ; du coup, quand j’examine les personnes qui ont réagi à mes tweets, ces comptes de retweet aveugle ressortent fortement. Le comportement que j’ai observé correspond à ce qui est décrit dans l’article. Le moment où surviennent les rafales de retweets peut assez bien suggérer qu’une vraie personne appuie sur le bouton, et je soupçonne que c’est effectivement le cas. Si l’on regarde, dans la longue traîne, des fake news complètement absurdes avec très peu de lecteurs par tweet individuel, il n’est pas surprenant que la plupart des retweets de ces mensonges manifestes viennent de ce type de comptes de retweet aveugle
L’effet global est que la bulle à laquelle appartiennent ces utilisateurs est un peu amplifiée, absurdités comprises, mais je suis sceptique quant au rôle que cela joue dans le fait de rendre quelque chose vraiment populaire. Le vrai problème est plus subtil : les fake news moins manifestes, qui trompent même des gens qui ne cliquent pas aveuglément ; celles qui obtiennent une large audience parce que beaucoup les trouvent plausibles ; et les tromperies qui restent dans l’inconscient collectif même après que les réfutations ou les vérifications des faits ont fait retomber leur popularité. À mon avis, l’effet des superspreaders qui répètent des foutaises totales est minime comparé à celui des foutaises presque plausibles qui finissent réellement par devenir grand public
Selon cette règle, sur les réseaux sociaux ou les sites d’avis, seuls 1 % des utilisateurs créent activement du contenu, 9 % participent en commentant, notant ou partageant, et les 90 % restants regardent et lisent sans réagir. C’est aussi mon expérience, et sur HN la majorité est composée de lurkers. Je pense que lorsqu’on se contente de lurker, on est beaucoup plus susceptible de consommer quelque chose sans trop y réfléchir. Comme le dit l’adage, pour vraiment connaître quelque chose, il faut essayer de l’enseigner ; à tout le moins, il faut être capable de l’expliquer, et cela n’arrive pas dans la passivité. Cela arrive dans la conversation
Nous vivons dans un monde réductionniste, et cela ne changera pas. Comme quelqu’un l’a dit à juste titre, la seule issue, ce sont de meilleurs outils.
Aujourd’hui, on n’arrive même plus à distinguer les faux humains des vrais, et juger correctement de la qualité de l’information est encore plus difficile. Le cloaque créé par l’Internet financé par la publicité nous a menés jusqu’ici, et on ne voit pas de sortie.
J’ai beaucoup travaillé avec des organisations en crise ou en fin de parcours. Il arrive un moment où tout le monde sait que c’est la phase terminale, mais continue quand même d’avancer. Le comportement des gens commence à ressembler à celui qu’on observe dans un village Potemkine. C’était le cas à la fin de l’Union soviétique.
À mon avis, les outils dont nous aurons besoin à l’avenir n’ont presque rien à voir avec le code. Il nous faut de petits groupes de confiance composés de vraies personnes, un partage progressif, des centres d’intérêt et des groupes qui se recoupent, et des appareils qui ne font qu’une seule chose à la fois. Ainsi, moi et mon groupe social pourrons surveiller et optimiser notre usage. Nous savons que ce genre de choses fonctionne pour les humains, et nous le pratiquons depuis des millénaires. Ce ne sera sans doute pas une opinion populaire sur HN, mais ce sont les outils dont nous avons besoin pour avancer en tant qu’espèce. La technologie peut évidemment aider, mais elle est loin de pouvoir remplacer l’expérience sociale et évolutive partagée qui est inscrite en nous.
À long terme, je suis optimiste quant à la technologie et au progrès, mais comme à chaque grande transformation des outils, il faut dégager les foutaises et réadapter les normes sociales. Nous l’avons déjà fait de nombreuses fois, et j’espère que nous continuerons à le faire.
La solution selon laquelle « une simple limitation des retweets freinerait la diffusion de cette information tout en ayant très peu d’impact sur la grande majorité des utilisateurs » me paraît bonne.
Il me semble que c’était en Inde : lorsque WhatsApp a été utilisé pour attiser des violences ethniques, la plateforme a limité le nombre d’utilisateurs avec lesquels on pouvait partager un message en une seule fois. Mettre des garde-fous à ce type de viralisation en chaîne ne peut qu’aider n’importe quel réseau de communication à rester sain.
La combinaison consistant à laisser des comptes individuels diffuser sans aucune vérification à la vitesse d’une grande chaîne d’information télévisée ne pouvait pas produire quoi que ce soit de proche de la vérité. Le principe selon lequel un groupe produit de la vérité repose sur l’effet représentatif de la sagesse des foules. Qu’un 0,1 % d’utilisateurs fortement corrélés fasse basculer toutes les discussions est un état extrêmement pathologique.
Le plus gros problème, c’est que limiter les utilisateurs viraux va frontalement à l’encontre des incitations économiques des plateformes sociales à but lucratif, et il est particulièrement peu probable que cela arrive sur Twitter.
Il n’existe aucun moyen d’éliminer les « fake news ».
Et on ne le souhaiterait probablement pas non plus. Dans beaucoup de cas, ce que les gens appellent des fake news, ce sont des informations qui expriment un point de vue opposé. L’essentiel est d’apprendre aux gens à penser par eux-mêmes et à tout remettre en question.
Il n’y a pas de solution, et l’éducation est clairement un pas en avant, mais le problème est bien plus complexe.
Je ne sais pas à quelle fréquence les gens considèrent les fake news comme de simples opinions opposées, mais le terme est défini comme désignant la désinformation. https://en.wikipedia.org/wiki/Fake_news
C’est une tactique assez courante, chez les personnes qui diffusent de la désinformation réelle, que de prétendre que leur position n’est pas un mensonge mais une opinion dissidente, qu’elles sont les faibles et qu’elles sont exclues à cause de cette opinion.
Amener les gens à douter de tout fait aussi partie de ce qu’elles recherchent. L’objectif de la désinformation, c’est la défiance, et douter de tout est trop difficile. Il suffit de voir, par exemple, la loi de Brandolini. Je ne connais pas la solution, mais je connais personnellement des gens très diplômés qui sont tombés dans le terrier de la désinformation. Une fois installées, la défiance et les théories du complot détruisent la capacité à évaluer les sources fiables et scientifiques. Il ne faut pas présumer que l’éducation est la clé. Les fake news sont très, très efficaces, et c’est pour cela que des gens en produisent.