X expose accidentellement à grande échelle un réseau secret d’influence visant les Américains

• La nouvelle fonctionnalité d’indication de localisation de X a révélé que de nombreux comptes politiques pro-Trump étaient en réalité opérés depuis l’étranger
• Cette fonctionnalité affiche la date de création du compte et sa principale zone d’activité, permettant de vérifier la véritable localisation de comptes se présentant comme américains
• De nombreux comptes MAGA·America First opérés depuis l’Europe, l’Asie ou l’Afrique ont été repérés, à une échelle importante même en tenant compte des VPN
• Ce schéma rappelle le cas d’ingérence électorale russe de 2016, soulevant la possibilité d’opérations étrangères coordonnées ou de manipulations à visée commerciale
• Les mesures de transparence renforcées de X rendent visible l’ampleur de l’influence étrangère dans le débat politique américain, avec des implications majeures pour la fiabilité de la plateforme et la démocratie

---

La nouvelle fonctionnalité de X et les comptes opérés depuis l’étranger mis au jour

• X a introduit la fonctionnalité « About this account », qui affiche la date de création d’un compte et sa principale zone d’activité
  • Les utilisateurs peuvent ainsi vérifier la véritable zone d’activité d’un compte plutôt que sa localisation auto-déclarée
  • La mesure a été introduite pour renforcer la transparence et l’authenticité des échanges
• Peu après le lancement, il est apparu que de nombreux comptes pro-Trump et MAGA étaient opérés depuis l’étranger
  • Des comptes gérés depuis l’Europe, l’Asie ou l’Afrique se faisaient passer pour des Américains
  • Certains affichaient une localisation aux États-Unis ou utilisaient des noms comme « @American »
• Le responsable produit de X, Nikita Bier, a indiqué que « des comptes qui prétendent être situés aux États-Unis mais sont en réalité basés à l’étranger peuvent avoir d’autres intentions »

Principaux cas et répartition géographique

• Exemples de comptes représentatifs
  • « MAGA NATION » (plus de 390 000 abonnés) : opéré depuis l’Europe de l’Est
  • « Dark MAGA » (15 000) : basé en Thaïlande
  • « MAGA Scope » (51 000) : basé au Nigeria
  • « America First » (67 000) : opéré depuis le Bangladesh
• Au-delà de ces cas, de nombreux comptes liés à la politique, aux cryptomonnaies et à la santé publique se présentaient comme basés aux États-Unis alors qu’ils étaient en réalité opérés depuis l’Inde, le Nigeria ou d’autres pays
• Ces comptes s’exprimaient comme s’ils étaient américains sur des sujets politiques intérieurs aux États-Unis (prix de l’essence, obligation vaccinale, frontière, inflation, etc.)

Similarités avec le précédent russe

• En 2016, l’Internet Research Agency (IRA) russe s’était fait passer pour des Américains afin d’interférer dans l’élection
  • Elle produisait des contenus attaquant Hillary Clinton et soutenant Trump
  • Elle s’infiltrait dans les communautés en ligne américaines à l’aide d’identités volées et de faux personas
• Une enquête de CNN en 2024 a également identifié plus de 60 faux comptes pro-Trump sur X
  • Ils détournaient des photos de femmes européennes pour publier des messages du type « votez pour Trump »
  • Les personnes réelles concernées ignoraient que leurs images étaient utilisées
• Cette révélation sur X est considérée comme le plus grand cas de divulgation d’activités étrangères depuis 2016

Diversité et motivations des comptes opérés depuis l’étranger

• L’origine des comptes exposés ne se limite pas à la Russie et l’Europe de l’Est, mais inclut aussi le Nigeria, l’Inde, la Thaïlande et le Kenya
• Certains relèveraient d’opérations d’influence menées par des États, d’autres d’activités commerciales menées par des individus ou des groupes
  • Exemple : les « fermes à fake news » de Macédoine en 2016 produisaient des contenus pro-Trump pour générer des revenus publicitaires
• Les comptes MAGA actuels opérés depuis l’étranger pourraient eux aussi chercher à gagner des abonnés, solliciter des dons ou générer des revenus publicitaires

Impact sur le débat politique américain et sur la plateforme

• La présence massive de comptes opérés depuis l’étranger constitue une menace persistante pour la démocratie américaine et la cohésion sociale
• La fonctionnalité de X aide à identifier les comptes de propagande étrangère, mais risque aussi d’amplifier la méfiance et les soupçons politiques
  • Même de vrais militants peuvent être pris à tort pour des « bots étrangers » si leur localisation n’est pas claire
• À l’avenir, politiques, médias et équipes de campagne devront davantage vérifier l’origine des dynamiques d’opinion en ligne
  • Par exemple, en contrôlant si un hashtag précis se propage principalement via des comptes basés à l’étranger
• X devra décider s’il faut bloquer ou non les comptes opérés depuis l’étranger, et sa réponse influencera la crédibilité de la plateforme et son risque réglementaire

Conclusion

• La fonctionnalité de divulgation de localisation de X a servi de déclencheur pour révéler la réalité de l’influence étrangère dans le débat politique américain
• Elle montre que les ingérences étrangères via les réseaux sociaux se poursuivent depuis 2016
• Cet épisode souligne la nécessité de réévaluer la fiabilité de la formation de l’opinion politique et de renforcer la transparence des plateformes

[GN⁺]

Avis Hacker News

• C’est pénible de devoir faire 3 clics du type « account → join date → about account » pour voir les informations nécessaires
  Ce serait bien que la localisation de l’auteur ou sa principale zone d’activité s’affiche directement sur le post lui-même. Deux petits badges d’information en haut de chaque post suffiraient sans doute

  • On pourrait l’implémenter en ajoutant une petite icône à chaque post et en affichant au survol la localisation ou le lieu de création
    Bien sûr, on ne peut pas faire totalement confiance à un VPN, à un numéro de téléphone pour la 2FA ou à une adresse de paiement, mais dans ce cas il suffirait d’indiquer quelque chose comme « l’utilisateur masque sa localisation »
  • Mais si ce genre d’information devenait public, les groupes concernés se mettraient immédiatement à utiliser des VPN par défaut. Les données sont intéressantes, mais leur capacité à résoudre le problème reste limitée
  • J’ai créé une extension Chrome qui affiche la localisation d’un compte avec une icône de drapeau → grokify.app
  • Je pense ajouter une fonction qui affiche les informations de localisation à côté de la source du tweet quand on clique sur un tweet → exemple de tweet
  • En fait, je pensais qu’un drapeau s’affichait déjà par défaut sur les profils. Il faudrait l’ajouter maintenant

• S’il y a des inquiétudes au sujet d’une ingérence étrangère, il faut savoir que le pipeline de vérification d’identité de Twitter passe par AU10TIX
  Cette entreprise a été fondée à Tel-Aviv, en Israël, par un ancien militaire, et l’ingénierie principale est opérée en Israël. Cela signifie que des données sensibles de pièces d’identité transitent hors des États-Unis
  La plupart des utilisateurs américains l’ignorent. Il est très inquiétant qu’un gouvernement étranger puisse potentiellement accéder aux adresses d’utilisateurs américains vérifiés

  • En Israël, le service militaire est obligatoire, donc la plupart des adultes ont servi dans l’armée. Les exceptions concernent surtout certains objecteurs et les juifs orthodoxes
  • C’est pour ça qu’il faut vraiment être prudent quand une entreprise exige le téléversement d’informations sensibles
    J’essayais moi-même de réserver une visite d’appartement, et on m’a demandé une vérification d’identité en ligne ; pour simplement aller voir un logement, on me demandait une photo de permis de conduire et un numéro de sécurité sociale. C’est absurde

• C’est vraiment étrange que ce genre d’actualité ne soit pas davantage couvert
  Cela devrait faire la une de tous les grands réseaux d’information

  • En réalité, c’est un sujet déjà couvert depuis longtemps. Ceux qui restent ont été conditionnés à rejeter ce type d’info comme des « fake news », donc il est difficile d’attirer leur attention
  • Ce n’est pas seulement un problème de vérification, c’est connu depuis longtemps. Certains comptes se trahissent eux-mêmes par leurs habitudes linguistiques
    Par exemple, un compte qui parle de « l’indépendance sécessionniste du Texas » et mentionne des « warm water ports » n’est probablement pas américain. Ce genre de préoccupation est surtout pertinent dans des pays où les ports gèlent, comme la Russie
  • Dire aux Américains « on vous a trompés » est une vérité dérangeante pour tout le monde. C’est pour ça que ce message passe mal
  • Ce post va probablement bientôt disparaître de la une de HN. C’est déjà arrivé deux fois auparavant
  • Les campagnes d’influence gouvernementales sont déjà reconnues dans les Twitter Files. Comme Twitter est une entreprise mondiale, il est inévitable qu’il y ait aussi des relations avec d’autres pays

• On dit que « nous allons à l’avenir reconsidérer à quel point nous faisons confiance aux réseaux sociaux comme baromètre de l’opinion publique »,
  mais je ne sais pas qui est ce « nous ». Les médias américains, probablement pas

• Ce n’est pas un problème propre aux États-Unis. Dans la plupart des pays, la manipulation du discours politique est courante
  Reddit aurait aussi besoin de ce type de fonctionnalité

  • Par exemple, si l’on regarde ce fil Reddit sur la Pologne, il déborde de posts anti-UE et anti-Ukraine
  • Mais Reddit va plutôt dans la direction inverse en ajoutant des fonctions comme masquer l’historique des soumissions
  • Si les services commencent à rendre publiques les informations géographiques des utilisateurs, les attaquants mettront vite en place des serveurs VPN pour s’adapter.
    Cette fuite était utile parce qu’elle a pris les attaquants au dépourvu, mais ils seront plus sophistiqués à l’avenir

• J’ai l’impression qu’insister uniquement sur la « menace étrangère » rate le cœur du problème
  Les réseaux sociaux sont une structure qui permet à n’importe qui de gagner de l’argent en attisant la colère

  • Mais je pense que la manipulation de l’opinion politique par des gouvernements étrangers est un problème bien plus grave que la simple marchandisation de la colère.
    En pratique, une partie de ceux qui produisent ces contenus de colère sont aussi rémunérés par ces acteurs étrangers

• Le mot « accidentellement » semble bizarre. N’était-ce pas dès le départ la fonction prévue ?

  • C’est juste un effet de titre destiné à susciter des clics
  • Vu les orientations politiques de Musk, il n’est pas impossible que ce résultat n’ait pas été intentionnel

• Depuis Musk, les tentatives de contrôle du récit paraissent bien plus flagrantes
  J’ai l’impression qu’on surexpose aux utilisateurs britanniques des sujets comme l’immigration ou les conflits de classe
  Je ne suis pourtant que des comptes tech sur Twitter, mais mon FYP est rempli de politique britannique

  • Si on regarde la page des paramètres de données Twitter, les centres d’intérêt qui m’ont été attribués automatiquement sont surprenants
  • On observe quelque chose de similaire sur Instagram. Il suffit de quelques mauvais clics pour que le fil se remplisse rapidement de contenus anti-immigration

• Si je pouvais bloquer tous les posts de réseaux sociaux venant de l’Inde, du Pakistan et de la Malaisie, je serais prêt à payer 100 dollars par an

  • En ajoutant aussi le Texas, je monterais jusqu’à 500 dollars

• Au final, rien ne changera fondamentalement
  Ceux que ça intéresse le savent déjà, et les autres s’en moquent
  Les gens qui tirent des informations significatives de Twitter ont tendance à ne chercher que des contenus qui renforcent leur point de vue