Une fuite de données de Meta révèle une campagne de suppression de publications propalestiniennes
(dropsitenews.com)- Depuis le 7 octobre 2023, le gouvernement israélien a demandé à grande échelle la suppression de publications soutenant la Palestine ou critiquant Israël sur Facebook et Instagram, et Meta a accepté 94 % de ces demandes
- Israël apparaît comme l’acteur gouvernemental ayant émis le plus grand nombre de demandes de suppression dans le monde ; Meta a supprimé plus de 90 000 contenus en moyenne en moins de 30 secondes et a fortement élargi le périmètre des actions automatisées
- Après l’extension de l’automatisation, environ 38,8 millions de publications supplémentaires sur Facebook et Instagram ont été supprimées, interdites ou ont vu leur visibilité réduite, et les résultats du traitement des demandes gouvernementales ont aussi été réinjectés dans l’entraînement des systèmes de modération par IA de Meta
- Les demandes de suppression ont ciblé davantage les utilisateurs de pays à majorité arabe ou musulmane que ceux d’Israël, avec l’Égypte (21,1 %), la Jordanie (16,6 %) et la Palestine (15,6 %) en tête
- Des sources internes estiment que des contenus propalestiniens ne contrevenant pas aux règles ont fréquemment été supprimés, et que ce mode de traitement pourrait rendre encore plus restrictive l’évaluation de contenus similaires à l’avenir
Demandes du gouvernement israélien et taux d’acceptation de Meta
- Selon des données internes de Meta obtenues par Drop Site News, le gouvernement israélien a soumis, après le 7 octobre 2023, des demandes de suppression à grande échelle visant des publications critiquant Israël ou soutenant la Palestine sur Facebook et Instagram
- Meta a accepté 94 % des demandes de suppression du gouvernement israélien
- Dans les données internes, Israël est l’acteur gouvernemental ayant formulé le plus grand nombre de demandes de suppression au monde, et Meta a élargi en conséquence le périmètre des suppressions automatisées
- En réponse aux TDR soumis par le gouvernement israélien, Meta a supprimé plus de 90 000 publications en 30 secondes en moyenne
- Depuis fin 2023, l’extension des actions automatisées a conduit à ce qu’environ 38,8 millions de publications supplémentaires soient « actioned upon » sur Facebook et Instagram
- Dans la terminologie de Meta, « actioned upon » signifie qu’une publication a été supprimée, interdite ou que sa visibilité a été réduite
Mode de traitement des demandes de suppression et automatisation
- Les TDR (takedown requests) de Meta sont une procédure permettant à des particuliers, organisations ou représentants gouvernementaux de demander la suppression de contenus soupçonnés de violer les règles de Meta
- Les signalements d’utilisateurs ordinaires sont reçus via la fonction de signalement de la plateforme et, en général, un modèle de machine learning classe d’abord le contenu selon qu’il enfreint ou non les règles
- Si l’IA estime avec un niveau de confiance élevé qu’il y a infraction, la publication est supprimée automatiquement
- Si le niveau de confiance est faible, une personne l’examine puis décide d’une éventuelle action
- Les gouvernements et organisations peuvent déclencher une revue de contenu via des canaux privilégiés à priorité élevée
- Les signalements passant par cette voie font presque toujours l’objet d’un examen humain
- Les résultats de l’examen humain sont réinjectés dans les systèmes d’IA de Meta et utilisés pour évaluer à l’avenir des contenus similaires
- Selon des lanceurs d’alerte, Meta a appliqué une exception aux comptes du gouvernement israélien en supprimant des publications sans examen humain, tout en réintégrant ces données dans l’entraînement de l’IA
- L’enquête de Human Rights Watch sur la modération par Meta des contenus propalestiniens indique que, sur 1 050 publications supprimées ou dont la visibilité a été réduite sur Facebook ou Instagram, 1 049 étaient des contenus soutenant pacifiquement la Palestine, contre une publication favorable à Israël
Formulations de signalement identiques et catégories de règles
- Selon les informations divulguées, depuis le 7 octobre, toutes les TDR du gouvernement israélien utilisent une formulation de signalement identique, même lorsque les contenus réellement signalés diffèrent
- Des sources internes indiquent que les TDR israéliennes contiennent en moyenne 15 liens vers des contenus, mais qu’aucune demande ne décrivait précisément la nature des contenus visés
- La formulation du signalement, accompagnée d’une description de l’attaque du 7 octobre, invoque les violations légales et réglementaires suivantes
- Articles 24(a) et 24(b) du Counter-Terrorism Act 2016 israélien : interdiction de l’incitation au terrorisme, de l’apologie d’actes terroristes, ainsi que de l’identification à une organisation terroriste ou du soutien à celle-ci
- Article 2(4) du Privacy Protection Act 1982 : interdiction de publier des images montrant des personnes décédées, blessées ou enlevées dans des situations susceptibles de les humilier
- Violation des Standards de la communauté Facebook
- D’après les documents, 95 % des demandes israéliennes relèvent des catégories « terrorism » ou « violence and incitement » de Meta
Application excessive aux contenus propalestiniens
- Une source interne de la Meta Integrity Organization confirme que, lors des examens internes de la modération automatisée, des contenus propalestiniens ne violant pas les règles de Meta étaient fréquemment supprimés
- Dans certains cas, des contenus propalestiniens qui auraient simplement dû être supprimés se sont vu attribuer un strike, correspondant à une infraction plus grave
- Si un compte reçoit trop de strikes pour ses publications, l’ensemble du compte peut être supprimé des plateformes de Meta
- Lorsque des inquiétudes sur une application excessive des règles ont été soulevées au sein de l’Integrity Organization, la direction a répondu en substance qu’elle préférait une application excessive au risque de laisser en ligne des contenus susceptibles d’enfreindre les règles
Personnes internes à Meta et application des règles liées à Israël
- La Meta Integrity Organization est dirigée par Guy Rosen, ancien membre de l’unité de renseignement d’origine électromagnétique Unit 8200 de l’armée israélienne
- Rosen était le fondateur d’Onavo, une entreprise d’analyse web et de VPN, que Facebook a acquise en octobre 2013
- Selon des informations publiées précédemment, avant l’acquisition, Facebook utilisait les données des utilisateurs du VPN Onavo pour surveiller les performances de concurrents, un élément lié à une partie des accusations de pratiques anticoncurrentielles portées contre Meta par la FTC sous l’administration Biden
- Selon des employés de Meta, l’Integrity Organization interagit avec la Policy Organization
- La Policy Organization définit les règles et l’Integrity Organization les applique
- Un employé indique que les changements de règles proviennent souvent des données de l’Integrity Organization
- Cette année, Joel Kaplan a remplacé Nick Clegg à la tête de la Policy Organization
- Kaplan a travaillé dans l’administration Bush et a déjà collaboré par le passé avec des responsables israéliens sur la lutte contre « l’incitation en ligne »
- Jordana Cutler, directrice des politiques publiques de Meta pour Israel and the Jewish Diaspora, intervient également dans l’examen des contenus propalestiniens
- Cutler est une ancienne haute responsable du gouvernement israélien et a été conseillère du Premier ministre Benjamin Netanyahu
- Selon un article de The Intercept, Cutler a utilisé son rôle pour signaler des contenus propalestiniens
- D’après des communications internes examinées par Drop Site, Cutler a encore récemment, en mars, demandé à des employés de rechercher et d’examiner des contenus mentionnant Ghassan Kanafani, romancier arabe considéré comme un pionnier de la littérature palestinienne
- Selon des informations internes, Cutler a demandé que les contenus liés à Kanafani continuent d’être examinés au titre de la règle « Glorification, Support or Representation » de Meta
- Kanafani a été tué en 1972 dans un attentat à la voiture piégée organisé par le Mossad, et était le porte-parole du PFLP, une organisation nationaliste palestinienne de gauche
- Le PFLP a été désigné comme organisation terroriste plus de 25 ans après la mort de Kanafani ; dans les directives de Meta et les actions de Cutler, cela sert de fondement potentiel à la suppression de contenus, à l’attribution de strikes ou à des suspensions
Demandes de suppression au-delà des frontières
- Selon les documents divulgués, les demandes de suppression d’Israël se concentrent sur les utilisateurs de pays à majorité arabe ou musulmane
- Les 12 premiers pays touchés sont les suivants
- Égypte 21,1 %
- Jordanie 16,6 %
- Palestine 15,6 %
- Algérie 8,2 %
- Yémen 7,5 %
- Tunisie 3,3 %
- Maroc 2,9 %
- Arabie saoudite 2,7 %
- Liban 2,6 %
- Irak 2,6 %
- Syrie 2 %
- Turquie 1,5 %
- Selon Human Rights Watch, les utilisateurs ayant signalé une censure de contenus liés à la Palestine se répartissent dans plus de 60 pays
- Les types d’actions incluent la suppression de publications, la suspension de comptes et la réduction de la visibilité via le shadow banning
- Parmi les demandes de suppression d’Israël, seules 1,3 % visaient des utilisateurs israéliens
- 63 % des demandes de la Malaisie visaient des contenus malaisiens, et 95 % des demandes du Brésil visaient des contenus brésiliens
- Selon des lanceurs d’alerte de Meta, l’entreprise connaissait depuis au moins sept ans les tactiques de censure agressives d’Israël, mais n’a pas réussi à les empêcher
- Un lanceur d’alerte affirme que Meta a activement fourni au gouvernement israélien un point d’entrée légal pour mener une campagne de censure à grande échelle
1 commentaires
Avis sur Hacker News
Quand on pense à la propagande russe et aux journalistes emprisonnés, on aimerait croire que nous sommes dans une meilleure situation, mais on continue de voir ce genre d’articles
Beaucoup de gens dans le « monde libre » s’informent via des médias grand public comme Facebook, et les entreprises restent des entreprises : elles ont intérêt à s’aligner sur les gouvernements pour entretenir de bonnes relations avec les personnes au pouvoir
Au final, la plupart des médias suivent le récit officiel poussé par le gouvernement et ses alliés, et les gens finissent par y croire parce qu’ils n’ont pas le temps de tout vérifier
On pourrait dire que la différence avec la Russie est qu’il est possible d’aller chercher de vraies informations, mais même en Russie, on peut contourner la censure avec un VPN
Une autre différence est que l’expression d’opinions est autorisée, mais là où les médias grand public imposent le récit gouvernemental, on ne peut s’exprimer que dans des recoins où l’on ne peut pas être entendu
Plus j’y pense, moins je vois de différence
Cela dit, le fait que l’on puisse connaître ces cas, parler publiquement du problème et que les tribunaux puissent rendre des décisions contraires à l’administration en place montre, à mon avis, que le système est bien meilleur
Que l’on soit au niveau russe ou au niveau américain, la mesure dans laquelle ce genre de choses devient possible dépend de ce que veulent les partisans du régime, indépendamment de la moralité, de la légalité ou des précédents
C’est pourquoi elles couvrent mal les angles morts de l’actualité. Cela vaut pour la plupart des informations, dans le pays comme à l’étranger, surtout celles qui n’importent pas aux élites côtières issues de l’Ivy League, et je le dis en appartenant moi-même à cette classe
La plupart des points de vue politiques autour de moi sont à peine représentés dans les pages d’opinion, et les tribunes ont généralement tendance à flatter ceux d’en haut plutôt que ceux d’en bas
Tant que la presse flotte au sommet de la crème sociale tout en demandant au gouvernement l’autorisation de couvrir l’actualité, il est difficile d’accorder beaucoup de poids à la liberté de la presse
https://rsf.org/en/country/russia
Aux États-Unis, on peut publier n’importe où, et si Facebook supprime le contenu, on peut créer son propre site web ; en Russie, faire cela peut vous envoyer en prison
On peut aller en prison même pour avoir dit quelque chose comme : « C’est triste que des enfants ukrainiens meurent le jour de la fête des enfants »
Je ne pense pas qu’on puisse comparer l’Amérique contemporaine et la Russie contemporaine de cette façon. Les États-Unis ont beaucoup d’autres graves problèmes, comme le fait d’envoyer trop de gens en prison pour des infractions mineures, et ce type de comparaison masque plutôt les problèmes propres aux États-Unis
C’était vrai autrefois, ça l’est aujourd’hui, et ça le sera partout à l’avenir
Mais les détails comptent énormément
En Occident, il existe des traditions sur quand et comment exercer le pouvoir, et elles diffèrent nettement de la Russie
Pour choisir deux exemples russes, le premier est https://www.themoscowtimes.com/2022/09/27/moscow-police-accu...
Selon Novaya Gazeta Europe, la police aurait « violemment battu Kamardin et lui aurait inséré un haltère dans l’anus »
Le second est la série d’explosions suspectes d’immeubles d’habitation au moment où un homme chauve affirmait son pouvoir, après quoi les Tchétchènes ont été désignés comme ennemis et la guerre a commencé
Wikipedia indique que trois agents du FSB russe qui avaient installé un dispositif à Ryazan ont été arrêtés par la police locale ; le lendemain, le directeur du FSB, Nikolai Patrushev, a annoncé qu’il s’agissait d’un exercice antiterroriste et que le dispositif ne contenait que du sucre, puis les agents ont été libérés
Il est également indiqué que le 13 septembre 1999, le président de la Douma russe, Gennadiy Seleznyov, a annoncé un attentat à la bombe contre un immeuble à Volgodonsk, alors que l’explosion réelle a eu lieu trois jours plus tard, le 16 septembre, faisant 17 morts et 69 blessés
https://en.m.wikipedia.org/wiki/1999_Russian_apartment_bombi...
Il est ironique que, lorsque le gouvernement a pointé l’écart de proportion de soutien à la Palestine entre TikTok et Instagram, la vraie raison ait été qu’Instagram était en train de l’étouffer
https://x.com/hawleymo/status/1717505662601609401
Je ne sais pas s’il existe une preuve décisive sur ce sujet précis, mais l’objectif du Parti communiste chinois a toujours été de diviser les utilisateurs américains
Il sait aussi que les Américains plus âgés sont fortement pro-israéliens, tandis que les plus jeunes penchent davantage du côté pro-palestinien
Si l’on creuse correctement, je pense qu’il y a de bonnes chances de trouver des preuves de manipulation algorithmique favorisant un biais pro-palestinien
Ce qui manque dans cet article, c’est de savoir si les demandes étaient des demandes de suppression légitimes. Il manque la question de savoir s’il s’agissait réellement d’incitation au terrorisme et à la violence, ou bien d’une volonté d’étouffer la critique
Le titre suggère la seconde hypothèse, mais le corps de l’article n’en apporte pas la preuve
Une guerre est en cours, et une guerre assez terrible qui plus est, donc on peut s’attendre à ce qu’il y ait beaucoup d’incitations à la violence liées à celle-ci
On peut aussi s’attendre à ce que le gouvernement israélien s’intéresse avant tout aux incitations à la violence visant ses propres citoyens
Dans le contexte de ce conflit, on peut s’attendre à ce que ce type d’incitation provienne principalement des groupes de population mentionnés dans l’article, et le contenu de l’article est aussi parfaitement compatible avec l’interprétation selon laquelle les suppressions ont été utilisées à bon escient
Il faudrait beaucoup plus d’éléments pour étayer le titre. Même à partir de ce texte seul, on ne connaît pas les chiffres relatifs, ni comment cela se compare aux demandes de suppression visant d’autres groupes
Pour quelqu’un qui estime que l’application des règles doit être équitable, une application inéquitable ressemble à de l’hypocrisie
Mais si l’on voit l’application des règles comme un outil de plus à brandir contre l’ennemi, l’hypocrisie n’a pas d’importance ; ce qui compte, c’est le pouvoir. C’est du genre : « c’est mon ballon de basket, donc c’est moi qui fixe les règles »
« Selon un rapport de Human Rights Watch (HRW) qui a enquêté sur la modération par Meta des contenus pro-palestiniens après le 7 octobre, parmi les 1 050 publications que HRW a recensées comme supprimées ou limitées sur Facebook ou Instagram, 1 049 relevaient d’un contenu pacifique de soutien à la Palestine, et une seule d’un contenu de soutien à Israël »
Elles sont exécutées uniquement en fonction de qui les a soumises, sans qu’on demande si elles sont valides ou non
En écoutant des amis parler de la censure qu’ils subissent lorsqu’ils discutent de ce sujet sur Facebook et Instagram, je connais pas mal de cas où des contenus ont été censurés alors qu’ils n’enfreignaient pas les règles. Bien sûr, l’échantillon est réduit
Cela montre à quel point il serait facile pour Israël d’utiliser cet outil à son avantage
On ne sait pas s’il l’utilise effectivement de manière injuste, parce que les publications sont supprimées automatiquement sans examen humain
Ce n’est pas surprenant. Je me souviens avoir vu l’an dernier des publications de https://www.birdsofgaza.com/ être bloquées ; il est difficile de s’exprimer d’une manière plus inoffensive que celle-là
Il existe des groupes qui agissent activement pour faire licencier des personnes ayant exprimé leur soutien à la Palestine
Par exemple, une femme a écrit « Freedom for Palestine » en gaélique sur LinkedIn, et un groupe d’Israéliens dans une discussion WhatsApp s’est organisé pour la faire licencier
Batsheva (Levine) Moshe, General Manager chez Wix, a répondu dans la discussion WhatsApp : « Oui, je suis au courant. C’est en cours de traitement depuis la publication. Je pense qu’une annonce sur notre réponse arrivera bientôt »
Wix a été condamné à verser 35 000 € de dommages et intérêts pour licenciement abusif
https://jackpoulson.substack.com/p/inside-the-pro-israel-inf...
https://www.breakingnews.ie/ireland/israeli-tech-firm-ordere...
Tu ne vois vraiment aucun problème à passer sous silence le massacre de civils israéliens, les otages capturés, et les milliers de roquettes tirées vers des zones civiles densément peuplées ? Tu penses que c’est ainsi que la paix devient possible ?
J’aimerais voir des exemples de véritables publications supprimées. Plus que le nombre ou l’identité de ceux qui les ont signalées, il faut le texte original des publications supprimées
Ce matin, l’administrateur du groupe a indiqué dans une publication Facebook qu’il avait reçu un avertissement de Facebook
Il disait que trop de publications liées aux « organisations et individus dangereux » avaient été supprimées, et que le groupe risquait d’être « suspendu »
Il a donc demandé d’être particulièrement prudent en publiant sur plsie, Ire*, gz, jw, etc., et l’administrateur lui-même a utilisé des astérisques par précaution
Notre pays a connu la crise des Rohingyas, une crise attisée par des campagnes de désinformation sur Facebook et WhatsApp ; Facebook n’avait que 2 modérateurs pour tout le Myanmar et n’a rien fait contre ces campagnes de désinformation
Mais pour Ire*, il semble très doué pour créer des exceptions
La même chose s’est produite lors du 11-Septembre. Les musulmans ont subi des restrictions et du harcèlement policier, mais personne n’en parlait ; puis, après le 6 janvier, la situation s’est retournée contre les républicains MAGA
C’est au censeur de prouver clairement ce qui relève réellement de l’incitation à la violence, pas d’exiger d’un journaliste extérieur qu’il montre par magie que le contenu supprimé n’était pas incitatif
Il a été rétabli après l’agitation prévisible sur Twitter
Ce type de propos, c’est-à-dire l’incitation, est illégal aux États-Unis, et le soutien se situe dans une zone très limite selon le type de « soutien » et ce qu’il signifie
Si le motif de suppression ne correspond pas au contenu effectivement supprimé, il faut absolument le traiter, et c’est sans doute le cœur de la question initiale ; mais le motif lui-même me paraît valable
Ce n’est qu’un test ponctuel, mais une personne disposant de gros comptes sur BSky et Twitter a publié le même message pro-Ukraine sur les deux plateformes : sur Twitter, il a été réprimé pendant environ 12 heures, puis est devenu largement visible après l’arrivée de bots haineux ; sur BSky, la publication a reçu beaucoup de réactions pro-Ukraine presque dès sa mise en ligne
https://bsky.app/profile/willhaycardiff.bsky.social/post/3lk...
À première vue, Twitter lui-même semble réprimer les contenus en fonction de l’agenda de Donald/Elon, et faire tourner des bots de haine/de likes
J’ai aussi vu un autre utilisateur de BSky montrer sur Twitter un horrible message anti-immigration massivement poussé par des bots de likes
J’ai relu l’article, mais il n’y a aucune preuve d’une faute. Il n’y a que plusieurs éléments circonstanciels que les gens exploitent pour nourrir leur propre récit
Facebook a des règles et des standards de communauté ; le gouvernement israélien a trouvé des publications qui les enfreignaient et a demandé leur suppression, et Facebook a obtempéré conformément à ses propres règles
Je voudrais souligner que Guy Rosen, responsable de la confiance, de la sécurité et de l’intégrité, est un citoyen israélien avec un fort biais pro-israélien
Sa moralité est également douteuse. Selon Wikipedia, Guy Rosen et Roi Tiger ont fondé Onavo en 2010, et en octobre 2013 Facebook a racheté Onavo pour l’utiliser comme plateforme d’analyse afin de surveiller ses concurrents
Cela a influencé plusieurs décisions commerciales de Facebook, including le rachat de WhatsApp en 2014
Après l’acquisition, Onavo a souvent été qualifié de spyware, car il monétisait les données d’utilisation des applications collectées via un VPN tout en affirmant être un environnement axé sur la protection de la vie privée
Le fait que Meta ait considéré son éthique douteuse comme un atout plutôt que comme un défaut, et l’ait promu à plusieurs reprises, est très problématique
On nous montrait régulièrement des graphiques comparant l’usage de Snapchat à celui de Messenger et WhatsApp, et les données de Snapchat étaient explicitement indiquées comme provenant des logs Onovo
La culpabilité par association mène à des choses comme l’antisémitisme ou la haine antipalestinienne
Ce genre de chose s’est déjà produit aux États-Unis aussi
https://arstechnica.com/tech-policy/2011/05/how-the-robber-b...