Selon des documents judiciaires, Meta est accusée d’avoir minimisé les risques pour les enfants et induit le public en erreur

• De nouveaux documents judiciaires rendus publics avancent que Meta connaissait les problèmes de sécurité des enfants, tout en minimisant ou en dissimulant les risques
• Selon des témoignages internes, il existait une politique indulgente de “suspension après 17 infractions” pour les comptes liés à la prostitution, et la procédure de signalement de l’exploitation sexuelle d’enfants était également complexe
• Les documents incluent divers résultats de recherches internes sur la dégradation de la santé mentale des adolescents, les contacts inappropriés entre adultes et mineurs, ainsi que des algorithmes addictifs
• Meta est accusée de ne pas avoir communiqué ces résultats au Congrès ni au grand public, et d’avoir retardé pendant des années l’introduction de fonctions de protection des adolescents
• Cette procédure est une vaste action collective réunissant plus de 1 800 plaignants et plusieurs États, relançant la controverse sur la responsabilité des Big Tech dans la protection des adolescents

---

Aperçu de la procédure

• Des documents déposés par les plaignants devant le tribunal fédéral du district nord de Californie soutiennent que Meta connaissait les graves préjudices liés à ses plateformes, mais les a minimisés ou dissimulés
  • Les plaignants s’appuient sur des documents internes, des témoignages de dirigeants actuels et anciens, ainsi que des travaux de recherche internes
• La procédure vise les maisons mères d’Instagram, TikTok, Snapchat et YouTube, avec plus de 1 800 plaignants impliqués
• Les plaignants affirment que ces entreprises ont ignoré la santé mentale et physique des enfants au nom d’une “stratégie de croissance avant tout”

Accusations liées à la prostitution et au signalement de l’exploitation sexuelle d’enfants

• Instagram affichait une politique de “tolérance zéro” envers les contenus d’exploitation sexuelle d’enfants, mais, selon les plaignants, les utilisateurs ne disposaient d’aucun moyen simple de les signaler
• Un ancien responsable de la sécurité chez Instagram a témoigné de l’existence d’une politique suspendant les comptes liés à la prostitution seulement après 17 infractions
• Un porte-parole de Meta a rejeté ces accusations, affirmant que les comptes soupçonnés de traite d’êtres humains ou d’exploitation étaient supprimés immédiatement

Accusations de tromperie envers le Congrès et de dissimulation d’études sur la santé mentale

• Des recherches internes concluaient que l’usage d’Instagram et de Facebook augmentait l’anxiété et la dépression chez les adolescents
• Une “étude de désactivation” menée en 2019 a montré qu’en arrêtant l’utilisation, l’anxiété, la dépression et le sentiment de solitude diminuaient, mais Meta aurait interrompu l’étude sans publier les résultats
• En réponse à une question du Sénat en 2020 demandant s’il existait une corrélation entre l’usage et la dépression ou l’anxiété chez les adolescents, l’entreprise a répondu “non (No)”
• Les plaignants soutiennent à ce sujet que “Meta a menti au Congrès”

Accusations d’inaction face aux contacts inappropriés entre adultes et adolescents

• En 2019, des chercheurs ont proposé de basculer par défaut les comptes d’adolescents en mode privé, mais l’équipe croissance s’y serait opposée par crainte d’une baisse de l’engagement
  • Ce passage en privé devait, selon les estimations, entraîner une baisse annuelle de 1,5 million d’utilisateurs adolescents
• D’après une analyse interne, l’application du paramètre privé aurait pu supprimer 5,4 millions d’interactions non souhaitées par jour
• Pourtant, Meta ne l’aurait généralisé qu’en 2024, alors que des milliards de contacts inappropriés se seraient produits entre-temps
• Meta rétorque qu’elle avait commencé dès 2021 à basculer en privé les comptes des moins de 16 ans

Stratégie de captation intensive des jeunes utilisateurs

• Des documents internes montrent que la “captation du temps des adolescents” était un objectif clé depuis 2017
• Meta a mené des actions promotionnelles auprès des élèves en collaboration avec des écoles, des PTA et Scholastic
• Des recherches internes indiquaient la présence d’utilisateurs de moins de 13 ans et, en 2018, 40 % des 9-12 ans utilisaient Instagram chaque jour
• Certains employés ont critiqué cette approche en affirmant que “cibler les 11 ans ressemble à une stratégie de fabricant de tabac”
• En 2022, l’entreprise comptait 216 millions d’utilisateurs dont l’âge n’était pas vérifié

L’échec des tentatives d’Instagram pour réduire les effets nocifs

• En 2019, la fonction de masquage des “likes” (Project Daisy) avait un effet positif sur l’estime de soi des utilisateurs, mais aurait été abandonnée en raison des craintes sur les revenus publicitaires
• Les filtres beauté étaient identifiés comme aggravant l’insatisfaction corporelle et les troubles du comportement alimentaire, mais ont été réintroduits par crainte d’un recul des indicateurs de croissance
• Des chercheurs ont développé un classificateur IA destiné à bloquer les contenus incitant à la comparaison physique, mais la direction aurait mis fin au projet

Suppression automatique insuffisante des contenus nocifs

• L’IA de Meta ne supprimait pas automatiquement les contenus liés au suicide, aux troubles alimentaires ou à l’exploitation sexuelle d’enfants, même avec une certitude de 100 %
  • Les contenus glorifiant l’automutilation n’étaient supprimés qu’à partir de 94 % de certitude
• Une enquête interne de 2021 rapportait que plus de 8 % des 13-15 ans avaient été exposés à des publications liées à l’automutilation au cours de la semaine précédente
• Meta soutient qu’elle est le leader du secteur pour la détection et le signalement des contenus d’exploitation sexuelle d’enfants, et qu’elle combine IA et modération humaine pour éviter les faux positifs

Accusations de conscience de l’addiction et de minimisation du problème

• Un chercheur interne a décrit Instagram comme “une drogue”
• Une enquête de 2018 indiquait que 58 % des utilisateurs américains avaient connu un “usage problématique”, mais seuls 3,1 % ont été mentionnés dans un rapport public
• Des fonctions de limitation de l’usage comme le “Quiet Mode” ont été mises en attente en raison des craintes d’un impact négatif sur les indicateurs de croissance
• Des chercheurs internes ont demandé une communication publique, affirmant que “le produit exploite la psychologie humaine pour augmenter le temps d’usage”, mais Meta n’a pas donné suite

Position officielle de Meta

• Meta rejette en bloc ces allégations, les qualifiant d’arguments déformés fondés sur des citations sélectionnées et des malentendus
• L’entreprise souligne qu’elle travaille depuis plus de 10 ans à renforcer les protections pour les adolescents, fournir des outils de contrôle parental et déployer Teen Accounts
• Lancés en 2024, les Teen Accounts incluent le passage automatique en privé pour les 13-18 ans, le blocage des notifications nocturnes, la restriction des messages d’adultes et des fonctions d’approbation parentale

Conclusion

• Les documents des plaignants présentent des éléments internes suggérant que Meta a privilégié la croissance et les revenus au détriment de la sécurité des adolescents
• Meta réplique qu’elle continue de renforcer ses fonctions de sécurité
• Cette procédure est suivie de près comme un conflit majeur autour de la responsabilité des réseaux sociaux en matière de protection des enfants et de transparence

[GN⁺]

Avis Hacker News

• Un porte-parole de Meta a déclaré que « depuis plus de 10 ans, nous écoutons les parents et faisons évoluer nos produits pour protéger les adolescents », mais pour moi, cela sonne comme une entreprise du tabac qui dit se soucier de la santé en fabriquant des filtres

  • Tous les dirigeants des cigarettiers ont menti sous serment, et au final n’ont payé que des amendes financières

• La plupart des gens savent que Meta est une entreprise qui fait des choses horribles
  Mais je me demande ce qui change réellement. Jusqu’ici, il n’y a eu que des amendes et des sanctions de façade. J’aimerais savoir s’il existe un plan concret pour arrêter cette situation

  • J’ai autrefois travaillé dans une entreprise qui adoptait des comportements contraires à l’éthique tout en restant dans le cadre de la loi. J’ai fini par comprendre le système et par partir
    Si ces entreprises peuvent exister, c’est au fond parce que des développeurs les rendent techniquement possibles
    Si nous sommes mécontents, nous devrions dire aux gens de quitter ce genre d’entreprise. Ce n’est pas parce qu’il y a beaucoup d’argent que cela a de la valeur
    Mais si les États-Unis fermaient toutes les géantes des réseaux sociaux comme Meta, énormément de développeurs perdraient leur emploi
  • C’est fondamentalement un problème antitrust. Meta est devenue trop grande pour pouvoir se réformer elle-même
    Plus profondément, la structure d’incitation du système public est figée autour du capital
    Même si l’on corrige les problèmes de santé ou de logement, ce sont au final les assureurs ou le secteur immobilier qui en profitent
    Le lien entre la prise de décision et la volonté citoyenne est faible, tandis que le lien avec le capital est beaucoup trop fort
    Tant que cela ne changera pas, toute évolution restera purement cosmétique
    Je pense qu’il faut aller vers une démocratie directe, même si la plupart des gens jugent cela irréaliste
    Malgré tout, des réformes institutionnelles comme le vote préférentiel pourraient constituer un petit point de départ
  • J’aimerais poser la question : « Alors, concrètement, que faut-il faire ? » Il faut des alternatives réelles, pas seulement de la colère ou des punitions
  • Tant que le capital sera bien plus puissant que le travail, ce genre d’histoire se répétera
  • Je me demande s’il existe aux États-Unis de vraies tentatives pour mettre en place quelque chose comme une peine de mort des entreprises (corporate death penalty)

• Comme beaucoup le savent déjà, le travail de ce type d’entreprise consiste à collecter les données sans analyser les effets externes
  Autrement dit, les revenus et les effets négatifs sont indissociablement liés

  • Ce qui est particulièrement choquant, c’est que des employés de Meta auraient su que leur technologie facilitait l’exploitation sexuelle d’enfants, puis détourné le regard
    Peut-être que les bonus et les stock-options ont étouffé leur culpabilité

• Le modèle économique de Meta est en contradiction frontale avec le bonheur humain

  • C’est vrai, mais en même temps il faut aussi demander des comptes aux individus qui ont pris des décisions nuisibles

• Quelqu’un demande : « Est-ce que c’est la même chose que cet article ? » en mentionnant un fil précédent

  • Oui. C’est pourquoi je l’ai signalé comme doublon

• Je suis choqué d’apprendre que Meta avait une politique selon laquelle les comptes liés à la traite des êtres humains étaient suspendus après 17 infractions
  « Donc jusqu’à 16 fois, ce n’est qu’un avertissement ? Mais quelle règle complètement délirante ? », critique le commentaire

  • Il est mentionné que ce commentaire reçoit beaucoup de downvotes car il est controversé

• Il est conseillé de vérifier s’il existe déjà une discussion avant de publier un nouveau post

• « C’est un doublon », avec partage du lien vers la discussion existante

• Meta serait le tabac de notre époque. Ses employés devraient avoir honte
  C’est l’une des plus grandes organisations qui nuisent à la santé mentale des jeunes, en particulier des adolescentes

  • Mais ils s’en moquent. Les opportunistes (grifters) continueront simplement comme ça

• Les réseaux sociaux seront perçus par les générations futures comme quelque chose d’aussi nocif que le tabac ou l’alcool
  La santé mentale des adolescentes, en particulier, se dégrade rapidement
  Les filtres, les plateformes de fans et la pression liée à l’apparence alimentent l’anxiété et mettent réellement des vies en danger