Un jury juge Meta responsable dans une affaire d’exploitation sexuelle d’enfants sur ses plateformes

• Un jury de l’État du Nouveau-Mexique a jugé que Meta n’avait pas su protéger les enfants des prédateurs sexuels sur Facebook et Instagram, en violation du droit de l’État
• Meta a été reconnu coupable de « pratiques commerciales déloyales ou trompeuses » et de « conduite inadmissible », et condamné à 375 millions de dollars de dommages et intérêts ; l’entreprise a annoncé son intention de faire appel
• Cette affaire constitue le premier verdict d’un jury portant sur le devoir de protection des mineurs par une entreprise de réseaux sociaux, et la première fois que Meta est tenu responsable devant un tribunal
• Au procès, les témoignages de lanceurs d’alerte internes et d’anciens dirigeants ont mis en cause des algorithmes qui auraient favorisé l’action des criminels
• Ce jugement est considéré comme un précédent majeur pour le renforcement de la responsabilité juridique des entreprises de réseaux sociaux et l’établissement de standards de protection des mineurs

---

Un jury du Nouveau-Mexique reconnaît la responsabilité de Meta pour avoir échoué à prévenir l’exploitation sexuelle d’enfants

• Un jury de l’État du Nouveau-Mexique a estimé que Meta avait enfreint la loi de l’État en ne mettant pas en garde contre les risques de ses plateformes et en ne protégeant pas les enfants des délinquants sexuels
  • Meta a été jugé coupable de « pratiques commerciales déloyales et trompeuses » ainsi que de « conduite inadmissible », et condamné à verser un total de 375 millions de dollars de dommages et intérêts
  • Meta a indiqué prévoir de faire appel du verdict, déclarant « ne pas être respectueusement d’accord avec cette décision »
• Cette affaire découle d’une plainte déposée en 2023 par le procureur général du Nouveau-Mexique, Raúl Torrez, affirmant que Meta avait fait de Facebook et Instagram un terrain d’activité pour les prédateurs sexuels visant les enfants
  • L’État réclamait plusieurs milliards de dollars de réparations, mais le jury a retenu un montant inférieur
  • Lors des procédures à venir, le tribunal pourrait imposer des sanctions supplémentaires ou ordonner des modifications des plateformes
• Ce verdict est le premier rendu par un jury dans une série de procédures visant à établir la responsabilité des entreprises de réseaux sociaux dans la protection des mineurs, et la première fois que Meta est déclaré responsable devant la justice
  • Parallèlement, à Los Angeles, un autre verdict est en cours dans une affaire distincte accusant Meta et YouTube d’avoir porté atteinte à la santé mentale des adolescents par des fonctionnalités addictives
  • Des centaines d’actions similaires ont été engagées à travers les États-Unis par des particuliers, des écoles et des gouvernements d’État
• Au cours d’un procès de six semaines, des lanceurs d’alerte de Meta et d’anciens dirigeants se sont succédé à la barre
  • Arturo Bejar, ancien directeur de l’ingénierie chez Meta, a témoigné que sa fille de 14 ans avait reçu des approches sexuelles sur Instagram, affirmant que l’algorithme de personnalisation de Meta pouvait aussi avantager les criminels
  • Brian Boland, ancien vice-président, a déclaré que « la sécurité n’était pas une priorité pour le CEO Mark Zuckerberg ni pour l’ancienne COO Sheryl Sandberg »
  • À l’inverse, Adam Mosseri, responsable d’Instagram, a affirmé que des fonctions de protection des jeunes telles que Teen Accounts avaient été introduites
• Meta affirme que 40 000 employés sont affectés à la sécurité et que l’entreprise investit massivement dans la protection des jeunes
  • En réponse aux critiques de Meta selon lesquelles les comptes d’enquête sous couverture du bureau du procureur général utilisaient de vraies photos d’enfants, Torrez a dénoncé « une attaque destinée à fuir ses responsabilités »
  • Meta a mis en avant le développement de technologies de prévention de l’exploitation sexuelle des enfants et sa coopération avec les forces de l’ordre, et a annoncé qu’il mettrait fin à la messagerie chiffrée de bout en bout sur Instagram
  • Torrez a qualifié ce jugement de « victoire historique contre Meta, qui a fait passer ses profits avant la sécurité des enfants »

Principaux points examinés par le jury

• Le jury devait déterminer si Meta avait fait des déclarations fausses ou trompeuses sur la sécurité de ses plateformes, ou délibérément conçu des mécanismes nuisibles aux adolescents
  • Le bureau du procureur général du Nouveau-Mexique a affirmé avoir créé de faux comptes d’enfants actifs sur Facebook et Instagram, qui auraient reçu des propositions sexuelles et des demandes de contenus obscènes
  • Trois hommes adultes ayant contacté ces comptes ont été arrêtés en mai 2024 ; deux d’entre eux sont accusés d’avoir tenté une rencontre réelle avec des comptes se faisant passer pour des filles de 12 ans
• Des témoignages internes chez Meta ont souligné que les fonctions de mise en relation de l’algorithme pouvaient être détournées par des criminels
  • Il a notamment été déclaré que « si l’intérêt porte sur de jeunes filles, la plateforme renforce les connexions en fonction de cet intérêt »
• La décision de Meta d’interrompre une fonction de chiffrement de bout en bout a été présentée comme une mesure destinée à faciliter l’accès des enquêteurs
  • Meta a expliqué que « très peu d’utilisateurs se servent de cette fonction ; elle sera donc retirée d’Instagram, tandis que WhatsApp continuera de prendre en charge la messagerie chiffrée »
• Ravi Sinha, responsable des politiques de sécurité des enfants chez Meta, a témoigné que l’entreprise coopérait avec les forces de l’ordre et développait des technologies pour empêcher l’exploitation des enfants
  • Andy Stone, porte-parole de Meta, a critiqué l’enquête du Nouveau-Mexique comme étant « éthiquement problématique », ce à quoi Torrez a répondu qu’il s’agissait d’« une tentative d’échapper à ses responsabilités »
• Ce verdict est considéré comme un précédent important dans le mouvement de renforcement de la responsabilité juridique des entreprises de réseaux sociaux
  • Il pourrait à l’avenir influencer d’autres procédures liées à la protection des mineurs au niveau des États et au niveau fédéral

[GN⁺]

Commentaires sur Hacker News

• Beaucoup applaudissent dès qu’un jugement paraît défavorable à Meta sans lire les détails, mais il faut reconnaître que ce type de procès est l’une des principales raisons du recul de fonctionnalités comme le chiffrement de bout en bout (E2EE)
  Dans l’action en justice du Nouveau-Mexique, des inquiétudes ont été exprimées sur le fait que permettre aux adolescents d’utiliser l’E2EE sur Instagram rendrait plus difficile l’arrestation des criminels par les forces de l’ordre. Pendant le procès, Meta a annoncé qu’il mettrait fin d’ici la fin de l’année à la prise en charge de la messagerie E2EE sur Instagram
  Le procès de l’État de New York visait même directement la prise en charge de l’E2EE elle-même (article de Reuters)

  • L’essentiel est de garantir la transparence et le choix du consommateur
    Les comptes d’enfants devraient être classés dans une structure supervisée par les parents, afin que ceux-ci puissent examiner les contenus ou configurer les outils nécessaires
    En revanche, en ligne, tout le monde devrait par défaut être traité comme un adulte, et si des parents autorisent l’activité en ligne de leurs enfants, ils doivent en assumer la responsabilité de supervision correspondante
    Ce type de régulation ne devrait s’appliquer qu’aux produits commerciaux, et pas aux projets communautaires à but non lucratif
  • Empêcher les mineurs d’utiliser l’E2EE me paraît acceptable, mais je suis opposé à l’interdire à tout le monde. J’élève deux enfants
  • En tant qu’opérateur de plateforme, je pense que l’E2EE n’apporte aucun bénéfice réel dans un service gratuit. En revanche, il fait peser une responsabilité juridique imprévisible
  • Les organisations centralisées et les logiciels propriétaires ne peuvent pas fournir un véritable E2EE. Ils peuvent toujours introduire une porte dérobée via une mise à jour
    Il vaudrait mieux les forcer à mettre fin à ce théâtre de la sécurité (security theater), et les personnes qui ont réellement besoin de confidentialité chercheront des alternatives
  • C’est bien là le vrai problème. Cela n’aidera pas réellement les enfants et Meta ne sera pas gravement touché. Au final, cela conduira à un affaiblissement de la vie privée et à un renforcement de la surveillance

• Il est suspect de voir se former à l’échelle internationale un consensus du type « il est temps d’agir ». Il est particulièrement inquiétant que l’authentification de l’identité (ID verification) progresse en même temps par plusieurs canaux

  • Les deux choses peuvent être vraies en même temps. Il faut empêcher que les enfants soient exposés aux algorithmes publicitaires, mais la solution ne doit pas déboucher sur un système de surveillance de masse
  • Le problème n’est pas de réguler les utilisateurs, mais de réguler l’industrie des réseaux sociaux elle-même. Les utilisateurs n’ont pas d’argent pour faire du lobbying, alors que les entreprises y consacrent des milliards de dollars
  • Meta aurait dépensé 2 milliards de dollars en lobbying pour cette politique d’authentification de l’identité (commentaire lié)
  • Ce qui est intéressant, c’est qu’aujourd’hui la génération Z utilise au contraire les réseaux sociaux avec beaucoup plus de prudence
    Mes adolescents et leurs amis utilisent presque exclusivement des discussions de groupe privées, et n’emploient les réseaux sociaux qu’en mode quasi « lecture seule ». Ils n’y publient ni photos ni informations personnelles
    Ceux qui s’exposent excessivement sont plutôt les millennials. Voir à quel point ils partagent photos de famille et vie privée en devient gênant
  • Quand on voit cette évolution se produire en même temps que l’E2EE et la restriction de l’informatique généraliste, on a l’impression que l’orientation de l’Occident n’est finalement pas si différente de celle de la Chine

• Le procès du Nouveau-Mexique reposait sur une enquête menée sur les plateformes de Meta à l’aide d’un faux profil se faisant passer pour un compte d’enfant, enquête qui a montré que des hommes adultes ont effectivement pris contact et fait des propositions sexuelles
  À la lecture de l’article, l’E2EE ne semble pas être le point central du dossier. Meta a annoncé l’arrêt de l’E2EE pendant le procès, mais le lien direct reste flou

  • Cela dit, l’entreprise subit depuis des années des pressions pour désactiver l’E2EE au motif que cela complique la détection des crimes sexuels visant des enfants. Cette décision s’inscrit probablement dans cette continuité
    Une autre interprétation est qu’il pourrait s’agir d’un changement lié à l’abandon du projet de Meta d’unifier la messagerie de WhatsApp, Facebook et Instagram

• Nous ne voulons pas de vérification de l’âge, nous voulons l’E2EE. Pourtant, parce que nous détestons Meta, nous applaudissons ce jugement. En pratique, on ne peut pas avoir les deux en même temps

  • Les deux sujets sont distincts. La vérification de l’âge risque au contraire de causer davantage de tort. Elle n’aide pas non plus à résoudre réellement le problème
  • Parmi les opposants à la vérification de l’âge, il y a deux catégories : ceux qui y sont opposés par principe, et ceux qui s’y opposent parce qu’ils savent que sa mise en œuvre sera détournée
  • L’absence d’obligation légale ne peut pas servir de bouclier à tout. Meta connaît déjà l’âge de presque tous ses utilisateurs
    Si un utilisateur de 40 ans envoie chaque jour des messages à un enfant de 13 ans, il est important de comprendre ce qui se passe. Meta sait ce genre de choses tout en se concentrant uniquement sur l’évitement de sa responsabilité
    De toute façon, l’E2EE de Meta a probablement une porte dérobée
  • Rien ne démontre vraiment pourquoi on ne pourrait pas avoir les deux à la fois

• Meta connaissait, via ses propres recherches, la nocivité de ses produits et l’a ignorée. Maintenant que la protection de la Section 230 s’affaiblit, on peut craindre que d’autres entreprises en tirent la leçon suivante : « mieux vaut ne pas faire de recherche du tout »
  Meta faisait semblant d’accorder de l’importance à la « sécurité » pour attirer des talents, mais en réalité il a toujours privilégié la croissance avant tout
  Ces dernières années, Meta comme X ont tous deux bloqué l’accès des chercheurs externes et sont devenus fermés sur le plan des données

• Ce type d’amende doit être suffisamment élevé pour modifier le comportement des entreprises. 375 millions de dollars, à l’échelle de Meta, ce n’est qu’une simple écriture comptable

  • Il ne s’agit que d’un jugement au Nouveau-Mexique. Meta a été sanctionné jusqu’à 5 000 dollars par infraction sur des milliers de violations, et un procès similaire sur l’addiction est aussi en cours à Los Angeles
  • Oui, le Nouveau-Mexique n’est qu’un petit État, et des actions similaires suivront probablement dans d’autres États

• Les réseaux sociaux destinés aux enfants devraient faire l’objet d’une supervision directe des parents. L’E2EE existe déjà et ne peut plus être supprimé. Toute personne qui le souhaite peut créer son propre service de chat chiffré

• Cette amende représente environ 0,6 % du bénéfice annuel de Meta.
  Si les 50 États déposaient plainte dans les mêmes proportions, l’impact pourrait atteindre 30 %. Avec des montants plus élevés, cela deviendrait une sanction historique. Il faut étendre cela au monde entier

  • Oui, pourquoi se limiter aux 50 États américains ? Le monde entier devrait agir ensemble

• Cette amende est beaucoup trop faible. Il manque quelques zéros

  • À strictement parler, il ne s’agit pas d’une amende mais plutôt de frais (fee)