Lors d’un procès américain sur les réseaux sociaux, Meta et Google sont accusés d’avoir « conçu l’addiction »

• Le premier procès devant jury aux États-Unis visant des entreprises de réseaux sociaux s’est véritablement ouvert à Los Angeles, sur fond d’accusations selon lesquelles elles auraient délibérément conçu des plateformes addictives en faisant passer les profits avant la santé mentale des enfants
• L’avocat des plaignants affirme que Meta et YouTube ont poursuivi une stratégie d’« addiction by design » et ont implanté l’addiction dans le cerveau des enfants
• L’avocat de Meta réplique que les problèmes psychologiques de la plaignante proviennent de son environnement familial et du harcèlement dans le monde réel, et non d’Instagram
• Ce procès est une procédure bellwether, appelée à faire jurisprudence sur le niveau d’indemnisation et l’orientation de centaines d’affaires similaires à travers les États-Unis
• Mark Zuckerberg témoignera la semaine prochaine, tandis que des stratégies issues des procès contre l’industrie du tabac dans les années 1990-2000 sont appliquées de façon comparable aux entreprises de réseaux sociaux

---

Aperçu du procès et points clés

• Un procès historique sur les réseaux sociaux s’ouvre devant un tribunal californien, Meta et YouTube, filiale de Google, étant accusés d’avoir poussé auprès des enfants des applications hautement addictives
• Ce procès, mené devant un jury à Los Angeles, pourrait établir un précédent juridique sur la question de savoir si les géants des réseaux sociaux ont délibérément conçu leurs plateformes pour provoquer une addiction chez les enfants
• Le PDG de Meta, Mark Zuckerberg, doit témoigner la semaine prochaine, et le responsable d’Instagram Adam Mosseri doit comparaître à partir de mercredi
• Les plateformes de Meta comprennent, outre Instagram, Facebook et WhatsApp

Arguments des plaignants

• Dans sa déclaration liminaire, l’avocat des plaignants Mark Lanier a déclaré que « cette affaire concerne les deux entreprises les plus riches de l’histoire qui ont conçu l’addiction dans le cerveau des enfants »
• Qualifiant l’affaire de « dossier aussi simple que l’A-B-C », il a empilé des blocs de jouets pour enfants en expliquant que A symbolisait Addicting, B Brains et C Children
• Il a soutenu que « ce ne sont pas seulement des applications qu’ils fabriquent, mais des pièges », en utilisant comme accessoires une Ferrari miniature et une mini machine à sous
• Il a fait valoir que Meta et YouTube avaient poursuivi une stratégie d’« addiction by design »
• Il a affirmé que YouTube n’avait pas informé la mère de la plaignante Kaley que son objectif était de rendre les spectateurs dépendants, et qu’en ciblant même des enfants de 2 ans, l’entreprise avait ignoré un risque d’addiction « grave »

Réponse de Meta

• L’avocat de Meta, Paul Schmidt, a rétorqué que les problèmes de confiance en soi, d’image corporelle et de bien-être de la plaignante venaient de problèmes familiaux et du harcèlement dans la vie réelle, et non d’Instagram
• Il a demandé au jury : « Même si Instagram n’avait pas existé, si tout le reste dans la vie de Kaley était resté identique, sa vie aurait-elle été complètement différente, ou aurait-elle continué à souffrir des mêmes problèmes ? »
• Il a souligné qu’aucun des dossiers médicaux versés au dossier ne mentionnait une addiction à Instagram

Contexte de l’affaire et plaignante

• Le procès, présidé par la juge Carolyn Kuhl, porte sur les accusations d’une jeune femme de 20 ans identifiée comme Kaley G.M., qui affirme avoir été dépendante aux réseaux sociaux depuis l’enfance et avoir subi de graves dommages psychologiques
• Parmi les centaines d’actions en justice engagées contre les entreprises de réseaux sociaux, de jeunes utilisateurs affirment avoir développé une dépendance à certains contenus, menant à la dépression, des troubles alimentaires, des hospitalisations psychiatriques et même au suicide
• Cette affaire est classée comme procédure bellwether et son issue devrait servir de référence pour l’évolution et le niveau des indemnisations dans des litiges similaires à travers les États-Unis

Parallèles avec les procès contre l’industrie du tabac

• Les avocats des plaignants reprennent des stratégies utilisées dans les procès contre l’industrie du tabac dans les années 1990 et 2000
  • avec une logique similaire à celle selon laquelle les fabricants de tabac vendaient des produits nocifs en connaissance de cause
• Matthew Bergman, fondateur du Social Media Victims Law Center, a déclaré que « c’est la première fois que des entreprises de réseaux sociaux comparaitront devant un jury pour des préjudices causés à des enfants »
  • l’équipe de ce centre est impliquée dans plus de 1 000 procédures similaires

Section 230 et enjeux juridiques

• Les grands groupes de l’internet ont longtemps soutenu qu’en vertu de la Section 230 du Communications Decency Act américain, ils étaient exonérés de responsabilité pour les contenus publiés par les utilisateurs des réseaux sociaux
• Cependant, cette action en justice soutient que les entreprises sont responsables du modèle économique lui-même, conçu pour capter l’attention des utilisateurs et promouvoir des contenus susceptibles de nuire à la santé mentale
• Les plaignants prévoient de faire entendre des experts qui soutiendront que le cerveau des adolescents n’est pas suffisamment développé pour résister à l’influence exercée par les algorithmes d’Instagram et de YouTube

Réponse des entreprises

• Meta a évoqué ses récents efforts pour renforcer les dispositifs de sécurité destinés aux jeunes utilisateurs, affirmant qu’elle « cherche toujours à s’améliorer »
• Le porte-parole de YouTube, Jose Castaneda, a rejeté ces accusations en déclarant que les affirmations de la plainte étaient fausses
• Les avocats de YouTube doivent présenter leur déclaration liminaire au jury mardi

Autres défendeurs et contentieux liés

• Snapchat et TikTok avaient également été désignés comme défendeurs, mais ont conclu un accord avant l’ouverture du procès, dont les conditions restent confidentielles
• D’autres actions, y compris des plaintes déposées par des districts scolaires, dénonçant les pratiques dangereuses des plateformes de réseaux sociaux pour les adolescents, sont en cours devant le tribunal fédéral du district nord de Californie ainsi que devant des juridictions d’État à travers le pays
• Une autre action contre Meta, l’accusant d’avoir privilégié les profits au détriment du bien-être des adolescents, a également été ouverte lundi au Nouveau-Mexique

[GN⁺]

Avis sur Hacker News

• Quand je travaillais dans cette entreprise, il y avait chaque semaine un nouveau tract collé à l’intérieur des portes des toilettes
  Une semaine, il disait qu’« une vidéo dans le feed doit capter l’utilisateur en 0,2 seconde », en insistant sur le fait que cela pouvait produire un effet addictif scientifiquement
  C’est là que j’ai compris — l’entreprise considérait les utilisateurs comme des « proies ». Notre objectif était de convaincre les annonceurs que « nous avons un outil capable de reprogrammer le cerveau des utilisateurs »
  • Au fond, on peut aussi y voir l’idée que les gens perdent vite l’intérêt, donc pour leur montrer une pub il faut faire passer le message clé immédiatement
  • L’expression « les utilisateurs sont des proies » fait peur, mais en réalité ce n’est pas si éloigné de la vérité
  • Les non-techniciens ne réalisent pas à quel point ils sont manipulés sans détour
    J’ai travaillé sur des expériences statistiques comme les tests A/B et les algorithmes de tarification dynamique, et mes amis sont souvent choqués quand ils découvrent ça
    Des réactions du genre « Amazon ne montre pas le même écran à tout le monde ? » sont frappantes
    En interne, cette manipulation n’a rien d’un secret, et personne ne se sent coupable de cette manipulation rebaptisée “optimisation”
    C’est pour ça que j’ai fini par quitter le secteur du D2C. J’ai compris qu’on n’y apportait pas de vraie valeur aux utilisateurs et qu’on leur nuisait au contraire
    En B2B, il existe au moins une relation concrète, donc la tentation de manipuler à court terme est moindre
  • Ironiquement, si un simple tract dans les toilettes était efficace sur les employés, alors les salariés de Facebook sont peut-être eux-mêmes les plus faciles à « programmer »
  • Je n’ai jamais travaillé dans une FAANG, mais ces tracts dans les toilettes, ça me paraît bizarre
    On dirait à la fois une communication d’entreprise et un geste personnel. S’il y a des photos, j’aimerais vraiment les voir
• Une grande partie de l’industrie tech repose sur l’économie de l’attention
  Quand on optimise les données dans le but de garder l’utilisateur dans l’application toute la journée, on finit par fabriquer des produits proches de l’addiction
  • J’ai du mal à comprendre comment des gens aussi intelligents pouvaient ignorer qu’ils contribuaient à construire un système addictif
    Je me demande si c’est simplement une question de morale, ou s’il y a un déficit de sens social
  • Dans un monde idéal, les entreprises qui rendent les enfants dépendants devraient faire l’objet de sanctions pénales et voir leurs profits confisqués
    Mais ce n’est pas la réalité. En l’absence de régulation, les entreprises continuent d’adopter des comportements nuisibles tant qu’ils restent rentables
  • Ça me rappelle l’histoire de « Umpty Candy » dans les BD Judge Dredd des années 80
    Ce n’était pas une drogue, mais un bonbon rendu addictif uniquement par l’optimisation du goût
  • En réalité, depuis 5 ou 6 ans, la chose la plus addictive pour moi a été Hacker News
    L’algorithme de HN me pousse lui aussi à venir plusieurs fois par jour.
    S’il n’était actualisé qu’une fois par jour, cette addiction n’existerait sans doute pas.
    Au final, HN pratique lui aussi une forme de « conception addictive »
  • Beaucoup de problèmes d’internet viennent du modèle « service gratuit + revenus publicitaires »
    J’en viens à penser qu’il nous faudrait plutôt un internet payant.
    Avant, je croyais que « l’information devait être libre », mais maintenant j’ai l’impression qu’il faut des barrières
• Même si un préjudice réel est juridiquement prouvé, je doute qu’il y ait de vraies mesures correctives
  Dans la crise des opioïdes, la famille Sackler a fini par s’en sortir via une négociation sur les amendes
  Quand on voit ce précédent, on se dit que les géants de la tech vont esquiver leurs responsabilités pendant des décennies à coups d’appel
  • On a déjà vu ce schéma répété des industries de l’addiction avec le tabac, les drogues, les aliments transformés, etc.
    Comme Philip Morris qui est passé du tabac à l’alimentaire, avec des produits allant « de la boîte à la bouche »
    Mais les entreprises de réseaux sociaux actuelles semblent dépourvues même de ce minimum de sens des responsabilités
  • Si cette affaire porte en particulier sur une conception addictive visant les mineurs, je me demande si cela pourrait changer l’appréciation juridique
• J’ai entendu dire que l’avocat avait empilé des blocs en disant « cette affaire est aussi simple que A-B-C »
  Honnêtement, ça m’a paru très infantilisant, mais ce genre de mise en scène théâtrale peut marcher sur un jury
  • Lors de la sélection du jury, les personnes trop passionnées ou trop expertes sont déjà écartées
    Au final, le tribunal devient une sorte de scène, et les avocats jouent comme des acteurs
  • Ce genre de mise en scène avec accessoires peut aussi signaler qu’on cherche à compenser la faiblesse des preuves
    L’avocat de Meta aurait au contraire insisté sur le fait que « le vrai problème vient du cadre familial et du harcèlement scolaire »,
    en soulignant qu’il n’y a aucune mention d’addiction dans les dossiers médicaux
    Comme à l’époque où les jeux vidéo étaient accusés de tous les maux, on a l’impression de revoir le récit selon lequel « on rend les cerveaux des enfants dépendants »
    Il faut aussi penser au fait que ce type de procès finit par déboucher sur des régulations comme la politique de vérification d’identité de Discord
  • Ce type de puzzle verbal vise à graver dans l’esprit du jury « addiction, cerveau, enfants »
  • Au final, un slogan doit rester simple et facile à mémoriser émotionnellement
• La formule « on ne crée pas des applis, on crée des pièges » m’a marqué
  Pour l’instant, ce n’est encore que la déclaration liminaire de l’avocat, donc il faut attendre les vraies preuves
  • Mais quiconque a utilisé YouTube Shorts a peut-être déjà fait lui-même l’expérience de la preuve
  • J’attends de voir surgir des emails internes montrant que le revenu passait avant la santé des utilisateurs
• À force d’augmenter l’engagement avec des tests A/B, on finit par construire sans le vouloir un système addictif
  C’est un peu comme la nourriture américaine, qui devient toujours plus sucrée
  Au final, comme dans une tragédie des biens communs, tout le monde porte une petite part de responsabilité, mais personne ne s’arrête
  • Mais d’après les documents internes, l’entreprise savait que les enfants développaient une addiction et a laissé faire
    C’est pour cela que ce procès a été intenté
  • Le fait d’avoir laissé prospérer ce phénomène relève d’un échec des politiques publiques. Les pouvoirs publics auraient dû réguler ces schémas statistiquement nocifs
  • Comme les dirigeants ne laissent pas de preuves dans leurs emails, prouver l’intentionnalité sera difficile
  • À la question « qui doit être tenu pour responsable ? », la réponse est claire — pas les enfants, mais l’entreprise
• J’ai un jour demandé à un employé de YouTube si ses enfants utilisaient YouTube Kids
  Il m’a répondu : « absolument pas, c’est interdit à la maison »
  Cette seule phrase m’a fait tout comprendre — on voit bien pourquoi ils ne consomment pas leur propre produit
• « Un restaurant essaie aussi de faire revenir ses clients, et un auteur écrit aussi pour qu’on ne puisse pas lâcher son livre, non ? »
  Au fond, tous les médias sont en concurrence pour capter l’attention
  Je pense qu’il est important que chacun préserve son hygiène informationnelle
  • Mais ce n’est pas la même chose. Un restaurant ne met pas de cocaïne dans ses plats
    Être accro à la lecture est même plutôt positif
    Le problème, c’est une structure qui affaiblit l’autocontrôle pendant la consommation
    Les voitures, les médicaments et les équipements de climatisation ont des normes de sécurité, mais les réseaux sociaux n’ont pratiquement aucune régulation
    Le point essentiel, c’est qu’il n’existe toujours pas de mécanisme d’équilibre pour protéger les consommateurs
  • Dans l’alimentation, les substances addictives sont interdites, et un livre relève d’un choix volontaire,
    tandis que les réseaux sociaux provoquent une addiction involontaire. Au final, la seule solution est de couper
  • Si l’on comprend les mécanismes de libération de dopamine, on voit bien que ce n’est pas une simple question de « capter l’attention »
  • Si je mélangeais en douce une substance créant une habitude dans ta boisson, ce serait manifestement inacceptable
  • Un restaurant peut être fermé s’il ne respecte pas les règles d’hygiène, alors qu’une plateforme ne subit aucune sanction
• Comme dans l’industrie du tabac, les PDG diront au final « nous ne savions pas »
  Mais là encore, il est peu probable qu’on leur demande réellement des comptes
  • Comme dans la phrase « ce n’est pas moi qui me suis drogué, c’est la drogue qui m’a intoxiqué »,
    il y a un risque que l’addiction aux réseaux sociaux serve elle aussi de logique de déresponsabilisation
• Si les algorithmes de recommandation sont conçus pour retenir l’attention toutes les 1 à 2 secondes, alors on n’est plus dans le simple « engagement », mais dans quelque chose qui se rapproche d’une conception addictive
  L’utilisateur n’a presque aucune marge pour faire un choix conscient