Des juges freinent l’immunité des géants de la tech au titre de la Section 230
(thebignewsletter.com)- La cour d’appel du 3e circuit des États-Unis a jugé que, dans l’affaire où l’algorithme de recommandation de TikTok a exposé la jeune Nylah Anderson, 10 ans, à des vidéos du « Blackout Challenge », TikTok ne pouvait pas échapper à une action en justice en invoquant uniquement l’immunité de la Section 230
- La question centrale n’était pas de savoir si la plateforme s’était contentée d’héberger des publications de tiers, mais si le fait d’avoir sélectionné et recommandé des vidéos sur la « For You Page » à partir de l’âge, des interactions et des métadonnées relevait de l’expression propre de TikTok
- La décision retourne à son profit le raisonnement de Moody v. NetChoice et estime que, si une plateforme revendique la protection du First Amendment pour un feed éditorialisé, alors cette curation peut aussi être considérée, au regard de la Section 230, comme une prise de parole de la plateforme elle-même
- Dans une opinion concordante, le juge Paul Matey estime que TikTok doit être vu non comme l’éditeur de la vidéo de challenge, mais comme un distributeur (distributor), et que la jurisprudence initiale sur la Section 230 a eu tort d’effacer la distinction entre éditeur et distributeur
- Cette décision laisse ouverte, au sein du 3e circuit, la voie à des actions en responsabilité liées aux recommandations algorithmiques, avec des effets potentiels directs sur un recours devant la Cour suprême, sur une intervention du Congrès, sur le modèle économique des plateformes et sur la stratégie contentieuse des plaignants
L’appréciation du 3e circuit sur l’algorithme de recommandation de TikTok
- La cour d’appel du 3e circuit des États-Unis a estimé que TikTok ne pouvait pas échapper à sa responsabilité en se fondant sur la Section 230, et a annulé la décision de rejet prononcée en première instance
- Le cœur de l’affaire est que TikTok aurait recommandé et promu, via son algorithme, une vidéo publiée par un tiers sur la « For You Page » personnalisée de Nylah Anderson, 10 ans
- La vidéo montrait le « Blackout Challenge », qui incite les spectateurs à se filmer en train de s’asphyxier eux-mêmes
- Après avoir vu la vidéo, Nylah a tenté de reproduire le challenge et s’est pendue involontairement, ce qui a entraîné sa mort
- La mère de Nylah, Tawainna Anderson, a intenté une action contre TikTok et des sociétés liées à ByteDance au titre du droit de l’État de Pennsylvanie, en invoquant la responsabilité du fait des produits, la négligence et le décès injustifié
- La juridiction inférieure avait rejeté la demande en considérant que TikTok s’était contenté d’héberger le discours d’autrui sans produire son propre discours
- Dans son opinion, le juge Paul Matey critique la lecture de TikTok, qui interprète « l’article 230 du Communications Decency Act comme signifiant qu’il peut rester indifférent à la mort d’une fillette de 10 ans »
Comment la Section 230 a été élargie
- La Section 230 a été adoptée en 1996 pour traiter la question de savoir si des services de forums en ligne comme Prodigy ou CompuServe devaient être tenus responsables des commentaires de leurs utilisateurs
- Sa structure de base est que lorsqu’un interactive computer service héberge le discours d’une autre personne, il n’est pas responsable de ce discours et n’est responsable que de son propre discours
- Le texte protège aussi les plateformes contre la responsabilité lorsqu’elles restreignent de bonne foi l’accès à des contenus qu’elles jugent obscènes, lascifs, excessivement violents, harcelants ou autrement inappropriés
- Par la suite, Internet a pris une ampleur qui englobe désormais les réseaux sociaux et la publicité de surveillance fondée sur les données, inexistants en 1996, et les tribunaux ont étendu le champ d’application de la Section 230 au commerce en ligne et aux sites de réservation d’hôtels, entre autres
- Depuis Zeran v. America Online, décision du 4e circuit en 1997, huit cours d’appel fédérales ont suivi une interprétation extensive, façonnant une jurisprudence où les plateformes échappent à la responsabilité même lorsqu’elles ont contribué à favoriser le préjudice
La double protection dont les plateformes ont bénéficié
- Les grandes plateformes soutiennent, lorsqu’il s’agit d’échapper à la régulation, que leurs activités constituent un discours relevant de la protection du First Amendment ; mais lorsqu’il s’agit de répondre d’une diffamation ou d’un discours illicite, elles affirment n’être qu’un simple contenant pour le discours d’autrui et invoquent l’immunité de la Section 230
- Cette structure a été critiquée pour avoir créé ce qu’un tribunal a décrit comme un « lawless no-man’s-land »
- Les préjudices évoqués dans le cadre de l’immunité de la Section 230 couvrent de nombreux domaines
- Des cas où Grindr aurait facilité des agressions sexuelles
- Des cas où des agences de crédit auraient tenté d’échapper à la régulation des erreurs dans les rapports de solvabilité
- Des cas où Facebook aurait attisé des violences ethniques
- Le fait qu’en 2023, l’IRS a recensé plus d’un million de déclarations fiscales signalées comme usurpation d’identité, les informations ayant été principalement collectées sur LinkedIn ou sur des sites de Meta
- Des escroqueries sentimentales longue distance sur Facebook, menées par des fraudeurs se faisant passer pour des militaires
- Des cas où des entreprises de réseaux sociaux ciblent des personnes souffrant d’addiction au jeu avec des applications de « social casino »
- En 2022, Clarence Thomas a critiqué l’interprétation extensive de la Section 230, en soulignant que Facebook n’avait pas empêché des trafiquants d’êtres humains d’utiliser son service parce que cela aurait réduit le nombre d’utilisateurs et les revenus publicitaires
Une décision qui retourne la logique de NetChoice contre la Section 230
- Ces dernières années, les tribunaux ont commencé à restreindre la portée de la Section 230 dans des affaires comme Lemmon v. Snap, en traitant les fonctionnalités techniques nuisibles sous l’angle de la responsabilité du fait des produits plutôt que du droit de la parole
- En 2023, la Cour suprême a examiné Gonzalez v. Google et Twitter v. Taamneh, mais n’a pas pris de position de fond sur la Section 230 elle-même
- Dans Moody v. NetChoice, la Cour suprême a estimé qu’il était probable que des lois de Floride et du Texas visant à empêcher les grandes plateformes de discriminer selon les opinions politiques soient inconstitutionnelles
- Elle a jugé que la discrétion éditoriale d’une plateforme qui exclut certains discours politiques d’un feed éditorialisé relève de la protection du First Amendment
- Elle a toutefois distingué le cas où un feed, sans critère éditorial indépendant, se contente de réagir au comportement en ligne de l’utilisateur pour lui montrer le contenu qu’il souhaite : dans ce cas, il ne s’agirait pas de discours et cela pourrait donc être régulé
- La cour d’appel du 3e circuit a appliqué cette logique à la Section 230
- Si l’algorithme d’une plateforme reflète des choix éditoriaux en agrégeant le discours de tiers d’une manière voulue, alors cela peut constituer à la fois l’expression propre de la plateforme protégée par le First Amendment et, au regard de la Section 230, un discours primaire de celle-ci
- L’algorithme de TikTok, parce qu’il élaborait et recommandait sur le FYP un ensemble personnalisé de vidéos à partir de l’âge de l’utilisateur, de données démographiques, d’interactions en ligne et d’autres métadonnées, peut donc être traité comme le discours propre de TikTok
La logique de responsabilité du distributeur selon le juge Paul Matey
- Le juge Paul Matey, tout en approuvant l’annulation de la décision de première instance, avance aussi un raisonnement distinct visant à réduire plus fortement encore la portée de la Section 230
- Son idée centrale est qu’il faut voir TikTok non comme le publisher de la vidéo de challenge, mais comme un distributor
- Traditionnellement, notamment en matière de vente de contenus obscènes, on distinguait la responsabilité de l’auteur ou de l’éditeur d’un document de celle des distributeurs comme les librairies, bibliothèques ou kiosques à journaux
- La première jurisprudence relative à la Section 230 a effacé cette distinction entre publisher et distributor, et Matey estime que cette jurisprudence était erronée
- Il considère qu’un TikTok qui procède à une amplification algorithmique se comprend mieux, au regard de l’approche traditionnelle du common carriage, comme un distributeur, une approche qui rejoint aussi les préoccupations de Rohit Chopra et de plusieurs juges de la Cour suprême
Un cadre réglementaire transpartisan et des conséquences à venir
- Les questions de pouvoir des géants de la tech et de parole ne se répartissent pas selon un simple clivage partisan
- À la Cour suprême, Clarence Thomas et Ketanji Brown Jackson se retrouvent parfois d’un côté différent de Brett Kavanaugh et Elena Kagan, tandis qu’Amy Coney Barrett est décrite comme une juge charnière
- Trump comme Biden sont hostiles à la Section 230
- Des régulateurs républicains et démocrates comme Brendan Carr, Rohit Chopra et Lina Khan alertent depuis des années sur les abus liés à la Section 230
- Dans cette affaire du 3e circuit, la juge nommée par Obama Patty Shwartz et le juge nommé par Trump Peter J. Phipps ont approuvé l’analyse au fond, tandis que le juge nommé par Trump Paul Matey a défendu une réduction encore plus marquée de la Section 230
- La décision a pour effet d’isoler le 3e circuit de l’interprétation retenue par la majorité des tribunaux sur la Section 230, et l’affaire a de fortes chances d’être portée jusqu’à la Cour suprême
- Si la Section 230 ne joue plus son rôle de bouclier, les actions visant à engager la responsabilité des plateformes pourraient se multiplier pour des arnaques aux faux militaires sur Facebook, l’aide à des violations des lois étatiques sur les jeux d’argent, des usurpations d’identité massives, des violences sexuelles, des maltraitances infantiles et des demandes classiques en diffamation
- La Silicon Valley pourrait se préparer à faire pression sur le Congrès pour légiférer sur une « réforme » de la Section 230, et certains dirigeants pourraient envisager d’adapter leur modèle économique à un environnement dans lequel les plateformes répondent de leurs actes
1 commentaires
Avis sur Hacker News
La réaction actuelle semble être que cette décision marque la fin des réseaux sociaux ou mènera à une censure gouvernementale, mais je pense qu’il est difficile d’être aussi catégorique.
Le point central est que les réseaux sociaux ne sont pas neutres et qu’ils sélectionnent ce que les gens voient. Si l’on n’est pas un acteur neutre qui se contente d’héberger du contenu, le fait que cette sélection soit effectuée par un algorithme ne fait pas disparaître la responsabilité : c’est ainsi que je lis la décision.
Plus largement, on pourrait y voir une sorte de neutralité du Net. Aujourd’hui, les plateformes sociales mettent en avant certains contenus et en rétrogradent d’autres ; si les gens interagissent principalement via des fils d’actualité, cela ressemble au problème de priorisation entre FAI et sites web.
Personnellement, j’ai envie de voir quels changements cette décision pourrait entraîner. À part HN, je n’ai plus de compte sur aucun site social, tant la plupart sont devenus affreux ; peut-être que les réseaux sociaux pourraient redevenir supportables.
Or, selon cette décision, du fait même de la modération, HN pourrait être responsable de tous les messages, et il n’y aurait peut-être que deux options : arrêter la modération et devenir comme 4chan, ou bien la renforcer beaucoup, par exemple en bloquant les comptes anonymes et en imposant fortement la responsabilité des auteurs via les conditions d’utilisation, ou en approuvant manuellement tous les commentaires.
Je ne vois pas très bien comment exploiter un site web qui modère du contenu utilisateur tout en évitant la responsabilité liée aux contenus illégaux.
À l’origine, le droit créait une situation où une plateforme pouvait être tenue responsable de tout ce que publiaient ses utilisateurs dès lors qu’elle modérait ne serait-ce qu’un peu ; la Section 230 visait à permettre de supprimer ou de rétrograder spam, pornographie et trolling sans être poursuivi pour d’autres contenus distincts qui n’auraient pas été retirés.
J’ai toujours du mal à comprendre l’idée selon laquelle la sélection serait en soi un problème. L’option consistant à publier directement sur le web, sans réseaux sociaux, a toujours existé, mais les gens l’ont choisie de moins en moins, à répétition. À l’extrême, cette décision pourrait ne laisser que cette option.
Cela dit, je ne pense pas que ce soit ce qui se passera réellement ; il est plus probable que les coûts d’exploitation augmentent et se répercutent sur les tarifs publicitaires. L’écosystème pourrait se réduire, mais une chose est sûre : le pont-levis au-dessus des douves des grands acteurs du social sera encore relevé, ce qui signifie moins de concurrence.
Plutôt que de chercher comme idéal un média sans biais, je préférerais que les biais soient rendus publics. Il faut en dire suffisamment sur soi-même et indiquer où se situent ses biais, afin que je puisse juger.
Ce n’est pas très différent du raisonnement du tribunal. L’édition est une expression, et la page « For You » est elle aussi éditée ; elle relève donc de l’expression propre de TikTok. Cela dit, je suis d’accord avec le constat plus large selon lequel les réseaux sociaux sont globalement des espaces désagréables.
Cette affaire dépend de ce que TikTok savait.
La décision indique qu’avant que Nylah ne voie la vidéo, TikTok savait que 1) le Blackout Challenge mortel se propageait sur l’application, 2) son algorithme le diffusait spécifiquement à des enfants, et 3) plusieurs enfants étaient morts après l’avoir vu sur leurs For You Pages. Malgré cela, TikTok n’aurait pris aucune mesure, ou des mesures totalement insuffisantes, pour empêcher sa diffusion et éviter qu’il soit montré à des enfants, et aurait continué à le recommander à des enfants comme Nylah.
Pour savoir ce que TikTok « savait », il faut consulter les documents « App. 31–32 ». Un compte Pacer peut être nécessaire, et je me demande aussi s’ils ont ignoré des signalements d’abus.
Une question similaire est allée jusqu’à la Cour suprême dans Gonzales vs. Google (2023). L’affaire portait sur la recommandation de vidéos encourageant à soutenir le djihad de l’État islamique, et sur la question de savoir si cela avait conduit quelqu’un à partir combattre et à mourir ; la Cour a rejeté les demandes liées au terrorisme sans traiter la question de la Section 230.
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
Ce processus d’examen avait été développé pour satisfaire aux standards d’expression beaucoup plus stricts du marché chinois, mais ici il ouvre au contraire la voie à une responsabilité potentiellement plus grande.
Je n’arrive pas à retrouver l’article en question ; il est noyé parmi des diagrammes du type « comment rendre une vidéo virale », et ces documents omettent la décision sur le « moment où c’est interdit ».
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
Le reste des pièces est ici :
https://www.courtlistener.com/docket/67500541/tawainna-ander...
TikTok a recommandé et promu, via son algorithme, des vidéos publiées par des tiers sur la « For You Page » personnalisée de Nylah Anderson, 10 ans ; l’une d’elles était le « Blackout Challenge », qui incitait les spectateurs à s’enregistrer en train de s’asphyxier volontairement.
Après avoir vu la vidéo, Nylah a tenté de reproduire le défi et s’est pendue accidentellement, ce qui a entraîné sa mort — https://cases.justia.com/federal/appellate-courts/…
En somme, l’algorithme a, par accident, conduit une enfant à se pendre elle-même. De nombreux sites web exécutent du code qui recommande des articles à lire selon les données démographiques des utilisateurs, et ce code ne comporte aucun dispositif empêchant que des articles liés à l’auto-asphyxie soient recommandés à un enfant.
Au bout du compte, cela repose sur l’hypothèse que les clients qui utilisent ce logiciel ne publieront pas ce type de contenu, que des personnes aux caractéristiques démographiques similaires ne le liront pas, et que, même si un enfant reçoit la recommandation, il ne le lira pas ni ne l’imitera. Si cette hypothèse s’effondre, est-ce à moi ou à mon employeur d’en porter la responsabilité ?
On ne devrait pas espérer une immunité automatique au seul motif qu’il s’agit d’un algorithme, tout en faisant quelque chose dont on tire une rémunération sans se soucier de ses conséquences. Profiter des bénéfices tout en évitant la responsabilité est lâche et puéril, et les comportements puérils nécessitent la supervision d’adultes.
Il est indiqué qu’avant que Nylah ne voie la vidéo, TikTok savait que le Blackout Challenge se propageait sur l’application, que son algorithme le servait à des enfants, et que plusieurs enfants ayant vu ce contenu sur leurs For You Pages étaient morts. Malgré cela, TikTok n’aurait pas pris de mesures, ou pas suffisamment, pour empêcher sa diffusion ou pour le rendre invisible aux enfants, et aurait continué à le leur recommander.
Pensez-vous qu’un tel comportement devrait être légal ? Si vous saviez que des enfants meurent directement à cause du contenu que vous leur servez, ne feriez-vous rien ?
Cela dit, cette plateforme concerne la recommandation d’articles, et ce n’est peut-être pas un service où l’on s’enregistre en train d’imiter des tendances populaires. Les enfants ne sont peut-être pas le public visé, voire pas des utilisateurs du tout. À bien des égards, la situation est différente de celle de TikTok.
Le tribunal a estimé que, si l’algorithme d’une plateforme reflète un jugement éditorial consistant à organiser l’expression de tiers de la manière souhaitée, il s’agit du « produit expressif » propre de la plateforme et il bénéficie de la protection du Premier Amendement.
Le raisonnement est le suivant : puisque la Cour suprême a considéré qu’une plateforme exerce une expression de premier rang protégée lorsqu’elle sélectionne, au moyen d’un algorithme expressif, un ensemble de contenus d’autrui, il est naturel de la considérer également comme une expression de premier rang au regard de la Section 230.
Je suis d’accord avec cela depuis longtemps. Il ne s’agit pas d’un « résultat naturel » comme un ordre chronologique, une structure en fils de discussion, ou un tri pondéré par les recommandations et ajustements des utilisateurs finaux hors du contrôle du site ; c’est une question de choix.
Si mon forum traite d’un sujet étroit comme le tout-terrain en 4×4, et que je supprime un message manifestement écrit par un humain mais gravement hors sujet, par exemple sur la politique américaine, cela me rend-il également responsable de tous les messages que je n’ai pas supprimés ?
Où se situe cette limite pour ceux qui n’ont pas, comme les entreprises de la Silicon Valley, d’immenses équipes juridiques ?
Pour parler de l’intention de la Section 230 ou de la mesure dans laquelle elle s’applique aux recommandations ciblées fondées sur des algorithmes, il faut consulter le mémoire déposé dans Google v. Gonzalez (2023) par Ron Wyden et Chris Cox, coauteurs de la Section 230.
Selon le communiqué de Wyden, « la Section 230 protège les recommandations ciblées dans la même mesure que les autres méthodes d’affichage de contenu, et cette interprétation réalise l’objectif du Congrès, qui était d’encourager l’innovation dans l’affichage et la modération des contenus ». Le texte ajoute que la transmission en temps réel de contenus générés par les utilisateurs est devenue le socle de l’activité en ligne, et que les protections de la Section 230 sont tout aussi essentielles aujourd’hui qu’au moment de son adoption.
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Cox y écrit que la jurisprudence a établi que, si un site web a participé d’une quelconque manière à la création ou au développement d’un contenu illégal, la Section 230 ne peut pas lui servir de bouclier. Dans FTC v. Accusearch, les relevés téléphoniques avaient été créés par des tiers, mais le site web avait transformé des informations privées en un produit public ; cela a été considéré comme un « développement » de l’information, entraînant la perte de l’immunité.
Il explique ensuite qu’en élaborant la Section 230, l’objectif était que les règles juridiques du monde hors ligne continuent de s’appliquer sur Internet. Autrement dit, toute entreprise, qu’elle opère en ligne ou dans un magasin physique, doit répondre de ses propres obligations légales.
Cela dit, dans cette affaire, l’intention initiale n’a finalement pas beaucoup d’importance : ce sont les tribunaux qui interprètent la loi. En réalité, la Section 230 fait partie du Communications Decency Act, dont la Cour suprême a invalidé l’essentiel.
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
Je ne suis pas opposé à l’adoption de nouvelles lois si la société estime qu’elles réduisent les préjudices causés aux utilisateurs en ligne, en particulier aux enfants.
Mais si cela va dans le sens d’une disparition de la Section 230, est-ce que cela ne va pas avantager uniquement les grandes entreprises technologiques, qui disposent déjà d’énormes ressources juridiques et de capacités de modération fondées sur le machine learning ou manuelles ? Les barrières à l’entrée pour les startups deviendraient insurmontables.
On a l’impression que les entreprises établies ont obtenu, de fait, un laissez-passer en matière de responsabilité pour les contenus fournis par les utilisateurs, ont pu croître suffisamment, puis que le gouvernement vient maintenant retirer l’échelle derrière elles.
L’interprétation selon laquelle la question fondamentale n’est pas de savoir s’il faut réguler les grandes plateformes technologiques comme des locuteurs est assez bonne. Elles sont moins des sujets qui s’expriment que des intermédiaires.
Cette perspective s’appuie sur des notions juridiques antérieures à Internet, comme celles de distributeur et de producteur. Il existe l’idée que les structures juridiques et gouvernementales n’ont pas été conçues pour traiter l’ère d’Internet et doivent donc être entièrement refondues, mais cette affaire est aussi pertinente et importante comme contre-exemple.
Excellent article. L’auteur semble faire pas mal d’hypothèses sur la suite des événements, mais je partage son enthousiasme à l’idée de voir se terminer l’époque du « no man’s land sans foi ni loi » d’Internet.
C’est aussi très pertinent au moment où nous attendons la catastrophe de masse des contenus générés par IA. On remplace en quelque sorte une catastrophe par une autre, un peu plus aimable et plus humaine.
Internet existait avant le CDA et, d’après mes souvenirs, c’était plutôt génial. Internet pourra encore exister après. Si les géants n’y dépensent pas des sommes énormes toute la journée pour stimuler notre amygdale avec des absurdités, ce sera peut-être un espace beaucoup moins saturé, moins toxique, moins excitant et moins addictif.
Le point central du juge Matey est que la Section 230 n’accorde d’immunité aux actes de TikTok que pour l’hébergement de la vidéo du Blackout Challenge sur ses serveurs.
Définir les choses ainsi crée une question technique délicate que le tribunal devra résoudre. En travaillant dans le Web, je comprends l’« hébergement » comme le fait de stocker un fichier quelque part. Le tribunal le verra-t-il ainsi ? Ou y inclura-t-il aussi le service, la mise en cache, l’indexation, les liens, la mise en forme et le rendu ? Si l’éditeur devient responsable ne serait-ce que d’une partie de tout cela, le secteur prendra une direction très différente de celle de 1995.
La décision elle-même dit qu’il s’agit d’un problème concernant la sélection et l’assemblage de certaines vidéos par TikTok, et non de l’ensemble de la Section 230.
TikTok est tenu responsable non pas du contenu utilisateur en lui-même, mais de la manière dont il a composé la section « For You ». Que ce soit à des fins politiques ou à la manière de Facebook ou Twitter, il est logique de considérer qu’il n’est pas acceptable de manipuler les gens. La Section 230 n’est donc pas terminée.
J’aimerais que « For You » ou les recommandations YouTube disparaissent. Les fils chronologiques sont ce qu’il y a de mieux et ramèneraient un peu de bon sens. Si quelque chose ne vous plaît pas, il suffit de ne pas le suivre.
La décision considère que l’algorithme de TikTok qui a recommandé le Blackout Challenge dans le FYP de Nylah constitue une « activité expressive » propre à TikTok, et que la Section 230 ne fait pas obstacle à la plainte, puisque l’information sur laquelle repose l’action n’a pas été fournie par un tiers, mais relève de la recommandation algorithmique du FYP de TikTok.
Sans aucun filtrage, ce serait encore un algorithme pouvant servir à manipuler les gens, et tout ce qu’on verrait serait des montagnes de pages SEO. Laisser la responsabilité ouverte de cette façon est un bourbier qui a peu de chances de produire de bons résultats pour Internet.
Même si les recommandations YouTube ou l’algorithme TikTok me « manipulent », personnellement cela ne me pose aucun problème.
Fondamentalement, on semble se rapprocher de plus en plus d’un contrôle gouvernemental des réseaux sociaux. Cela paraît être une tendance mondiale, où les gouvernements fixent les règles de fonctionnement des services de communication et des réseaux sociaux.
En revanche, si Facebook cherchait à mettre en avant certains contenus en particulier, c’est là qu’une responsabilité potentielle apparaîtrait.
Dans ce procès, le comportement en cause est que TikTok savait, ou aurait dû savoir, qu’il ciblait des mineurs avec des challenges que des enfants risquaient fortement d’imiter en se blessant. Cela va bien au-delà d’une simple modération, et c’est aussi le type d’action que plusieurs entreprises de réseaux sociaux ont affirmé devant les tribunaux relever de leur propre expression.
Cela revient à reconnaître que choisir quoi montrer est une forme d’expression libre susceptible d’avoir des conséquences, pas à tenter de contrôler cette expression.
La directive en question est la 2000/31/CE et elle a déjà 24 ans. C’est le prédécesseur du DSA de l’UE et, comme le DSA, la directive 2000/31/CE a une portée extraterritoriale.
Par exemple, nous n’autorisons pas la publicité pour le tabac, l’alcool ou le cannabis auprès des enfants. Désormais, les entreprises doivent aussi assumer les conséquences d’envoyer aux enfants des idioties comme le « Blackout Challenge ».
« Un idiot l’a posté sur notre plateforme » et le fait d’avoir promu et cautionné ce post en l’envoyant à tout le monde, ce sont deux choses totalement différentes. Les entreprises doivent répondre de leurs propres actes.