TikTok nuit aux enfants à l’échelle industrielle

• Les procureurs généraux de 14 États américains ont intenté une action en justice en affirmant que TikTok cause de graves préjudices aux enfants et aux adolescents
• Des documents internes et des déclarations d’employés révèlent des algorithmes addictifs, des problèmes de santé mentale, ainsi qu’une exposition à l’exploitation sexuelle et à la pédopornographie
• TikTok laisse perdurer ces problèmes tout en les connaissant, en privilégiant les revenus et l’engagement des utilisateurs
• Le système de filtrage des contenus et les fonctions de contrôle parental sont très inefficaces, et la vérification de l’âge échoue également à empêcher l’arrivée d’enfants sur la plateforme
• De nombreux utilisateurs de la génération Z ont eux aussi la conviction d’être “accros sans pouvoir arrêter”, et le bénéfice net global pour la société est très négatif

Les préjudices infligés par TikTok aux enfants à l’échelle industrielle

Annonce attendue de la décision de la Cour suprême des États-Unis sur la loi d’interdiction de TikTok

• La Cour suprême des États-Unis doit décider si elle intervient sur la loi d’interdiction de TikTok
• Si cette loi entre en vigueur, le service sera suspendu aux États-Unis à moins que ByteDance ne vende TikTok
• Toutefois, les preuves concernant les préjudices réels tels que la santé mentale, l’exploitation des enfants et l’addiction sont exclues de l’examen juridique
• L’importance du jugement public (de l’opinion) s’en trouve donc renforcée

Témoignages d’initiés de TikTok et documents divulgués

Principales actions des procureurs généraux et documents

• Les procureurs généraux de 14 États, dont le Kentucky, l’Utah, le Nebraska et New York, ont engagé des poursuites
• De nombreuses conversations Slack internes, documents de planification et données expérimentales ont été rendus publics
• Une conception et des stratégies algorithmiques visant délibérément les adolescents ont été confirmées
• Dans le cas des documents caviardés, le contenu avait été simplement masqué par des blocs noirs, ce qui les rendait faciles à restaurer

Cluster de préjudices 1 : addiction et incitation à un usage compulsif

• TikTok indique explicitement que les adolescents sont la cible la plus susceptible d’apporter du temps et de l’engagement
• Algorithmes addictifs, scroll infini, lecture automatique et conception des notifications servent à encourager un usage compulsif
• Les adolescents sont particulièrement sensibles aux récompenses sociales (likes, commentaires, etc.) et manquent de capacités d’autorégulation
• Des employés internes ont eux aussi exprimé des inquiétudes, affirmant que “notre produit nuit au développement des enfants”
• Le rapport “TikTank” mentionne notamment que les adolescents subissent des effets secondaires tels que l’échec de l’autorégulation, les troubles du sommeil et la baisse des capacités d’apprentissage

Cluster de préjudices 2 : problèmes de santé mentale et bulles de filtres

• L’usage compulsif provoque anxiété, dépression, dévalorisation de soi, automutilation et idées suicidaires
• Des comptes expérimentaux sont tombés en seulement 20 minutes dans une bulle de filtres remplie de contenus sur la dépression, le suicide et les troubles alimentaires
• TikTok sait que ses filtres de beauté provoquent une distorsion de l’image de soi et une faible estime de soi, mais laisse la situation perdurer
• Les modérateurs de contenu ne parviennent pas à bloquer correctement les contenus d’automutilation ou de suicide en raison de l’impossibilité d’interpréter certaines langues, du manque de contexte et du flou des critères

Cluster de préjudices 3 : circulation de contenus pornographiques, violents et liés à la drogue

• Des comptes de mineurs reçoivent automatiquement des recommandations de contenus obscènes, de publicités pour des drogues et de vidéos violentes
• Le système de filtrage des contenus de TikTok ne traite pas correctement les langages codés implicites
• Des documents internes montrent que TikTok est conscient que du trafic de drogue, de la prostitution et du blanchiment d’argent ont lieu sur TikTok LIVE
• Le procureur général de l’Utah a présenté pendant son enquête un cas où un enfant a été directement approché par un dealer de drogue
• Entre 30 % et 100 % des contenus gravement nocifs ne sont pas filtrés et restent exposés

Cluster de préjudices 4 : exploitation sexuelle, CSAM et prostitution sexuelle d’enfants en direct

• TikTok n’a pas délibérément mis en place de technologie de détection des contenus d’abus sexuels sur mineurs (CSAM)
• Des enfants de 13 à 15 ans fournissent du contenu sexuel à des adultes lors de LIVE en échange de cadeaux (monnaie virtuelle)
• TikTok en est conscient mais laisse faire pour préserver la rentabilité et l’engagement
• Il existe aussi des diffusions où des enfants apparaissent en tenant des messages comme “glace = érection, espace = se déshabiller”
• La fonction LIVE est très nocive pour les enfants, mais TikTok a déclaré en interne qu’il était impossible de la restreindre parce qu’elle est trop rentable

Cluster de préjudices 5 : non-respect des limites d’âge et faiblesse de la réponse

• TikTok a des restrictions d’âge, mais n’agit pas alors même qu’il sait que des enfants de moins de 13 ans s’inscrivent et utilisent la plateforme
• La vérification de l’âge est pratiquement inopérante, et les mineurs peuvent facilement mentir sur leur âge
• Les fonctions de contrôle parental (Family Pairing) sont elles aussi très peu utilisées et n’offrent pas de protection réelle
• Des documents internes montrent que TikTok utilise ses fonctions de sécurité simplement comme un “alibi” destiné au gouvernement et aux médias
• Le maintien du DAU (nombre d’utilisateurs quotidiens) et du taux d’engagement est l’objectif central de toutes les décisions, la sécurité étant écartée des priorités

Regrets et dépendance chez les jeunes utilisateurs

• De nombreux utilisateurs de TikTok réagissent en disant “je sais que je suis accro, mais je n’arrive pas à arrêter”
• Des expériences montrent que beaucoup répondent qu’ils seraient prêts à arrêter si tout le monde arrêtait en même temps
• Dans un sondage Harris Poll, 47 % ont répondu à propos de TikTok qu’ils auraient préféré que cela n’ait jamais existé, le taux le plus élevé parmi les réseaux sociaux
• TikTok est une plateforme qui cumule addiction comportementale et addiction sociale, et les utilisateurs eux-mêmes reconnaissent qu’elle leur nuit

Conclusion : nécessité de réguler TikTok pour protéger les enfants

• Les préjudices observés sur TikTok ne relèvent pas de simples accidents, mais d’un résultat conçu
• Des millions d’enfants américains subissent de graves dommages mentaux et physiques du simple fait d’un usage normal
• Avec ses algorithmes et sa politique de contenu actuels, TikTok est une plateforme qui porte atteinte à l’enfance elle-même
• Même pour l’ensemble de la société américaine, une interruption du service TikTok le 19 janvier pourrait constituer un changement positif

[GN⁺]

Avis Hacker News

• Haidt n’est pas toujours la personne la plus prudente dans son analyse des données, mais, sur les dix dernières années, ses principales thèses allaient globalement dans la bonne direction

  • La culture de l’annulation n’est pas compatible avec les normes démocratiques
  • Les réseaux sociaux ont un léger effet négatif sur beaucoup de gens, et un effet très négatif sur certaines personnes
  • Avoir son téléphone en permanence sur soi est mauvais pour tout ce qui exige une attention soutenue, notamment les relations amoureuses et les rendez-vous
  • La technologie ne résoudra pas ce problème. L’IA va aggraver la situation. Même si TikTok était interdit et remplacé par une meilleure version, on irait quand même dans la mauvaise direction. Il faut un changement culturel, et Haidt fait de son mieux pour y contribuer

• Lorsque le bureau du procureur général du Kentucky a publié son rapport sur TikTok, il a masqué du texte avec des rectangles noirs, mais il était possible de copier avec le curseur pour lire le texte caché. Une situation assez hilarante

• Bien qu’il n’ait pas d’enfants, quelqu’un partage une expérience personnelle montrant qu’il existe d’autres façons de gérer la relation entre technologie et enfants

  • En vivant dans le Midwest dans les années 1980, cette personne avait demandé à ses parents de lui acheter d’occasion l’édition 1973 de l’Encyclopædia Britannica. Cela lui apportait le même plaisir de curiosité et de découverte que l’on peut trouver dans les ressources en ligne
  • Elle emportait même l’encyclopédie en voyage pour la lire. Cela montre qu’il existe des moyens de répondre à divers besoins des enfants sans dépendre de la technologie

• Surprise face au fait qu’il soit courant que de jeunes femmes et des adolescentes reçoivent des demandes de cadeaux et des commentaires sexualisés. Cela peut avoir un impact important sur les personnes de moins de 18 ans

• Questionnement sur les raisons pour lesquelles des rapports internes contiennent des éléments que la direction ne veut pas entendre

  • Peut-être que leurs auteurs ne se rendent pas compte que la direction ne veut pas l’entendre
  • Peut-être que la direction veut en réalité l’entendre, mais souhaite une interprétation délibérément biaisée
  • Peut-être qu’ils pensent que l’information sera utilisée de manière constructive
  • Peut-être qu’ils essaient simplement de faire leur travail de chercheurs honnêtes
  • Peut-être est-ce une forme de sécurité de l’emploi pour éviter d’être licenciés
  • Peut-être veulent-ils laisser une trace documentaire au cas où le scandale éclaterait au grand jour

• Trouve amusante la manière inappropriée dont le bureau du procureur général du Kentucky a géré la censure du document

• Pense que les parents devraient pouvoir bloquer certains sites sur les appareils de leurs enfants. Il n’aurait pas été nécessaire d’étendre la censure et la surveillance

• Partage une expérience personnelle où les réseaux sociaux étaient si addictifs qu’il a dû se les bloquer lui-même. Regarder des vidéos peut être utile d’un point de vue éducatif, mais il vaudrait mieux identifier le contenu utile via des résumés de LLM