- Le KIDS Act, que le Congrès américain s’apprête à soumettre au vote d’ici la semaine prochaine, regrouperait une version révisée de la KOSA et plusieurs réglementations d’Internet, ce qui pourrait créer de nouvelles restrictions sur la navigation web, la messagerie privée et l’expression en ligne dans son ensemble
- La combinaison de critères de barrière d’âge différents selon les services pourrait accroître le risque juridique pour les plateformes et, au final, conduire à des vérifications d’âge plus strictes pour l’ensemble des utilisateurs
- Les dispositions de la KOSA précisent qu’elles « n’exigent pas de vérification de l’âge », mais imposent de nombreuses obligations lorsqu’un service savait ou aurait dû savoir qu’un utilisateur est un enfant de moins de 13 ans ou un adolescent de 13 à 16 ans
- La remise d’une carte d’identité ou d’un passeport, ainsi que l’estimation de l’âge par scan du visage, pourraient se généraliser, alors que les systèmes existants se trompent sur l’âge des enfants et échouent plus souvent pour les personnes racisées, handicapées, trans et non binaires
- Si la pression réglementaire s’étend jusqu’aux propos licites, aux messages chiffrés et aux messages éphémères, même les adultes devront prouver qu’ils sont majeurs, au détriment de la vie privée et de la liberté d’expression de tous les utilisateurs
Le paquet de régulation d’Internet regroupé dans le KIDS Act
- Le Congrès se prépare à voter le KIDS Act d’ici la semaine prochaine
- Ce paquet inclut une version révisée du Kids Online Safety Act, c’est-à-dire la KOSA, et y ajoute d’autres projets de loi sur Internet, des mesures de recherche, des obligations de rapport et de nouvelles réglementations
- L’idée est de faire adopter l’ensemble en une seule fois via une procédure accélérée, sans débattre séparément des avantages et inconvénients de chaque proposition
- En combinant plusieurs textes, le dispositif introduit des systèmes de vérification de l’âge et des critères différents selon les services, ce qui augmente la complexité et le risque juridique pour les entreprises
Une mécanique qui mène à la vérification de l’âge de tous les utilisateurs
- Les partisans de la KOSA affirment depuis longtemps que le texte n’exige pas de vérification de l’âge, et les dispositions de la KOSA contiennent effectivement une formule indiquant qu’elles ne doivent pas être interprétées ainsi
- Mais lorsqu’un site web ou une app savait ou aurait dû savoir qu’un utilisateur est un enfant ou un adolescent, il doit fournir des protections particulières, des contrôles, des réglages de messagerie et des outils parentaux
- un enfant a moins de 13 ans
- un adolescent a entre 13 et 16 ans
- Même si une plateforme ne connaissait pas réellement l’âge d’un utilisateur, un tribunal ou un régulateur pourrait ensuite considérer qu’elle aurait dû le savoir
- Pour éviter d’être tenue responsable, un service doit donc déterminer qui est adolescent et qui ne l’est pas, et il devient difficile de se contenter de croire l’utilisateur sur parole
- Certaines entreprises pourraient demander un permis de conduire ou un passeport, tandis que d’autres pourraient s’appuyer sur des systèmes qui estiment l’âge à partir de l’activité passée ou d’un scan du visage
- Les systèmes actuels d’estimation de l’âge commettent des erreurs pour évaluer correctement l’âge des enfants et échouent plus souvent pour les personnes racisées, handicapées, trans et non binaires
Les dispositions hors KOSA renforcent aussi la surveillance de l’âge
- Le SAFE BOTS Act, inclus dans le KIDS Act, utilise lui aussi un critère selon lequel certains services ne peuvent pas proposer certaines fonctions de chatbot lorsqu’ils savaient ou auraient dû savoir qu’un utilisateur est mineur
- Le SCREEN Act exige des services qui hébergent des contenus sexuellement explicites qu’ils déterminent, avant d’autoriser l’accès à certains contenus, s’il est plus probable qu’un utilisateur soit en dessous de la limite d’âge applicable
- Cette responsabilité ne se limite pas aux mineurs
- si les sites web et les apps doivent pouvoir identifier de manière fiable les adolescents, les adultes se verront eux aussi demander de prouver qu’ils sont majeurs
- Au bout du compte, c’est le niveau global de vie privée sur Internet qui diminue
Une pression de censure sur les plateformes à propos des propos licites
- La nouvelle version de la KOSA supprime la disposition controversée de duty of care, ce qui constitue un changement important
- À la place, les plateformes concernées doivent établir, mettre en œuvre, maintenir et faire appliquer des politiques et procédures concernant plusieurs catégories de contenus et de comportements
- Certaines catégories concernent des actes illégaux, comme les menaces réelles ou l’exploitation sexuelle
- D’autres sont beaucoup plus larges
- la « vente ou l’usage » de drogues, de produits du tabac, de produits à base de cannabis, de jeux d’argent et d’alcool
- les discussions liées à la fraude financière
- Si des adolescents discutent d’addiction et de rétablissement, du problème d’alcool d’un ami, du problème de jeu d’un parent, d’une arnaque dont ils ont été victimes, de communautés de réduction des risques ou de traitement de l’abus de substances, ces échanges peuvent aussi entrer dans les catégories de préjudices énumérées par la KOSA
- Le texte n’interdit pas directement ces conversations, mais il met les plateformes sous pression pour créer et appliquer des politiques de modération sur de larges catégories de propos licites
- À mesure que le risque juridique augmente, beaucoup de services pourraient supprimer ces contenus ou les restreindre à des espaces vérifiés comme réservés aux adultes
Effets sur les messages privés et chiffrés
- Le KIDS Act comprend de nouvelles règles sur les messages directs, les messages éphémères et les services de chat IA
- Certaines exigences de la KOSA s’accompagnent d’une formule indiquant qu’elles ne doivent pas être interprétées comme annulant le chiffrement fort
- Cette protection n’est toutefois pas complète
- l’exception s’applique à certaines fonctions et à certains contrôles de messagerie
- elle ne s’applique pas à une exigence distincte selon laquelle les plateformes doivent « traiter » la liste des risques pour les mineurs
- Le KIDS Act ne dit pas comment les plateformes sont censées gérer, dans des communications chiffrées qu’elles ne peuvent pas lire, des activités qu’elles ne peuvent pas voir
- Cette structure pourrait pousser les fournisseurs à affaiblir les communications privées ou à limiter les fonctions des services privés chiffrés
- Les messages éphémères ne sont pas une échappatoire dangereuse ni une ruse de conception, mais une fonction utile de protection de la vie privée qui rapproche les conversations en ligne d’échanges ordinaires ne restant pas dans une base de données permanente
- Les dispositions sur la messagerie privée ne peuvent fonctionner qu’en sachant qui est mineur, ce qui conduit à davantage de vérifications d’âge, davantage de restrictions et moins de vie privée en ligne
1 commentaires
Avis sur Hacker News
Si l’on se demande si HN est une plateforme concernée au regard de ce projet de loi, il me semble que non.
HN ne semble pas remplir la condition de la section 201(E), selon laquelle « les données personnelles des utilisateurs sont utilisées pour la publicité, le marketing ou les recommandations de contenu ». Il en va de même pour les sites bancaires, les blogs personnels et de nombreux sites de discussion comme HN ; le champ d’application n’est donc clairement pas minuscule, mais il est bien plus étroit que « presque tous les sites web d’Internet auxquels les gens tiennent ». Le titre de l’article de l’EFF est exagéré, et ce à quoi ce texte impose de fait une vérification de l’âge n’est pas tant « l’accès à Internet » que « l’accès aux réseaux sociaux ».
J’ai entendu une émission sur une station NPR locale à propos des enfants et des réseaux sociaux, et les études citées disaient que les preuves d’un effet des réseaux sociaux sur la santé mentale étaient très faibles.
Il s’agissait apparemment d’une étude longitudinale, et c’était surprenant quand on voit combien d’adultes et de responsables politiques présentent le lien entre les deux comme évident. Je n’ai pas examiné l’étude moi-même, mais je me demande si d’autres l’ont vérifiée.
Les jeunes passent aussi moins de temps avec leurs amis, boivent moins et ont moins de rapports sexuels. Il est difficile d’attribuer une tendance sur 20 ans à une cause unique, mais les parents ont généralement le sentiment que leurs ados passent trop de temps sur leur téléphone, et les réseaux sociaux étant omniprésents, il est très probable que presque tous les enfants qui se sont suicidés aient récemment utilisé les réseaux sociaux. Il est toutefois impossible de prouver la causalité d’une façon qui écarte toutes les objections. Si les responsables politiques croient facilement que les réseaux sociaux sont mauvais pour la santé mentale, c’est peut-être à cause de leur propre expérience. Il suffit de penser à ce que c’est que d’être sur Twitter quand on est un politicien professionnel.
[1] https://www.canada.ca/en/public-health/services/publications...
[2] https://www.oecd.org/en/publications/child-adolescent-and-yo...
Je suis vraiment curieux de savoir quelles sont les « études » mentionnées par NPR et qui les a financées. Cela va directement à l’encontre de ce que nous avons vu dans ces entreprises.
L’argument le plus solide n’est pas vraiment « votre enfant devient dépressif parce qu’il utilise les réseaux sociaux », mais plutôt : « quand toute la société adopte massivement les réseaux sociaux, la culture change de façon irréversible, ce qui entraîne de grands changements en matière de santé mentale, en particulier chez les jeunes filles, et l’effet atteint même les enfants exposés à cette culture sans utiliser directement les réseaux sociaux ». C’est pourquoi on observe ce phénomène étrange où les études expérimentales de haute qualité, généralement considérées comme les plus probantes, peuvent montrer un effet nul tout en restant compatibles avec ce que prédit cet argument fort. Les études de corrélation montrent en général un effet faible, ou plus marqué chez les jeunes filles, ou aucun effet. Les études trouvant une corrélation positive sont extrêmement rares. Ce qui vaut davantage le détour, ce sont les études d’adoption des réseaux sociaux à l’échelle de la population, comme celles évoquées ici : https://www.afterbabel.com/p/phone-based-childhood-cause-epi...
Cela dit, ce type d’étude est très délicat, car il est impossible de le reproduire exactement, et on ne sait pas non plus si un produit culturel peut réellement revenir en arrière.
Bien sûr, on ne peut pas empêcher les adultes d’accéder à du contenu légal, mais on peut encadrer légalement le contenu algorithmique lui-même. Ce que dit NPR ressemble au genre de discours qu’on attendrait de gens très doués pour vendre de la malbouffe. La science de la conception du goût et de l’addiction légère est bien établie, et tout comme on n’a pas de syndrome de sevrage parce qu’on ne mange pas de Doritos, les réseaux sociaux disposent eux aussi d’une science très au point pour pousser les gens à regarder plus longtemps coûte que coûte. Je prends donc ce que dit NPR avec des pincettes. D’après mon expérience, NPR présente souvent, pour une raison ou une autre, des études sur de petits échantillons. Je ne sais pas si c’est pour aller à contre-courant ou pour faire réfléchir.
N’est-il pas étrange que, soudain, tous les pays occidentaux veuillent un verrouillage d’Internet au nom de la « protection des enfants » ?
Il doit certainement y avoir des groupes d’intérêts particuliers internationaux qui font du lobbying pour cela.
Dans le même temps, des années de recherches se sont accumulées montrant que les réseaux sociaux et d’autres phénomènes d’Internet ruinent la vie des enfants. Je ne suis pas opposé par principe à toutes ces lois, mais une bonne partie de leur mise en œuvre est trop défectueuse pour être considérée comme une simple erreur.
Le projet de loi concerné est ici : https://www.congress.gov/bill/119th-congress/house-bill/7757...
Vous pouvez trouver votre représentant sur congress.gov et le contacter. Le porteur du texte est Brett Guthrie (R-KY), et le co-porteur est Frank Pallone (D-NJ). Trouver un élu : https://www.congress.gov/
Les donateurs de Guthrie sont visibles ici, et Alphabet est le plus important : https://www.opensecrets.org/profiles/brett-guthrie
/us_congress/summary?mpid=1048046
Du côté de Frank Pallone, on voit AIPAC, Anthropic et Comcast : https://www.opensecrets.org/profiles/n00000781/us_congress/s...
Guthrie est 4e sur 7 dans le Kentucky, avec 42 k$ : https://www.trackaipac.com/states/kentucky
Pallone est 7e sur 10 dans le New Jersey, avec 241 k$ : https://www.trackaipac.com/states/newjersey
Avant, le conseil qu’on entendait en ligne était de ne pas donner ses informations personnelles
Maintenant, c’est devenu : « présentez vos informations personnelles si on vous les demande, sinon vous n’avez pas le droit »
Les parents peuvent déjà verrouiller les appareils Android ou iOS de leurs enfants s’ils le souhaitent
C’est tout de même mieux que rien, mais ça s’arrête là
Et encore faut-il que les contrôles parentaux de l’appareil fonctionnent correctement. Au moins sur iOS, ce n’est pas le cas [1]
Donner à un enfant accès aux réseaux sociaux devrait être puni comme le fait de lui donner de l’héroïne. Les parents qui abdiquent leur responsabilité parentale devraient être soumis au monopole étatique de la violence
Il faut appeler et envoyer des e-mails aux élus pour leur demander de ne pas faire adopter ce texte
Même si on y parvient, il faudra pousser son successeur à accomplir la tâche sisyphéenne de réécrire une législation populiste. La démocratie représentative ne suffit pas aux exigences de l’ère de l’information, car l’asymétrie d’information entre l’individu et l’État atteint un niveau sans précédent historique. Il est temps d’explorer d’autres modèles, comme la démocratie administrative
En fait, je ne suis même pas sûr que ce soit vrai. Je ne vois pas les parents réclamer ce genre de choses, cela ressemble à un mensonge commode de politiciens. Le taux de natalité est aussi sous le seuil de remplacement, donc la plupart des gens n’ont même pas d’enfants. Et pourtant nous devrions renoncer à nos libertés pour que d’autres élèvent de petits enfants chrétiens, ou quelque chose présenté sous ce prétexte ? J’ai grandi dans une famille protestante du Sud profond, et c’est grâce à un accès non filtré à Internet que je me suis intéressé aux STEM. Tomber par hasard, au début de l’adolescence, sur des sites choc ou du porno ne m’a pas transformé en cannibale sataniste. « Protéger les enfants » est un mensonge. Il s’agit de mettre une laisse à tous les citoyens américains. Ils classeront les gens par groupes, contrôleront les prêts et les emplois auxquels ils peuvent accéder, puis utiliseront ces informations pour les faire chanter s’ils se présentent un jour à une fonction publique ou acquièrent richesse et pouvoir. C’est une menace pour la démocratie et la liberté individuelle. La sécurité des enfants est un mensonge
Cela est rapidement compris comme une manœuvre en faveur de la surveillance de masse