Ce que nous appelons la « vérification de l’âge » est en réalité une surveillance de masse
(pluralistic.net)- Les débats sur la réduction des contenus nuisibles aux enfants sur les plateformes en ligne convergent vers une obligation de vérification de l’âge, mais sa mise en œuvre réelle s’apparente davantage à une surveillance de masse qui suit et enregistre l’activité de tous les utilisateurs
- Le camp anti-Big Tech et le camp de la guerre culturelle soutenu par la Heritage Foundation s’accordent, pour des raisons différentes, sur une limite d’âge minimale, mais ce moyen renforce par la loi l’infrastructure de traçage de l’industrie de la surveillance publicitaire
- La vérification de l’âge peut accroître le recours aux VPN comme moyen de contournement, puis déboucher sur des discussions autour de leur interdiction, au risque de voir la simple volonté d’échapper à l’atteinte à la vie privée devenir elle-même une cible
- La plupart des préjudices en ligne — recommandations de contenus toxiques, discrimination dans l’accès au crédit, à l’emploi ou au logement — reposent sur des données de surveillance
- Si l’on veut protéger les enfants de la surveillance, il faut réduire la surveillance ; prétendre les protéger en les surveillant davantage revient à avancer vers une criminalisation de la vie privée
La vérification de l’âge n’est pas une pièce d’identité pour Internet, c’est une infrastructure de surveillance
- Les recherches sur les dommages causés par les plateformes en ligne aux enfants sont complexes, mais il arrive que de petites études ambiguës soient utilisées comme des preuves définitives que les enfants sont détruits par Internet
- Des camps très différents arrivent à la même conclusion d’une limite d’âge minimale
- Les militants anti-Big Tech estiment que les plateformes ignorent le bien-être des utilisateurs
- Le camp de la guerre culturelle soutenu par la Heritage Foundation considère que si les enfants n’étaient pas exposés à des contenus LGBTQ, ils ne feraient pas leur coming out comme queer
- La « vérification de l’âge » sur Internet mène à une structure où tous les utilisateurs sont suivis et enregistrés de manière détaillée dans ce qu’ils font en ligne
- Cette approche est plus intrusive encore que la surveillance commerciale de l’industrie de l’ad tech, et pourrait créer un monde où le simple fait d’échapper au traçage devient illégal
VPN, estimation de l’âge par le visage et la chaîne contournement-interdiction
- Une obligation de vérification de l’âge peut fonctionner comme une politique publique qui apprend aux enfants à utiliser des VPN
- À l’étape suivante, une interdiction des VPN pourrait être envisagée ; des articles ont par exemple évoqué l’examen d’une telle interdiction au Royaume-Uni
- Le secteur technologique est critiqué pour agir comme un allié des camps qui poussent ces mesures, tout en sachant qu’une obligation de vérification de l’âge peut produire cet enchaînement
- Les entreprises d’estimation de l’âge par le visage, qui affirment pouvoir distinguer avec la caméra d’un téléphone un enfant de 17 ans et 364 jours d’un adulte venant tout juste d’avoir 18 ans, sont également pointées du doigt
- La ressource associée mentionnée est le document du gouvernement britannique sur la facial age estimation
Le point de départ des préjudices en ligne, ce sont les données de surveillance
- Si les enfants deviennent des cibles pour les algorithmes, c’est parce que des données de surveillance existent
- Les mécanismes qui mènent vers des contenus pro-ana ou des forums de misogynie extrême reposent eux aussi sur les données et les flux de recommandation créés par la surveillance commerciale
- Certains avancent que si les entreprises technologiques surveillent les enfants, c’est « parce qu’elles le peuvent, et que personne ne les en empêche »
- Les États-Unis n’ont pas mis à jour leurs lois de protection de la vie privée des consommateurs depuis l’interdiction, en 1988, de divulguer les historiques de location de VHS
- L’UE dispose du RGPD, mais le problème demeure que les affaires RGPD impliquant Big Tech ne sont pas correctement traitées en Irlande
L’échec des gouvernements et de l’application de la loi se déplace vers des lois sur la vérification de l’âge
- De nombreux pays ont, à des degrés divers, des lois sur la vie privée, mais leurs capacités d’application restent très inférieures à la puissance des géants technologiques américains
- Les géants technologiques américains se sont rapprochés de l’administration Trump, et certains craignent que Trump puisse sanctionner les pays qui tenteraient de les réguler
- Pour protéger les enfants des préjudices en ligne, il faut commencer par les protéger de la surveillance en ligne
- Pourtant, après avoir longtemps échoué à faire adopter et appliquer des contrôles sur la vie privée sur Internet, les gouvernements font désormais passer rapidement des lois de vérification de l’âge qui criminalisent la vie privée
- Le fait que ces projets de loi soient soutenus par des entreprises technologiques qui pratiquent beaucoup la surveillance et préfèrent le contrôle révèle bien la nature du problème
Les données de surveillance servent non seulement pour les enfants, mais pour tout le monde
- La surveillance en ligne nuit non seulement aux enfants, mais aussi aux adultes
- Quiconque pense qu’un algorithme a entraîné sa famille vers QAnon, ou soupçonne que des données de surveillance en ligne ont servi à refuser un crédit, un emploi ou un logement, devrait vouloir davantage de vie privée
- La surveillance en ligne peut aussi servir à augmenter le prix payé par l’utilisateur et à faire baisser le salaire qui lui est proposé
- Avertissement : les données utilisées aujourd’hui pour la « vérification de l’âge » pourraient demain servir à l’ICE pour identifier des cibles de contrôle
- L’exemple cité est un article de Wired sur le fait que l’ICE a interrogé des entreprises sur des outils d’ad tech et de big data
- La manière de protéger les enfants de la surveillance en ligne n’est pas de les surveiller davantage, et ce discours fonctionne comme une étape destinée à vendre encore plus d’outils de surveillance
1 commentaires
Commentaires Hacker News
La « vérification de l’âge » ne signifie pas forcément que toute personne faisant quoi que ce soit en ligne doive voir toutes ses activités suivies et enregistrées en détail
Comme cela a déjà été dit plusieurs fois, la vérification de l’âge n’a pas besoin de devenir une dystopie de surveillance 24 h/24 si l’on ne vise pas un taux de réussite de 100 %. Aucune autre loi n’a jamais atteint 100 % de succès, et il existe plusieurs propositions raisonnables capables d’être efficaces à plus de 90 % sans porter atteinte aux droits de quiconque
Beaucoup de gens au pouvoir le savent aussi, mais je suis persuadé qu’ils voient cette occasion comme un moyen d’imposer la version totalement dystopique
Si vous en savez assez pour estimer l’âge de quelqu’un, même avec une faible précision, vous en savez en général assez pour identifier de qui il s’agit
De nos jours, il est même souvent difficile de distinguer correctement les humains des bots. J’accepte que certains bots passent entre les mailles du filet, mais identifier les bots me paraît tout de même bien plus facile qu’identifier les enfants
Les utilisateurs ont déjà été conditionnés à accepter cette tendance, et presque personne ne semble intéressé par des méthodes qui collectent moins de données personnelles. Tout le monde veut seulement confier le traitement à un tiers pour se défausser de sa responsabilité
La vérification de l’âge n’est qu’un prétexte pour enrober le poison de sucre
Il n’y a besoin ni de son identité, ni de son âge réel, ni d’une solution cryptographique compliquée
Je pense que la Californie est sur la bonne voie. Il suffit de créer un moyen standard pour que le client indique que l’utilisateur n’est pas adulte, d’obliger les sites web à respecter ce drapeau, d’intégrer cette fonction dans les systèmes d’exploitation, puis de faire en sorte que les navigateurs l’utilisent
Au final, le propriétaire de l’appareil pourrait définir la tranche d’âge comme il le souhaite, et les parents pourraient simplement veiller à ce que leur enfant n’utilise qu’un appareil configuré comme ils le veulent. Les parents pourraient définir la tranche d’âge de leur enfant de 8 ans dans le groupe souhaité et avoir confiance dans le fait que les sites web la respecteront
On ne peut pas surveiller les enfants sans surveiller tout le monde, et de toute façon, ce qui les intéresse, c’est précisément la partie où l’on surveille tout le monde
Au bout du compte, ils veulent une surveillance faciale et biométrique en temps réel, 24 h/24, de toute personne utilisant un appareil approuvé, et faire en sorte que seuls les appareils approuvés puissent accéder au réseau et faire quoi que ce soit
Il y aura bien quelques marginaux courageux qui penseront pouvoir tenir dans leur sous-sol avec GhostBSD, mais comme le disait Gandalf, on peut s’enfermer soi-même à l’intérieur de la clôture, pas maintenir le monde dehors. Cela finira par arriver à tout le monde
En général, ce sont les parents qui contrôlent ce à quoi leurs enfants peuvent accéder, que ce soit l’appareil, le forfait de données ou le Wi‑Fi de la maison
Ce que les parents ne contrôlent pas ou ne peuvent pas contrôler ne sera résolu par aucune réglementation ni aucune technologie
Cela vaut non seulement pour les réseaux sociaux, mais aussi pour les drogues, l’alcool et le porno. Les lois et les pièces d’identité créent de la friction, et c’est une bonne chose, mais si un enfant le veut vraiment, il trouvera un moyen
Pour les réseaux sociaux, il y avait déjà de la friction sans nouvelles réglementations ni exigences d’identité. Pour y accéder, un enfant a besoin d’un appareil relativement coûteux et d’une connexion internet, et aucun des deux n’est gratuit
Le plus gros problème, c’est que contrairement à l’alcool, aux drogues et au porno, il existe des raisons plausibles pour lesquelles les enfants doivent utiliser les réseaux sociaux. Les équipes sportives, les cours de danse, les groupes de jeunes veulent communiquer et coordonner des groupes, et il arrive bien trop souvent que les adultes responsables gèrent cela via des applis comme Instagram. Au final, l’enfant se retrouve à avoir besoin d’un compte IG
C’est d’autant plus vrai que Meta rend de plus en plus difficile la consultation du contenu sans compte
Les publications peuvent apparaître avec plusieurs jours de retard, voire ne jamais apparaître, jusqu’à ce que l’algorithme les pousse vers les utilisateurs visés. À l’inverse, l’e-mail fonctionne toujours. Il existe aussi des services d’envoi massif de SMS
Les parents responsables ont toujours fortement protesté et demandé à tout gérer en se rencontrant en personne à heures fixes. Même avant cela, on s’inquiétait déjà du fait que les enfants restent enfermés à l’intérieur et deviennent accros au divertissement
Au final, cela a été balayé parce que la majorité paresseuse répétait sans réfléchir « qui s’en soucie ? » ou « toutes les générations disent ça en vieillissant ! », et les organisateurs y voyaient aussi une manière d’avoir moins de travail
Voilà où nous en sommes, et même les jeunes sont d’accord pour dire que c’est idiot
La préoccupation essentielle, c’est la transparence. Comment savoir que les classes dirigeantes et gouvernantes n’abuseront pas de ces systèmes de surveillance, ou ne s’excluront pas elles-mêmes de la surveillance ?
Si tout le monde subit la même surveillance et qu’il n’y a aucune exception, on peut considérer cela comme équitable. Mais si certains y échappent grâce à leurs relations ou à leur réseau, alors c’est injuste
Et si certaines personnes en position de surveiller peuvent harceler ou traquer d’autres personnes en raison de leur race, de leur religion ou de leur nationalité, c’est également injuste
Il faut une transparence totale
Dans une situation où la confiance entre l’État et les citoyens est déjà brisée, ou où les données peuvent être transmises à une future administration impossible à prévoir, l’argument du « faites-nous confiance » ne fonctionne pas
La meilleure façon d’obtenir ma confiance, c’est de ne pas vouloir ces données dès le départ
Certaines personnes vivent très bien en rendant leur vie très publique, tandis que d’autres préfèrent une vie bien plus privée
Même dans un enfer à la Orwell, il ne faudrait pas de profilage racial. Parce que là, vraiment, ce serait aller trop loin
Au Canada, on semble se diriger vers l’obligation pour les réseaux sociaux et les entreprises d’IA de mettre en place des systèmes empêchant les moins de 16 ans d’accéder aux contenus
Si une entreprise parvient à convaincre les autorités de régulation qu’elle met en place et maintient sur sa plateforme des garde-fous structurels alternatifs suffisants pour protéger les enfants, le gouvernement pourrait accorder une exception
L’entreprise devrait aussi le faire selon un principe strict de minimisation des données, et les résultats devraient être anonymisés puis détruits immédiatement une fois la vérification terminée
Internet est devenu assez décevant, et les réseaux sociaux en particulier. Si je dois téléverser une pièce d’identité ou mettre mes cheveux gris dans un scanner, alors ce site web ou cette app est mort pour moi, et j’utiliserai autre chose, ou rien du tout
Pareil pour moi. Je plaisantais souvent en disant qu’une fois à la retraite, je jetterais tous les ordinateurs de chez moi, mais le gouvernement va peut-être le faire à ma place
Je ne remettrai pas ma pièce d’identité à un site web. C’est une ligne rouge infranchissable
Je ne pense pas que la préoccupation centrale soit de protéger les enfants de la surveillance. La plus grande inquiétude, c’est l’impact négatif direct de l’usage lui-même sur les enfants
Bien sûr, ça ne veut pas dire que la vérification de l’âge ne pose pas problème
Les réseaux sociaux surveillent ce que regardent les utilisateurs, puis leur envoient davantage de la même chose, et transmettent aussi cette information à d’autres pour qu’eux aussi envoient plus de la même chose
Toute tentative de modération du contenu est une perte de temps totale
Nous sommes fichus. Les jeunes élèves à qui j’enseigne sont complètement habitués à être surveillés par GoGuardian à l’école
Les administrateurs insistent sans cesse sur la nécessité d’autopsier internet et traitent les Chromebook non pas comme des ordinateurs, mais comme des appareils de consommation de médias. J’ai entendu dire que ce sera encore pire ici l’an prochain, sans voir comment cela pourrait l’être davantage
Ces gens sont tellement obsédés par l’atténuation des risques que cela ne vaut même plus la peine d’enseigner la technologie. Il ne doit pas y avoir de risque, tout doit être contrôlé à 100 % en permanence
J’avais tout écrit en long, puis j’y ai repensé et j’ai supprimé. Je n’écris presque jamais, mais ça touche trop directement à ce sur quoi j’ai travaillé
J’ai envie de rester en vie et de continuer tranquillement à travailler dans la robotique et l’IA, donc je ne raconterai pas l’histoire
Si un gouvernement affirme qu’une technologie de vérification de l’âge est destinée à protéger les enfants, cette idée ne vient presque certainement pas de lui. Il agit plutôt comme une marionnette sous l’inclinaison du véritable pouvoir des entreprises et de l’ombre des sous-traitants et des services de renseignement
J’ai déjà vu le même type de récit se dérouler en coulisses dans un projet aux États-Unis. Je travaille encore aujourd’hui avec des systèmes similaires et des courtiers en données
À présent, je veux partir pour construire avec mes compétences des choses qui aident réellement les gens qui en ont besoin, les PME et les consommateurs notamment. Je suis épuisé
J’ai tout fait, alors si vous recrutez un magicien technique de startup bosseur, contactez-moi
Ça me rappelle la fois où on m’a refusé l’entrée dans une boîte de nuit aux États-Unis parce que j’avais oublié mon passeport. J’avais une pièce d’identité européenne et j’étais dans la quarantaine, et malgré ça
Même hors ligne, la vérification de l’âge devient déjà souvent un contrôle rigide de pièces d’identité approuvées. En ligne, le problème semble pire encore, parce que la procédure de vérification peut devenir une couche d’identité persistante à l’échelle de tout le web
On ne vous demande une pièce d’identité que dans les endroits où il y a un agent de sécurité à l’entrée, et encore seulement quand c’est très bondé. Eux aussi sont surtout là pour empêcher les ados d’entrer et calmer les bagarres, et ils jettent juste un coup d’œil d’une seconde à la carte pour éviter le risque d’enfreindre la licence de vente d’alcool
Certaines boîtes de nuit, je n’ai pas vu ça en Californie mais je l’ai vu à NYC et à Miami, font souvent des trucs bizarres avec les hommes. Si vous arrivez entre hommes, on ne vous laissera probablement pas entrer. Il faut un ratio hommes-femmes équilibré. Les groupes de femmes seules entrent presque sans contrôle
Le problème fondamental, c’est qu’on fournit une infrastructure susceptible d’être détournée à l’avenir par des gouvernements glissant vers l’extrême droite, l’extrême gauche ou l’autoritarisme
Par exemple, la Russie a créé une infrastructure de blocage de sites web au nom de la sécurité des enfants, mais elle a ensuite commencé à être utilisée beaucoup plus largement
Pour être honnête, le seul moment où nous semblons nous soucier d’être pistés, c’est, bizarrement, quand il s’agit d’accéder au porno. Et pour être encore plus honnête, même là, nous sommes déjà pistés