- Le projet de loi européen sur le scan des CSAM pourrait obliger les services de messagerie à inspecter automatiquement les communications des utilisateurs, transformant une mesure de protection de l’enfance en débat sur les limites des droits fondamentaux dans une société démocratique
- Il pourrait exiger la détection de CSAM connus et inconnus, ainsi que du grooming en temps réel, et ses détracteurs craignent que les communications privées de tous les utilisateurs n’entrent dans un dispositif de surveillance non ciblée
- L’enjeu juridique ne se limite pas à la proportionnalité, mais touche à une éventuelle atteinte à l’essence même des droits fondamentaux ; selon Frederik Borgesius, l’accès à grande échelle au contenu des communications pourrait porter atteinte à l’essence du droit à la vie privée
- La détection par IA et le scan côté client ne sont pas prêts pour un déploiement massif et, en raison des faux positifs, des contournements et des possibilités de manipulation, peuvent causer des préjudices involontaires aux enfants comme aux adultes
- La protection du chiffrement de bout en bout, les enquêtes ciblées, l’exploration des contenus web publics, ainsi que le renforcement de la prévention, du soutien aux victimes et de la coopération policière sont cités comme alternatives, plaçant les législateurs européens face à la nécessité de réécrire en profondeur les dispositions sur les ordres de détection
Points clés de la proposition européenne de scan des CSAM
- Le projet de loi sur le scan des CSAM discuté en Europe pourrait imposer aux services de messagerie d’examiner le contenu des communications des utilisateurs
- Cela couvrirait les CSAM connus, les CSAM inconnus et même la détection du grooming en temps réel
- Dans les applications visées par un ordre de détection, toutes les communications des utilisateurs pourraient être surveillées de manière automatique et non ciblée
- Lors d’un séminaire organisé par le European Data Protection Supervisor, plus de 20 intervenants se sont opposés à cette proposition
- Le séminaire a duré environ 3 heures
- Ylva Johansson, de la European Commission, avait été invitée mais n’a pas participé, et aucun autre représentant de la Commission n’était présent
- La Commission affirme que cette proposition constitue une réponse proportionnée et ciblée à un problème croissant
- Il a aussi été relevé que des publicités en microciblage ont récemment été utilisées pour promouvoir ce projet
- L’UE examine par ailleurs un autre texte visant à limiter l’usage du microciblage politique
Le EDPS met en garde contre un point de bascule pour la vie privée
- Wojciech Wiewiórowski, du EDPS, a averti que si une loi imposant une surveillance systématique de masse des messageries privées était adoptée, l’UE pourrait atteindre un point de non-retour
- La proposition ne concerne pas seulement la « protection de l’enfance », mais ébranle le socle même sur lequel repose la vie privée dans une société démocratique
- Si elle était adoptée sans modification, elle pourrait transformer fondamentalement la nature d’internet et des communications numériques
- Le EDPS et le European Data Protection Board avaient déjà indiqué, dans un avis commun publié un an plus tôt, que ce texte soulevait de graves inquiétudes en matière de protection des données et de vie privée, y compris concernant le chiffrement
Proportionnalité juridique et atteinte à l’essence des droits fondamentaux
- La Commission a présenté en mai 2022 un projet de règlement sur les CSAM, et l’opposition sur ses effets en matière de droits humains et de légalité s’est depuis renforcée
- Le droit européen exige que les restrictions aux droits fondamentaux, comme la vie privée et la liberté d’expression, soient nécessaires et proportionnées
- Il est interdit d’imposer aux plateformes en ligne une obligation générale de surveillance des contenus
- Une loi qui ferait, par conception, des messages de centaines de millions d’Européens un objet de surveillance pourrait entrer en conflit avec ce principe
- Frederik Borgesius, de la Radboud University, estime que cette proposition ne constitue pas une limitation proportionnée des droits fondamentaux
- Il a pris comme point de comparaison les affaires de conservation de données liées au terrorisme et a rappelé que la plus haute juridiction de l’UE a invalidé à plusieurs reprises la conservation générale et indiscriminée des métadonnées des Européens
- La proposition actuelle va plus loin, puisqu’elle vise non pas les métadonnées mais l’analyse du contenu des communications
- Pour Borgesius, du point de vue de la Charte des droits fondamentaux de l’UE, une atteinte à l’essence même d’un droit fondamental peut rendre une mesure illégale sans même passer par un examen de proportionnalité
- Si les autorités peuvent accéder à grande échelle au contenu des communications, cela peut être assimilé à une atteinte à l’essence du droit à la vie privée
Objectif de protection de l’enfance et risques de préjudices réels
- Plusieurs intervenants ont critiqué cette proposition, estimant qu’elle n’est pas adaptée à la complexité sociale des violences sexuelles sur mineurs
- Une part importante des images sexuelles impliquant des mineurs partagées en ligne pourrait provenir de sexting consensuel entre mineurs
- Dans ce cas, le texte pourrait conduire à enquêter sur des enfants qui explorent leur identité sexuelle, voire à les criminaliser
- Il est difficile de déterminer si une image relève ou non du CSAM à partir de l’image seule ; le contexte est essentiel
- Arda Gerkens, des Pays-Bas, considère que le scan des communications privées peut repérer certains cas problématiques, mais qu’il ne constitue pas une solution aux violences sexuelles sur enfants
- Elle soutient un scan ciblé des CSAM connus sur les sites d’hébergement d’images afin d’empêcher leur diffusion
- Elle y voit toutefois un outil de prévention de la diffusion, et non de poursuite pénale
- Gerkens souligne que la proposition de la Commission se concentre excessivement sur les communications privées et les poursuites ultérieures, plutôt que sur les sites d’hébergement d’images
- Le volume d’images pourrait submerger les systèmes existants et accentuer la pression sur des dispositifs policiers déjà fragiles
- Un meilleur investissement pourrait être le renforcement de la coopération entre États membres de l’UE et des systèmes de law enforcement
Chiffrement de bout en bout et approche centrée sur la prévention
- Susan Landau, de Tufts University, estime que la proposition de la Commission ne distingue pas suffisamment les différents types de violences et d’exploitation sexuelles sur enfants qui se produisent sur internet
- Une approche centrée sur l’enquête et les poursuites peut se heurter à des limites dans de nombreux cas
- Dans l’écrasante majorité des affaires de trafic sexuel via internet, l’auteur est une personne proche de la victime, et celle-ci peut ne pas vouloir signaler les faits
- Ce qu’il faut, ce sont des espaces sûrs pour les enfants, des espaces communautaires, une éducation à la sécurité en ligne, une formation à la sécurité et un design sûr
- Landau estime qu’il existe de nombreuses méthodes de prévention et d’enquête sur les violences sexuelles sur enfants qui ne sont pas affectées par le chiffrement de bout en bout
- Le chiffrement de bout en bout est une technologie qui protège à la fois les enfants et les adultes
- Helen Charles, de WhatsApp, explique que la plateforme de messagerie détenue par Meta soutient l’objectif de lutte contre les violences sexuelles sur enfants, mais juge l’approche de la Commission mal adaptée au problème et susceptible d’entraîner d’importantes conséquences involontaires pour les internautes de tous âges
- Le scan du contenu des messages chiffrés de bout en bout affaiblit les droits fondamentaux
- Il faut des conditions raisonnables et proportionnées permettant aux services de lutter contre les CSAM sans accéder au contenu des messages
- Charles propose d’autoriser, dans le cadre de la ePrivacy Directive de l’UE, un usage accru des données de trafic, c’est-à-dire des métadonnées, par les plateformes à des fins de prévention
- L’exception ePrivacy temporaire actuelle ne couvre que la détection, le signalement et la suppression des CSAM dans les messages non chiffrés de bout en bout, sans inclure la prévention
- Meta affirme identifier les comportements problématiques, là où la loi l’autorise, à l’aide de techniques incluant les données de trafic
Limites techniques de la détection par IA et du scan côté client
- Jaap-Henk Hoepman, de Karlstad University, souligne que les technologies de détection des CSAM sont propriétaires, ce qui rend difficile toute vérification indépendante des affirmations sur leur précision
- PhotoDNA de Microsoft et NeuralHash d’Apple ne sont pas des algorithmes publics pouvant être étudiés
- Il faut donc se fier aux chiffres d’efficacité fournis par les entreprises
- Hoepman affirme que des recherches ayant procédé à de la rétro-ingénierie sur PhotoDNA ont révélé des défauts fondamentaux
- Des éléments indiquent qu’il est facile d’échapper à la détection d’empreintes de CSAM connus en faisant pivoter une image ou en l’inversant horizontalement
- Un attaquant pourrait manipuler des images apparemment inoffensives pour qu’elles soient détectées comme CSAM, afin d’accuser à tort des innocents ou de saturer les systèmes de détection
- Alexander Hanff a averti que, dans un contexte où des dizaines de milliards de communications sont scannées chaque jour, un taux d’erreur de 0,1 % suffirait à produire des millions de faux positifs ou de faux négatifs quotidiens
- Claudia Peersman, de la University of Bristol, a présenté les résultats d’une évaluation du Rephrain Centre
- Cinq projets de preuve de concept de scan des CSAM en environnement E2EE, développés avec le soutien du gouvernement britannique, n’ont pas satisfait aux critères d’évaluation
- Elle ne s’oppose pas au développement d’outils de protection de l’enfance en ligne assistés par IA, mais estime qu’ils ne sont pas prêts pour un déploiement à grande échelle dans des messages privés chiffrés de bout en bout
- Matthew Green, de la Johns Hopkins University, explique que la recherche sur le scan côté client en est encore à un stade très précoce
- Le premier article de recherche en informatique sur le sujet date de 2021, et moins de deux ans plus tard on discute déjà d’une loi qui l’imposerait
- Les chercheurs continuent de découvrir des moyens de casser ces systèmes, ce qui peut entraîner des atteintes à la confidentialité des utilisateurs, des faux positifs et l’injection de mauvaises données
- Il faut du temps pour déterminer s’il est possible de les mettre en œuvre de manière sûre
Une législation qui omet les droits et la parole des enfants
- Plusieurs intervenants ont reproché aux législateurs de ne pas traiter suffisamment les opinions et les droits des enfants
- Gerkens estime que les enfants n’ont pas été associés au processus législatif alors même que les adultes jugent ce qu’ils font en ligne
- Sabine Witting, de Leiden University, considère que la proposition a des effets négatifs sur la vie privée des enfants, la protection de leurs données, leur liberté d’expression et leur droit d’accès à l’information
- Le General Comment No. 25 du Comité des droits de l’enfant de l’ONU considère la vie privée comme essentielle à la sécurité des enfants
- La vie privée n’est pas un obstacle à la sécurité des enfants, mais une condition préalable importante
- Witting estime que si des messages privés entre adolescents sont captés par le scan CSAM, l’enquête elle-même peut être nuisible
- Cela peut notamment conduire à une divulgation forcée, à une marginalisation supplémentaire, voire dans le pire des cas à une persécution politique de jeunes issus de communautés marginalisées comme les enfants LGBTQ+
- Le scan des communications privées, l’examen supplémentaire par le secteur privé et les autorités publiques, ainsi que l’intervention des forces de l’ordre constituent une atteinte grave au droit à la vie privée des enfants
- Ella Jakubowska, de EDRi, a cité une enquête représentative menée auprès de jeunes de 13 à 17 ans dans 13 États membres de l’UE
- 80 % ont répondu qu’ils ne se sentiraient pas à l’aise dans leurs activités politiques ou leur exploration sexuelle si les autorités pouvaient surveiller leurs communications numériques à des fins de scan des CSAM
Surveillance numérique sans mandat et crainte d’un élargissement de mission
- Iverna McGowan, du Center for Democracy and Technology, estime que les ordres de détection reviennent à des perquisitions sans mandat dans le monde numérique
- De la même manière qu’on n’accepterait pas que les forces de l’ordre entrent dans une maison ou un espace privé sans mandat ni soupçon raisonnable pour tout fouiller, cela ne devrait pas être permis non plus en ligne
- McGowan juge que les dispositions sur les ordres de détection doivent être entièrement réécrites
- Elles doivent être suffisamment précises pour ne pas s’appliquer à des personnes qui ne sont soupçonnées d’aucun crime
- Elles doivent exiger l’autorisation d’une autorité judiciaire indépendante ainsi qu’une vérification de l’objet et du fondement du soupçon
- Elles doivent aussi inclure une évaluation indépendante de la proportionnalité
- Plusieurs intervenants ont exprimé des inquiétudes sur un possible élargissement de mission autour d’Europol
- Selon des documents obtenus par la presse, Europol aurait souhaité un accès sans filtre aux données obtenues dans le cadre de la proposition de scan des CSAM
- La députée européenne Saskia Bricmont estime qu’Europol cherche à devenir un hub de données et à étendre et renforcer sa mission
- La proposition initiale de la Commission prévoyait que tous les signalements non « manifestement infondés » soient envoyés simultanément à Europol et aux autorités nationales
- Bricmont estime qu’Europol a poussé à étendre la détection au-delà du seul CSAM à d’autres catégories d’infractions
Une crise de confiance entre la Commission et ses critiques
- Le séminaire s’est tenu deux jours avant l’audition de Ylva Johansson devant la commission des libertés civiles du European Parliament
- Les critiques estiment que Johansson et la Commission n’ont pas fait preuve d’une transparence et d’une responsabilité suffisantes sur cette proposition controversée
- Bricmont critique le fait d’utiliser le sujet sensible des violences sexuelles sur enfants pour faire avancer un plan de surveillance généralisée ayant un impact majeur sur les droits fondamentaux de centaines de millions d’Européens
- Elle affirme qu’il faut en savoir davantage sur l’enquête de BalkanInsight et sur de potentiels conflits d’intérêts
- Selon elle, l’absence de la Commission alimente le manque de dialogue et les soupçons
- Dans un billet de blog, Johansson a critiqué les attaques personnelles à son encontre et les accusations de lobbying opaque
- Elle a mentionné que EDRi, l’une des principales ONG européennes de défense des droits numériques, reçoit des financements d’Apple, suggérant que l’opposition de la société civile pourrait représenter les intérêts de la Big Tech
- Jakubowska estime que la Commission présente à tort un choix entre vie privée et sécurité
- Vie privée et sécurité se renforcent mutuellement
- Elle avertit aussi de risques pour le secret professionnel, par exemple la confidentialité avocat-client, ainsi que d’entraves possibles à l’accès des survivants à la justice
Alternatives : enquêtes ciblées, nettoyage des contenus publics et design sûr
- Le député européen Patrick Breyer décrit cette proposition comme quelque chose de « sans précédent dans le monde libre » et l’a qualifiée de « Chatcontrol »
- Il estime qu’au lieu de polariser le débat, il faut conserver ce qui fait consensus et ajouter de nouvelles approches efficaces
- L’orientation proposée par Breyer consiste à supprimer les ordres de détection, au cœur de la controverse, et à cibler davantage les mesures
- Le scan des communications devrait être strictement limité aux personnes soupçonnées d’être impliquées dans l’exploitation sexuelle d’enfants
- La détection volontaire non ciblée pose les mêmes problèmes de proportionnalité que la détection obligatoire
- Le scan côté client, qui transforme les appareils personnels en scanners, devrait être explicitement exclu
- Comme alternative à la surveillance de masse, il propose le crawling préalable des contenus accessibles publiquement
- Cette pratique existerait déjà au Royaume-Uni et au Canada
- Un nouveau Centre de l’UE pourrait se concentrer sur le nettoyage du web public, la prévention de la criminalité, le soutien aux victimes et les bonnes pratiques pour les forces de l’ordre
- Breyer estime qu’il faut mettre l’accent sur un design sûr plutôt que sur une vérification d’âge obligatoire
- Il soulève des questions de conception telles que le fait de limiter par défaut les profils au mode privé, de permettre ou non à n’importe qui d’envoyer des photos à un nouvel utilisateur, ou de laisser l’utilisateur choisir s’il veut voir des images de nudité
- La prévention des violences sexuelles sur enfants ne peut pas reposer uniquement sur des approches techniques ; les solutions non techniques sont essentielles
- Si les législateurs échouent à adopter des amendements raisonnables, il pourrait être mis fin aux véritables messages privés confidentiels et au chiffrement sûr, ouvrant la voie à l’introduction de méthodes autoritaires sans précédent dans une démocratie
1 commentaires
Avis de Hacker News
« Le simple fait que des gens voient ces images est précisément l’acte que la Commission cherche à combattre, et constitue en soi une forme d’abus. Donc, si l’on prend des photos inoffensives partagées entre personnes consentantes et qu’on les expose potentiellement à des centaines de personnes dans le cadre d’une procédure d’enquête, on finit en réalité par créer davantage de victimes »
C’est le point central. Ce plan ne se contente pas d’avoir beaucoup d’effets secondaires : il nuira réellement aux personnes mêmes qu’il prétend protéger.
Plus sérieusement, chaque fois que quelqu’un justifie une action par un appel émotionnel simpliste du type « pensez aux enfants » ou « pensez aux terroristes », je n’y vois rien d’autre qu’une manipulation bas de gamme.
À mon avis, les partisans du texte devraient étayer leurs arguments de sécurité par des chiffres précis. On nous demande d’abandonner trop de choses sans assumer de responsabilité, et je ne pense pas que les dommages soient inférieurs aux bénéfices.
Par exemple, le Patriot Act n’a pas provoqué de vague de répression du terrorisme ; il a surtout facilité des violations massives des droits humains, et les droits retirés n’ont jamais été rendus. Même chose pour le renforcement massif de la sécurité dans les aéroports : je ne sais pas combien de terroristes ont été arrêtés avec un coupe-ongles, mais la plupart des tentatives d’attentat semblent pouvoir être dissuadées par des moyens moins intrusifs.
Le cran au-dessus, ce sont les personnes qui doivent repérer, dans les publications sur les réseaux sociaux, les violations les plus horribles des conditions d’utilisation : images de violence extrême, de sang et d’atrocités. Beaucoup de gens dans ces postes ont besoin de beaucoup de thérapie pour tenir le coup, mais malheureusement il semble que beaucoup n’y aient pas accès.
Devoir regarder toute la journée des contenus CSAM présumés pour décider s’ils sont autorisés ou non ? Il est difficile d’imaginer l’effet que cela aurait sur une personne.
Le CSAM n’est qu’un écran de fumée. L’objectif, c’est la surveillance, et si ce texte passe en force, son champ sera rapidement étendu pour couvrir absolument tout.
Franchement, je ne vois plus l’UE comme un bien public. Cela fait déjà assez longtemps que c’est le cas ; elle a dégénéré en technocratie bureaucratique.
Avant que quelqu’un ne dise « on peut voter pour le Parlement, et même pour l’un des membres de la Commission, donc tout va bien », oui, je le sais. Mais cela n’améliore rien. Dans sa mise en œuvre actuelle, la démocratie est tellement indirecte qu’on pourrait presque s’en passer. Des textes comme celui-ci continueront d’être proposés jusqu’à ce que l’un d’eux passe. Je ne peux pas soutenir ça.
Il faut l’empêcher, mais j’ai peur que cela finisse par arriver quelque part. Une fois mis en place dans certains pays occidentaux, les autres disposeront d’un plan à copier. Les citoyens se font avoir partout, et beaucoup de gens, y compris parmi les profils techniques et pas seulement les non-techniciens, voient cela comme une bonne chose. Des amis aux États-Unis, au Royaume-Uni et en Australie applaudissent aussi l’arrivée de ce type de mesures dans leur pays. Au nom des enfants.
Malheureusement, personne ne prend ce problème suffisamment au sérieux pour lancer, dans les États membres, de grandes campagnes de publicité et de télévision expliquant que c’est mauvais pour tout le monde et que cela n’aide pas non plus les enfants.
Je pense que cette tentative de scan côté client va s’effondrer, et j’espère d’autant plus que ce sera le cas. Non seulement parce qu’elle détruit manifestement les libertés civiles dans l’UE, mais aussi parce que, même mise en œuvre, elle est vouée à l’échec.
L’idée de base ne fonctionne ni contre le CSAM ni contre aucun scénario d’utilisateur hostile. Mais mes espoirs n’ont pas un très bon historique face à la réalité législative.
On ne peut pas faire confiance au client. Sans même parler du fait que les innombrables services existants et futurs ne l’implémenteront tout simplement pas, des versions d’apps débarrassées de cette télémétrie deviendront relativement faciles à obtenir. Par exemple, comme la relation entre VScode et VScodium, on verrait apparaître WhatsApp et WhatsAppium.
Il faut aussi penser aux possibilités de spoofing. Quelqu’un pourrait envoyer un message à une personne pour obtenir son ID client, puis signaler que ce client a détecté le pire contenu CSAM imaginable.
Il faut penser aux faux positifs. Il faut penser aux coûts. Il faut penser aux enfants. Aux enfants dont les parents non abuseurs s’enverront des photos ordinaires mais ambiguës, se retrouveront harcelés pour soupçon de CSAM, et dont certains seront séparés de leurs enfants.
L’adoption de cette loi serait un énorme gaspillage du temps des législateurs, qui pourrait être mieux employé. La mise en œuvre de cette directive consommerait une quantité énorme d’argent et de savoir-faire pour construire un système défectueux et exploitable. Son application créerait une quantité incalculable de souffrances sans rapport avec le CSAM. Et après l’arrestation des premiers criminels, il est très probable que les acteurs hostiles se contentent d’utiliser d’autres canaux.
Mais d’ici là, le sujet de conversation sera passé au scan côté client des pensées.
Je me demande comment des faux positifs pourraient, selon vous, conduire à une séparation d’avec les enfants.
Même les personnes effectivement condamnées pour possession de CSAM ne perdent pas nécessairement aujourd’hui leur droit d’accès à leurs enfants.
« CSAM connu et inconnu »
Quand on voit où en est aujourd’hui l’IA d’image, il est évident que cela produira une quantité énorme de faux positifs. En fait, si ce n’est pas déjà le cas, il deviendra bientôt impossible de filtrer les faux positifs eux-mêmes. Ce plan ressemble à une tentative de rejouer la guerre précédente alors qu’un problème bien plus vaste et différent arrive.
Résultat : beaucoup de gens seront signalés à cause de photos de leurs propres enfants. Parce que presque tous les parents ont quelque part des photos de leurs enfants nus.
Je pense que les discussions visant à expliquer pourquoi ce genre de mesure ne serait pas efficace pour réduire les CSAM, ou pourquoi il y aurait trop de faux négatifs ou trop de faux positifs, passent à côté de l’essentiel
Les législateurs s’intéressent sans doute à la réduction des abus sexuels sur enfants, mais ils s’en servent surtout comme prétexte pour accroître la surveillance et le contrôle des citoyens. Ce n’est rien d’autre qu’une tentative de rendre obligatoire un logiciel côté client contraire aux intérêts du propriétaire du matériel
Une fois ce logiciel installé, il devient beaucoup plus facile d’élargir le périmètre des exigences, que ce soit par la loi ou par des arrangements opaques, à des choses que le grand public n’approuverait pas
Le scan côté client ne peut pas fonctionner, et ne fonctionnera pas
Il n’existe aucun scénario où le scan côté client fonctionne, à moins d’empêcher les utilisateurs de modifier quoi que ce soit dans le système. Ils ne doivent pouvoir modifier ni les images, ni le logiciel
Il faut garder cela en tête. La seule chose qu’il saura bien faire, c’est identifier les citoyens honnêtes et respectueux de la loi qui défendent des causes politiques non alignées avec le gouvernement en place. Si cela passe, la véritable démocratie capable de mettre fin à des lois impopulaires approuvées par l’État, comme les lois racistes ou la prohibition, mourra dans l’UE
La European Commission est ivre de pouvoir
On dit qu’il ne faut jamais gaspiller une bonne crise. Il est bien documenté que les situations de crise sont l’occasion idéale pour les gouvernements de pousser ouvertement des lois antidémocratiques et anti-citoyens. Ces lois érodent les libertés et transfèrent la richesse des pauvres vers les riches, tandis que la crise offre le prétexte parfait pour court-circuiter le processus démocratique habituel, long et approfondi, où chacun prend le temps de décortiquer, d’analyser et de débattre
Les crises récentes n’ont pas manqué : Covid, inflation, vagues de réfugiés, guerre en Ukraine, guerre en Israël
« Pauvre contribuable, ne réfléchis pas trop. De toute façon, tu ne comprends pas ce problème. Il est trop complexe, et en plus tu es trop distrait et inquiet à cause du virus / de l’inflation galopante / du coût de la vie / de la guerre pour avoir le temps de penser à de petits sujets comme ta vie privée. Alors installe-toi, inquiète-toi plutôt de ton loyer, et laisse-nous protéger ta vie privée en ligne, d’accord ? »
Les services d’enquête adorent le fait qu’une grande partie de nos vies soit désormais entre les mains de tiers et donc plus facile d’accès, et depuis que l’individu moyen peut utiliser le chiffrement pour ses communications, les attaques contre le chiffrement n’ont jamais cessé
Au passage, c’est aussi une question à laquelle toute personne qui développe des logiciels de protection de la vie privée devra un jour se confronter si elle prend ses objectifs au sérieux. Si l’outil est assez puissant pour protéger des journalistes sous un régime hostile, ou n’importe quel groupe opprimé de votre choix, il est aussi assez puissant pour protéger des criminels qui font des choses que vous détestez personnellement
Les organisations qui poussent ce genre de mesures attirent naturellement des personnes avides de pouvoir, qui voient la majorité des gens non comme des semblables, mais comme des sujets à gouverner
Cela fonctionne de la même manière partout. Ce n’est pas un problème propre à l’Europe
Toute la logique peut se résumer ainsi
Avec la technologie actuelle, il est impossible de faire disparaître complètement l’existence même d’une photo ou d’une vidéo. Tant qu’Internet existe et que des gens peuvent accéder à des contenus interdits, ces contenus interdits continueront à circuler
Pour lutter contre cela, l’État doit se voir accorder des pouvoirs extraordinaires lui permettant de regarder dans les appareils et les comptes des gens, et d’examiner leurs fichiers, afin de poursuivre ceux qui possèdent des contenus interdits. Et l’État promet vraiment, vraiment que les seuls contenus que nous interdirons seront la pornographie infantile, et absolument rien d’autre. Bien sûr, lorsque nous chercherons plus tard à étendre ces pouvoirs, il sera en réalité impossible de nous en empêcher. Et nous le ferons évidemment
C’est une tentative de résoudre le bon problème, les abus sexuels sur enfants, mais la méthode est évidemment mauvaise.
C’est un peu comme si, il y a 30 ans, on disait : « comme des gens enregistrent ces abus sur des cassettes VHS, il suffit d’en parler à Sony et Scotch pour qu’ils trouvent un moyen de l’empêcher ». En réalité, la situation actuelle est un peu plus réaliste, mais le principe reste le même. La prévention des abus sexuels sur enfants devrait être une priorité extrêmement importante et élevée pour tous les gouvernements et tous les citoyens.
S’il existait une méthode certaine et garantie, il faudrait la mettre en œuvre dès demain, quel qu’en soit le coût.
Mais en pratique, nous ne savons pas vraiment comment faire. Il s’agit d’un problème qui nécessite une combinaison de réformes de la santé mentale, de vastes réformes de l’éducation et de réformes de l’aide sociale à l’enfance, afin que les enfants réellement en danger soient protégés, tout en étendant cette protection significative à tous les enfants.
Si quelqu’un a une idée intelligente, je suis intéressé.
Pas du tout.
Quand une nouvelle loi ou un nouveau programme est annoncé au nom de la lutte contre le terrorisme, les abus sur enfants ou la drogue, mais que son champ d’application réel dépasse le terrorisme, les abus sur enfants ou la drogue, on est en train de vous manipuler pour vous faire voter contre vos propres intérêts. 100 % du temps.
« Nous garantissons la vie privée grâce à des algorithmes intelligents embarqués. Les données de votre enfant ne sont jamais téléversées tant que l’IA embarquée ne détecte pas une situation d’abus. Et, à part les abuseurs, qui voudrait empêcher l’envoi de telles données ? »
Il faudrait que la montre vérifie en permanence si elle a été retirée et, si c’est le cas, qu’elle téléverse les 30 dernières secondes de vidéo pour identifier qui l’a retirée.
Si c’est l’enfant ou les parents qui l’ont retirée, les parents se verraient infliger une amende, et l’enfant aurait un entretien obligatoire avec les services de protection de l’enfance pour déterminer la « vraie » raison du retrait.
Il suffirait d’en fournir deux par enfant pour la recharge. L’une serait toujours en charge, l’autre portée. Si la montre portée détecte que l’autre n’est pas en charge, elle envoie une notification à l’utilisateur. Si la situation n’est pas corrigée dans un certain délai, cela devient une infraction.
Les retraits répétés ou les infractions de type « batterie déchargée accidentellement » entraîneraient des amendes de plus en plus élevées et, potentiellement, le retrait de l’enfant à ses parents.
Tout cela est possible avec la technologie actuelle. Il ne resterait qu’à fabriquer le consentement à partir de quelques affaires très médiatisées où une smartwatch aurait sauvé un enfant de parents abusifs, ou où la police aurait récupéré un enfant lors d’une tentative d’enlèvement grâce au suivi par smartwatch, afin d’en tirer la leçon que « tous les enfants ont besoin d’un tel suivi ».
Vraiment ? Le fait de punir la possession de CSAM a-t-il réellement un effet sur le taux d’abus sexuels sur enfants ?
Je ne dis pas qu’il ne faut pas criminaliser le CSAM, mais existe-t-il la moindre donnée indiquant que punir les types de personnes qui se feraient attraper en scannant du stockage cloud ait réellement un effet sur le nombre d’enfants victimes ?
Sinon, tout ce que cette mesure accomplit, c’est l’acte satisfaisant consistant à mettre des pédophiles en prison. Mais ce qui m’inquiète, ce ne sont pas les pédophiles en tant que tels ; ce sont les violeurs d’enfants et les producteurs de pédopornographie qui commettent effectivement des crimes contre des enfants.
Je ne sais pas quel effet le fait de traquer les utilisateurs finaux aurait sur la chaîne d’approvisionnement. En revanche, si l’on permet de traquer les utilisateurs finaux, je vois un million de façons pour l’État d’obtenir le droit de fouiller des gens au motif de presque n’importe quel crime qu’il aura jugé important. Si on autorise cela, la probabilité que ce soit étendu au-delà du CSAM en quelques années est de 100 %.
Et, pour commencer, il n’est même pas nécessaire qu’un « contenu » existe. L’enregistrement n’est qu’une option, et je ne vois rien qui traite ce problème.
La proposition actuelle ne sera pas adoptée en l’état. Plusieurs États membres, dont les Pays-Bas, l’Espagne et la Pologne, s’y opposent, et elle est très probablement illégale.
Pour être adoptée, elle devra être profondément remaniée. Ces changements rendront probablement une proposition déjà inutile encore plus inutile, mais espérons qu’au moins cette fois-ci, ils nous épargneront la backdoor sur la vie privée/le chiffrement.
Cela ne doit être adopté sous aucun prétexte, et l’ensemble doit être rejeté. Il n’y a pas de compromis possible.