- La Médiatrice européenne a estimé que le fait pour la European Commission d’avoir caché l’existence d’une liste d’entreprises consultées à titre technique en répondant à une demande de documents sur le projet de règlement CSAM constituait un cas de « maladministration »
- Cette liste concernait les acteurs consultés sur la question de savoir s’il est possible de détecter du CSAM sans compromettre le chiffrement, et a été jugée comme entrant clairement dans le champ de la demande de documents de l’ICCL
- Des technologues d’intérêt public et plus de 450 universitaires ont averti que la technologie permettant de détecter du CSAM dans des contenus chiffrés n’est pas mature aujourd’hui et ne le sera probablement pas non plus dans les 2 à 5 prochaines années
- Le projet de règlement CSAM est critiqué en raison des risques de surveillance de masse, d’affaiblissement du chiffrement, et de possible conflit avec le droit de l’UE qui interdit la surveillance générale et indiscriminée des communications
- Comme la liste n’avait pas été identifiée, le demandeur n’a pas eu la possibilité de contester les motifs de non-divulgation des documents, ce qui accentue les problèmes de transparence dans le débat réglementaire
Décision de la Médiatrice et liste de conseillers cachée
- La European Commission n’a pas divulgué la liste des entreprises qu’elle avait consultées pour savoir s’il était possible de détecter du CSAM sans porter atteinte au chiffrement, en réponse à une demande de documents liés à la prise de décision sur le règlement CSAM proposé
- La European Ombudsman a estimé que cette liste « clearly fell within the scope » de la demande de l’Irish Council for Civil Liberties
- La Commission a reconnu auprès de l’EU Ombudsman qu’elle détenait bien cette liste d’experts, mais n’a pas informé Dr Kris Shrishak de son existence
- Comme cette liste n’a pas été identifiée comme un document visé par la demande, le requérant n’a pas eu l’occasion de contester les motifs mêmes du refus de divulgation
- La décision de la Médiatrice est disponible ici
Principale controverse autour de la technologie de détection du CSAM
- Dans les négociations sur le règlement CSAM, la question la plus sensible est de savoir s’il est réellement possible de détecter des contenus pédopornographiques dans des communications chiffrées de bout en bout
- De nombreux experts avertissent qu’une telle technologie n’est pas encore réalisable à un niveau opérationnel
- Les technologues d’intérêt public et plus de 450 universitaires ont publiquement averti que « la technologie permettant de détecter du CSAM dans des contenus chiffrés n’est pas mature aujourd’hui, et ne le sera probablement pas non plus dans les 2 à 5 prochaines années »
- Cette position contraste fortement avec l’avis des experts sur lesquels s’est appuyée la Commission, dont elle ne divulgue toutefois pas les noms
- L’ICCL a saisi la European Ombudsman après que la Commission, en décembre 2022, a refusé de fournir la liste des experts ayant contribué à la rédaction d’un document sur les solutions possibles de détection du CSAM dans les communications chiffrées de bout en bout
- Le projet de règlement CSAM est critiqué non seulement en raison des risques de surveillance de masse et d’affaiblissement du chiffrement, mais aussi parce qu’il pourrait entrer en conflit avec le droit existant de l’UE, qui interdit la surveillance générale et indiscriminée des communications des personnes
- Ces inquiétudes ont été exprimées par plusieurs organisations, dont le propre service juridique du European Council, le European Parliamentary Research Service, le United Nations High Commissioner for Human Rights et le European Data Protection Board and Supervisor
1 commentaires
Avis sur Hacker News
Je ne sais pas si l’on s’est déjà vraiment penché sur la théorie du préjudice lorsque du contenu pédopornographique (CSAM) circule dans des communications privées.
Je ne vois pas très bien quel préjudice concret le simple fait que des octets soient copiés en secret cause aux enfants.
Produire intentionnellement de la pédopornographie est évidemment mal, mais c’est déjà illégal, et ces gens ont une sécurité informatique ridiculement mauvaise.
Quand on regarde les cas de véritables « studios » de production de CSAM qui ont été démantelés, soit les forces de l’ordre sont si incompétentes que n’importe quel criminel un peu malin leur échappe, soit les criminels sont moins compétents techniquement qu’on ne le croit.
Dans un cas comme dans l’autre, les outils permettant d’arrêter de véritables auteurs d’abus sexuels sur enfants semblent efficaces et suffisants.
Il est assez plausible que la création et la distribution du contenu original d’abus sur enfants apporte une forme de récompense sociale aux pédophiles, et les encourage ainsi à continuer ou à aller plus loin.
Cela peut aussi servir de base à un système de « réputation » qui soude les communautés d’abuseurs d’enfants en ligne.
De la même manière que, sur un forum automobile, la personne qui a réalisé pour la première fois une modification particulière peut paraître impressionnante, dans ce type de communauté, quelqu’un qui s’en prend à un enfant jamais vu jusque-là, ou d’une façon nouvelle et créative, peut devenir quelqu’un de « cool ».
Par ailleurs, le fait d’arrêter des criminels dont la sécurité informatique est ridiculement mauvaise ne permet pas de conclure qu’il n’existe pas de criminels dotés d’une excellente sécurité opérationnelle (OPSEC) et parvenant à rester cachés.
Il ne faut pas se laisser distraire par les écrans de fumée et les sujets piégés : il faut maintenir la discussion sur la question de base de la vie privée, et éviter l’ensemble des arguments habituellement invoqués autour du CSAM, de la violation du droit d’auteur et du terrorisme.
Si j’avais été abusé dans mon enfance, je ne voudrais pas que cette image continue à circuler et à être vue par quelqu’un.
C’est comparable aux lois sur le revenge porn, et je voudrais garder le contrôle sur les images de moi nu.
Cela dit, je ne suis pas d’accord avec ce type de loi.
Les inconvénients l’emportent sur les avantages.
En plus, à l’avenir, le CSAM généré par IA sera probablement plus intéressant et satisfaisant pour ceux qui en veulent, ce qui ouvrira un débat entièrement distinct.
Il s’agit d’utiliser les empreintes de contenus existants déjà identifiés par les forces de l’ordre.
Les « nouveaux » contenus n’auront pas encore d’empreinte.
Par définition, ce sont des gens qui ont commis une erreur quelque part, que ce soit en sécurité informatique ou autrement.
Je recommande de lire le texte intégral de la décision du Médiateur : https://www.ombudsman.europa.eu/en/decision/en/176658
Cela montre à quel point tout cela est un chaos bureaucratique absolu.
Les gouvernements nationaux ordinaires vont déjà trop loin, mais avec un peu de nationalisme et de tribalisme, ils tiennent somehow ; l’UE dépasse tellement les bornes qu’à la fin les gens se révolteront, ou ceux qui ont un cerveau partiront.
Malheureusement, ce genre de chose n’a rien de nouveau.
Partout dans le monde, les gouvernements essaient d’échapper à la surveillance publique de ce qu’ils font.
Cela me rappelle le Partenariat transpacifique (TPP) d’il y a environ huit ans.
Très peu de personnes pouvaient consulter le texte du traité [1], et les représentants du peuple devaient ratifier un contenu que leurs propres électeurs ne pouvaient même pas voir.
Wikileaks et d’autres en ont fait fuiter des brouillons, et c’était aussi mauvais que les gens s’y attendaient.
Ses défenseurs disaient que les négociations commerciales devaient se dérouler en secret pour ne pas affaiblir la position de négociation.
Ce qui signifie en réalité : « nous ne voulons pas donner au public l’occasion de s’y opposer ».
Aujourd’hui, l’UE cherche elle aussi des prétextes absurdes pour travailler dans l’ombre.
[1]: https://www.npr.org/sections/itsallpolitics/2015/05/14/40667...
Pour que ce système fonctionne, la base de données CSAM devrait être gérée par consensus entre rivaux géopolitiques.
Autrement dit, il faudrait aussi inclure la Russie et la Chine.
C’est ce qui permettrait de garantir que les gouvernements occidentaux n’abusent pas à l’avenir de leur accès pour surveiller des groupes dissidents.
Partir du principe que le NCMEC ne sera pas compromis est impossible dès le départ.
Un système où les polices chinoise, russe, américaine, britannique, etc. s’accorderaient sur le fait que la base de données ne contient que du CSAM serait crédible.
Un crime commis contre une partie de la population ne justifie pas un tel remue-ménage.
On ne consacre même pas autant d’attention aux enfants assassinés.
Ce problème ne rassemblera pas les rivaux internationaux davantage qu’un astéroïde fonçant vers la Terre.
C’est une préoccupation propre au monde occidental, et elle peut donc facilement être instrumentalisée contre n’importe qui en dehors de celui-ci.
Plutôt que de mettre une porte dérobée dans tous les appareils de la planète, une solution plus réaliste serait peut-être de confisquer les téléphones des enfants et de les attacher à un radiateur.
Autrement dit, si vous voulez protéger les enfants du CSAM, enfermez-les.
C’est désagréable à admettre, mais il faut regarder la réalité en face.
Du point de vue de l’État, les enfants sont des biens.
Comme d’autres actifs, du bétail ou des armes à feu, les enfants peuvent vous être « pris » et « donnés » à quelqu’un d’autre, avec des dividendes au passage.
À bien y réfléchir, cela explique aussi l’acte même de traite des êtres humains.
On ne laisse pas les portes de toutes les autres maisons ouvertes pour protéger la sienne.
Une telle « solution » fait de vous une véritable menace sociale.
Ne vaudrait-il pas mieux plaider pour ne pas créer tout cela du tout ?
Est-ce que cela satisfait le critère ?
Dans la partie « propositions d’amélioration », il est indiqué que, puisque la Commission n’a pas identifié la liste d’experts malgré l’intérêt manifeste du plaignant, elle devrait enregistrer cela comme une nouvelle demande d’accès aux documents et la traiter conformément au règlement 1049/2001.
Je sais bien que le Médiateur n’a pas de véritable pouvoir et ne peut faire que des recommandations, mais je me demande s’il n’aurait pas pu ajouter une formule du genre : « les personnes qui ont rejeté la demande initiale devraient être condamnées à une amende, licenciées ou emprisonnées ».
L’idée selon laquelle « on peut ignorer la loi jusqu’à ce que quelqu’un franchisse des obstacles considérables pour se plaindre que nous l’avons ignorée, puis seulement alors se mettre à la respecter » n’est pas bonne pour la démocratie.
En New Zealand et en Australia, n’est-il pas illégal de conserver, regarder ou publier la vidéo de la fusillade de New Zealand ?
Pourquoi ne pas ajouter aussi son hash à la liste ?
Si l’on suit la même logique tordue que celle utilisée dans ce raisonnement de croisade, ne devrait-elle pas s’appliquer non seulement au viol, mais aussi aux vidéos où des personnes sont assassinées ?
Ou bien y a-t-il, uniquement pour le CSAM, une étrange exception puritaine qui permet à l’État de s’introduire dans tous nos appareils ?
Si Auschwitz avait été recouvert de bitume et qu’il était illégal d’en parler ?
La liste secrète d’experts est désormais publique
https://news.ycombinator.com/item?id=38205743#38205787
https://netzpolitik.org/2023/geheime-liste-wie-der-sicherhei...
Ce qui est plus dérangeant encore que le fait que la dissimulation de la liste secrète « d’experts » liée à la réglementation CSAM de l’UE relève d’une mauvaise administration, c’est que cette liste compte très peu d’institutions et d’entreprises européennes.
Les représentants de la Commission ont déclaré que de nombreuses entreprises participant à l’EUIF avaient des préoccupations liées à la sécurité et à leur image publique.
Ils ont aussi affirmé que les sujets discutés au sein de l’EUIF étaient souvent sensibles et opérationnels, et que leur divulgation pourrait être exploitée par des acteurs malveillants pour contourner les mécanismes de détection et les efforts de coordination des entreprises.
Ils ont ajouté que révéler les stratégies et tactiques des entreprises, ainsi que leurs approches techniques concrètes, risquait également d’indiquer aux criminels comment éviter la détection.
Mais si l’objectif de ces entreprises est de pousser à l’installation en secret de dispositifs d’écoute dans tous les appareils et toutes les applications de messagerie, alors elles ont raison de s’inquiéter de leur image publique.
Elles devraient aussi s’inquiéter des droits humains et de leur propre boussole morale.
Il est temps de les exposer à la lumière.
Ce qui se passe ici, c’est que l’UE ne veut pas donner l’impression d’avoir consulté ce genre d’acteurs, et invente donc des raisons arbitraires pour le cacher.
Ils utilisent les enfants comme une arme politique pour faire accepter n’importe quoi aux citoyens.
Ils traînent dans la boue la réputation de quiconque s’oppose à leur surveillance totale, en l’accusant de soutenir des criminels monstrueux.
https://news.ycombinator.com/item?id=38205743#38205787