La volonté controversée de la Commission européenne de renforcer la surveillance numérique est accusée d’affaiblir la démocratie
(dannymekic.com)- Le projet de règlement CSAM de la Commission européenne est critiqué comme une proposition de surveillance de masse visant à scanner automatiquement les conversations, photos et vidéos des citoyens sur des applications de communication comme WhatsApp, iMessage, Instagram, TikTok et X
- Comme il pourrait aussi viser des citoyens ne faisant l’objet d’aucun soupçon criminel, des universitaires, des autorités de régulation de la vie privée et des experts juridiques internes au Conseil de l’UE dénoncent une atteinte au droit à la vie privée ainsi que des défauts techniques
- Après que des signes d’un soutien insuffisant sont apparus au Conseil de l’UE le 14 septembre 2023, la commissaire aux Affaires intérieures Ylva Johansson a lancé le lendemain des publicités payantes sur X ciblant les pays opposés ou réservés
- Les publicités ont été vues plus de 4 millions de fois et, d’après le rapport de transparence de X, utilisaient un microciblage excluant les utilisateurs intéressés par Julian Assange, le Brexit, l’AfD ou le christianisme
- L’exclusion publicitaire fondée sur des convictions politiques ou religieuses entrerait en conflit avec les règles publicitaires de X, le Digital Services Act et le RGPD, alimentant les critiques selon lesquelles la Commission aurait exercé une pression manipulatrice sur l’opinion publique
La structure de surveillance des communications que le règlement CSAM veut instaurer
- La Commission européenne pousse un projet de règlement CSAM qui transformerait des applications de communication numérique comme WhatsApp, iMessage, Instagram, TikTok et X en outils de surveillance de masse
- Le périmètre du scan couvrirait l’ensemble des communications numériques des citoyens de l’UE, y compris les conversations en temps réel, les photos et les vidéos
- Les communications de citoyens ne faisant l’objet d’aucun soupçon criminel pourraient elles aussi être scannées automatiquement
- Des centaines d’universitaires, des autorités de régulation de la vie privée et des experts juridiques internes au Conseil de l’UE critiquent cette proposition, estimant qu’elle viole le droit à la vie privée et que la technologie nécessaire à sa mise en œuvre est fondamentalement défaillante
- L’intelligence artificielle ne serait pas capable de détecter précisément les activités criminelles et pourrait signaler à tort des millions de citoyens innocents comme suspects
- Les criminels pourraient facilement contourner le système en supprimant l’application ou en se déplaçant vers le dark web
- Cette proposition est critiquée comme annonçant la fin des conversations numériques privées et comme étant incompatible avec la liberté des communications et le principe de présomption d’innocence
Des publicités sur X lancées juste après le constat d’un manque de soutien au Conseil
- Le 14 septembre 2023, il apparaît au Conseil de l’UE que cette proposition ne bénéficie pas d’un soutien suffisant
- Le lendemain, le 15 septembre, la commissaire européenne aux Affaires intérieures Ylva Johansson commande une campagne publicitaire payante sur X
- Les pays visés étaient ceux qui, selon le procès-verbal divulgué de la réunion du 14 septembre, n’étaient pas prêts à soutenir la proposition en l’état
- Pays-Bas
- Suède
- Belgique
- Finlande
- Slovénie
- Portugal
- Tchéquie
- La campagne a généré plus de 4 millions de vues
- Les publicités utilisaient l’image d’une jeune fille, des hommes à l’apparence menaçante et une musique lugubre, exerçant une pression émotionnelle laissant entendre que les opposants au texte ne voulaient pas protéger les enfants
Les problèmes liés aux sondages et à la présentation du soutien
- Les publicités affirmaient que le texte proposé était soutenu par une majorité d’Européens
- Le sondage invoqué a été critiqué pour avoir mis en avant uniquement les avantages du texte sans en présenter les inconvénients
- Les enquêtes de YouGov et Novus, qui présentaient aussi les inconvénients, montrent au contraire qu’il existe très peu de soutien à cette proposition parmi les citoyens européens
- Par la suite, la méthodologue Dr Vera Wilde a publié un article détaillé sur les résultats de sondage utilisés dans la campagne publicitaire
- Elle estime que l’outil d’enquête était biaisé, rendant le sondage non valide
- Elle considère que les responsables du sondage ont enfreint des normes professionnelles et éthiques largement reconnues ainsi que les codes de conduite associés
- Elle juge que les partisans du programme ont présenté les résultats de manière trompeuse
- Elle conclut que ce sondage et sa présentation relèvent d’une campagne de désinformation induisant en erreur les participants et les lecteurs
Le microciblage sur X et les conflits juridiques
- D’après le rapport de transparence de X, la Commission a utilisé un microciblage afin que certaines publicités ne soient pas visibles par certains groupes
- Les personnes exclues comprenaient des utilisateurs intéressés par la vie privée et des sensibilités eurosceptiques
- Les personnes intéressées par Julian Assange
- Les personnes intéressées par nexit, brexit, spanexit
- Les personnes intéressées par Viktor Orbán, Nigel Farage et l’AfD allemande
- Sans raison claire, les personnes intéressées par le christianisme ont également été exclues
- Après avoir exclu des groupes politiques et religieux critiques, l’algorithme de X a été configuré pour trouver parmi le reste des utilisateurs ceux qui étaient les plus susceptibles de réagir au message publicitaire
- Il en serait résulté une chambre d’écho sans critique, avec moins de réactions opposées
- Un tel microciblage fondé sur des convictions politiques et religieuses entrerait en conflit avec :
- les règles publicitaires de X
- l’article 26(3) du Digital Services Act
- le Règlement général sur la protection des données
- Le Digital Services Act est en particulier une législation que la Commission doit elle-même superviser directement
Procédure démocratique et demandes adressées à la Commission
- Selon cette position, si le texte ne bénéficie pas d’un soutien suffisant, la réponse démocratique serait soit de le retirer, soit de le modifier, comme l’a proposé l’Allemagne, afin d’obtenir un soutien suffisant
- Dans ce cadre, il est fait mention d’une modification qui n’introduirait pas un « telescreen » anticonstitutionnel
- Le fait que la Commission ait utilisé des publicités manipulatrices, des statistiques trompeuses et un microciblage fondé sur la religion et les convictions pour tenter de changer l’opinion publique dans des États membres jugés hésitants rappelle, selon les critiques, les campagnes de désinformation observées lors des élections américaines et du Brexit
- Le fait de mettre de côté les valeurs européennes pour imposer un texte très controversé est jugé nuisible non seulement aux citoyens, mais aussi aux fondements mêmes de l’Union européenne
- Il est demandé à la Commission de retirer cette campagne publicitaire et de mettre fin à une campagne manipulatrice de désinformation visant à infléchir l’opinion européenne au moyen de publicités illégales sur les réseaux sociaux
Mises à jour ultérieures et documents
- Une mise à jour indique qu’après la publication de l’article, le compte @DannyMekic et ses tweets n’apparaissaient plus dans le moteur de recherche de X/Twitter
- L’accès au compte a ensuite été rétabli, mais il est indiqué qu’on ne sait pas pourquoi, comment, pour qui, ou si cela relevait d’une décision interne de X
- Le rapport de transparence X concerné semble avoir été supprimé de X/Twitter au 14 novembre 2023, et un fichier miroir est disponible sur GitHub
- Le texte fournit également une liste de liens vers le rapport de transparence X concerné et des publications de EUHomeAffairs
1 commentaires
Avis sur Hacker News
La manière même dont les responsables politiques tentent de faire adopter ce type de loi controversée me semble vraiment problématique.
Sous l’influence de lobbies qui se soucient peu de l’intérêt général, ils ressortent des sujets controversés, et pour les bloquer, de nombreux citoyens doivent consacrer du temps et de l’énergie à se mobiliser.
Puis, quand le calme revient, les mêmes responsables politiques et lobbyistes les ramènent en changeant simplement le nom, ou en les glissant discrètement dans un autre texte ; après un événement ayant fortement mobilisé les émotions, il devient aussi plus facile d’obtenir le soutien du public hors contexte.
Les responsables politiques et les lobbyistes sont payés pour faire cela, contrairement aux citoyens ; au final, pendant que ces derniers y sacrifient leur vie, les premiers peuvent continuer à pousser les mêmes absurdités.
Par le passé, on a déjà essayé de faire passer les brevets logiciels lors d’une réunion de ministres de l’Agriculture ; la délégation polonaise avait alors bloqué la manœuvre, mais l’industrie a fini par obtenir ce qu’elle voulait plus tard.
D’un côté, on se dit que cette folie prendrait fin ; de l’autre, j’ai peur qu’on essaie pendant quelques mois des choses comme la surveillance totale ou la bissection comme méthode d’exécution.
Cela dit, il y aurait sans doute l’avantage de pouvoir corriger les mauvaises lois beaucoup plus vite.
Le droit de vote des femmes, les droits civiques, les droits des homosexuels, le cannabis médical et bien d’autres victoires en matière de droits sont aussi le résultat de responsables politiques et de lobbyistes qui les ont portés encore et encore, ont perdu encore et encore, jusqu’au jour où ils sont passés et se sont installés durablement.
Personnellement, je pense que des gouvernements locaux plus petits et plus décentralisés sont la meilleure façon de limiter les dégâts, mais cela oblige aussi chaque groupe à répéter les mêmes combats dans plusieurs régions, ce qui cause ses propres dommages.
Je ne vois pas de manière de repousser définitivement les mauvais projets de loi qui ne nuise pas de la même façon aux anciens mouvements pour les droits.
En général, pour bloquer une action, il faut un contrôle total ou de fortes incitations, et le développement des fonctionnalités des navigateurs obéit à la même dynamique.
Ajouter est facile, empêcher l’ajout est difficile, et on finit par dire oui à des choses défavorables à la majorité.
Beaucoup plus de personnes se renseignent un peu puis ne font rien, et un groupe encore plus large se contente de se plaindre sur des forums et de demander aux autres d’agir.
Même un très petit nombre de personnes peut provoquer un changement, mais dans la réalité, encore moins de gens que cela se mobilisent, et rien ne se passe.
Ceux qui se sont engagés, comme moi, finissent épuisés et désespérés, avec le sentiment d’avoir gaspillé une part assez importante de leur vie.
Quelques participants de plus auraient peut-être changé les choses, mais cela ne s’est pas produit.
Si vous voulez le changement, vous pouvez l’obtenir, mais la plupart des gens ne le feront pas.
Indépendamment des questions plus larges de vie privée et de surveillance, si la European Commission a utilisé de la publicité ciblée sophistiquée pour influencer l’opinion publique et a délibérément exclu les personnes soucieuses de la protection de la vie privée ainsi que les eurosceptiques, c’est très préoccupant.
Si une institution comme la EC commence à faire avancer son agenda au moyen de chambres d’écho soigneusement fabriquées, en excluant certains groupes de population du débat, l’espace commun du discours politique public disparaît.
Une sorte de gerrymandering numérique, peut-être.
Il n’y a rien de nouveau là-dedans ; simplement, ce ne sont plus seulement les populistes de droite qui le font.
De nos jours, sur Twitter, pour une raison quelconque, ce type de populisme de droite est devenu parfaitement acceptable.
Par exemple, lorsqu’on cible Belgium ou les NL avec une campagne, les personnes qui y vivent depuis plusieurs générations sont souvent des électeurs de partis de droite.
Les personnes qui correspondent à l’esprit de la loi ne sont souvent pas inscrites localement, un peu comme les étudiants aux États-Unis.
Au final, on crée une boucle de rétroaction où d’autres contenus sont servis dans le fil de personnes semblables à celles qui ont produit le Brexit.
Je suis d’accord avec l’auteur : s’il n’y a pas assez de soutien pour la loi proposée, la bonne réponse démocratique est de la retirer.
J’en ai assez de ce modèle de politique publique façon fraternité étudiante, où l’on continue à poser la question jusqu’à obtenir les exemples souhaités de la part de gens que l’on n’a pas empêchés d’entendre.
J’ai appris récemment qu’autrefois, les votes du Congrès américain étaient des votes anonymes, au sens où le nombre de voix était public, mais pas qui avait voté quoi.
Par la suite, au nom d’une plus grande transparence, les votes individuels ont été rendus publics ; cela a donné l’impression d’un système plus ouvert aux citoyens, mais a aussi permis aux lobbyistes de voir exactement quels élus votaient pour ou contre leurs intérêts.
Résultat : l’argent a afflué vers les élus favorables aux lobbies, accélérant le cercle vicieux.
Cette conférence vidéo traite beaucoup plus en détail de ce processus et de ses effets : https://www.youtube.com/watch?v=Qz27n1tNNMg
J’ajouterais que je me souviens aussi d’un cas où une véritable institution politique avait expérimenté à la fois le vote public et le vote secret sur un même texte, avec des résultats complètement différents. C’était peut-être le Parlement italien.
European Parliament est probablement la meilleure institution dont nous disposions en Europe, et une grande partie des changements positifs et des nouveaux droits en viennent.
À l’inverse, la European Commission est proche du pire que nous puissions avoir.
Elle est soit totalement corrompue, comme dans le cas de la vice-présidente ayant reçu des sacs d’argent liquide du Qatar et d’autres, soit au minimum moralement corrompue par le lobbying.
Et en plus, personne n’a élu ces gens qui disposent d’un pouvoir aussi considérable.
Il vaut aussi la peine de se demander pourquoi les États-Unis ont obtenu un accès partagé à toutes les transactions financières des citoyens européens, alors que l’inverse ne s’applique pas.
Cela affaiblit donc l’argument initial.
Par exemple, les États-Unis prennent en charge la majeure partie des coûts de la défense européenne.
Et, en plus, sans aucune qualification, elle était pour une raison quelconque vice-présidente chargée de l’IA et de la Blockchain.
Le problème, tant avec la EC qu’avec le EP, est le manque de responsabilité démocratique, et un système très indirect.
Il n’y a rien de nouveau avec la EU Commission.
C’est l’institution la moins démocratique de l’UE, et son nom, commission, qui vient du commissar de la Soviet Union, semble donc très approprié.
Il suffit de voir comment elle attaque les pays qui ont eu le courage d’élire des forces opposées à ses soutiens, principalement les groupes d’intérêts allemands et la Russie par procuration.
Elle redéfinit des termes comme État de droit pour viser la Poland, gouvernée par un parti opposé à l’EPP, le parti au pouvoir dans l’UE, tout en ignorant complètement l’effroyable corruption de son alliée, la Bulgaria.
Elle ne réagit pas non plus à l’immense corruption de la Court of Justice of the EU, alors que cette cour est désormais presque à l’opposé de l’État de droit, mais c’est une longue histoire.
Et pendant ce temps, elle cherche à accroître ses pouvoirs en allant à l’encontre des traités, à supprimer le droit de veto et à faire passer ce genre de loi.
C’est d’autant plus triste que l’UE elle-même était une excellente idée, et que tout peut être corrompu.
J’aimerais connaître l’avis de personnes ayant réfléchi en profondeur au rôle de l’anonymat dans une démocratie.
Il est intéressant de constater que les gens qui adoptent l’attitude consistant à dire que, si l’on n’a rien fait de mal, on ne devrait pas se soucier d’être surveillé, appliquent souvent cette philosophie dans un seul sens.
J’ai vu des gens s’indigner que Snowden ait révélé des activités gouvernementales, tout en restant indifférents au fait que ce qui avait été révélé était que le gouvernement surveillait ses propres citoyens.
Est-ce à dire que le gouvernement a droit à une vie privée, mais pas les citoyens ?
J’ai l’intuition que la vie privée des individus est importante pour préserver la démocratie, mais aussi que les secrets institutionnels du gouvernement sont nuisibles à la démocratie.
Bien sûr, la plupart des gens soutiendraient qu’un niveau raisonnable de secret gouvernemental est nécessaire à la sécurité nationale, et je préfère le strict minimum, mais la plupart de mon entourage n’est pas d’accord.
J’aimerais explorer les deux côtés et trouver des arguments qui dépassent l’intuition ; des liens ou références vers des raisonnements de différents points de vue seraient donc les bienvenus.
L’un des devoirs du gouvernement est la défense militaire ; il doit protéger la population, et la réalité de la guerre exige de conserver un certain degré de secret.
Ne pas le reconnaître pourrait revenir à renoncer à une obligation du gouvernement.
En revanche, les particuliers ne peuvent pas mener une guerre, et la raison pour laquelle le gouvernement doit protéger la population est précisément qu’il est interdit aux individus de faire la guerre eux-mêmes.
Selon cette logique, la réalité de la guerre justifie donc les secrets de l’État, mais ne justifie pas les secrets privés des individus.
Pour réfuter cela, on peut rappeler qu’historiquement, surtout au XXe siècle, des dizaines de millions de personnes ont été tuées par leur propre gouvernement.
Le gouvernement peut avoir besoin de certains secrets pour protéger efficacement la population contre les menaces extérieures, mais les citoyens ont tout autant besoin du droit de garder des secrets face au gouvernement afin de se protéger contre cette menace interne, tout aussi réelle et préoccupante, qu’est le gouvernement.
Pour coopérer, les gens ont besoin d’une forme de pression sociale, qu’il s’agisse de retours positifs de leurs pairs ou de retours négatifs comme la honte.
La sincérité est ici importante, et les pairs doivent pouvoir donner des retours positifs et négatifs exacts.
L’anonymat casse ce modèle, en permettant aux gens de faire semblant d’avoir certaines opinions pour obtenir des récompenses, tout en évitant les retours négatifs pour des comportements antisociaux.
Il suffit de regarder les commentateurs pseudonymes sur Internet pour le voir immédiatement.
Même des gens ordinaires peuvent se comporter de façon totalement déplorable en ligne, parce qu’ils peuvent cacher leurs actes à ceux qui seraient en mesure d’imposer des conséquences sociales.
Si l’on découvrait qu’un ami proche est quelqu’un qui manifeste au quotidien la cruauté d’un troll en ligne, on pourrait mettre fin à cette amitié.
Bien sûr, les avantages de la vie privée ne sont pas tous mauvais, et les personnes vulnérables en tirent particulièrement profit dans des environnements hostiles.
Mais dans des environnements moins hostiles, comme une démocratie directe ou indirecte, la réponse n’est peut-être pas davantage de vie privée, mais une culture moins portée au jugement.
Un autre cadre d’analyse est celui de la confiance.
L’anonymat affaiblit la confiance, alors que l’action collective exige de la confiance.
Vu sous cet angle, il est assez clair que la démocratie et la protection de la vie privée poursuivent des objectifs opposés.
Même en matière de vote, je ne pense pas que créer des incitations à mentir — pire encore, encourager activement cela comme quelque chose de positif — soit une bonne idée.
Si la publicité du vote crée des externalités négatives, il peut exister d’autres solutions que de laisser les gens mentir sur la façon dont ils ont voté.
C’est vraiment terrible.
Le Royaume-Uni tente lui aussi ce genre de choses au nom de la protection des enfants.
Mais il ne soutient pas les organisations de la société civile qui font du bon travail dans ce domaine, et ses actions concrètes montrent que le contrôle est une priorité bien plus élevée que la protection de l’enfance.
Même en laissant de côté l’obsession générale du contrôle et la perte de libertés, je me demande si l’on a déjà étudié dans quelle mesure cela aide réellement à arrêter les délinquants sexuels s’en prenant aux enfants.
Cela me semble beaucoup moins efficace que les organisations de la société civile qui luttent contre les crimes sexuels commis sur des enfants, et, au bout du compte, cela ressemble à une tentative de contrôler la population en imitant la Chine.
Les bureaucrates submergent les citoyens sous d’énormes quantités de texte
Ici, même l’expression d’opinions est réglementée, alors que quelques principes suffiraient
Le principe le plus important devrait être que tout citoyen puisse exprimer librement son opinion
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...
Ce n’est pas nouveau non plus
N’importe quel pays peut, s’il le souhaite, mettre en place une protection plus forte de la liberté d’expression, et les institutions de l’UE ne peuvent pas l’en empêcher
Le raisonnement de départ n’a pas de sens
La plupart des pays de l’UE ont des lois qui interdisent explicitement les discours de haine, comme les propos nazis ou antisémites
Personne ne verse de larmes parce que leurs opinions sont limitées, et personne ne devrait le faire
Débattre avec un pigeon ne fonctionne pas
C’est juste
La diffamation est une infraction sanctionnée par la loi partout en Occident, mais cela ne signifie pas qu’on vous interdit de dire ce que vous voulez
Une démocratie sans contre-pouvoir qu’est le système judiciaire n’est pas une démocratie au sens moderne
Je pense qu’il n’existe pas de véritable démocratie dans l’Union européenne, ni dans aucun de ses États membres
Il n’y a pas de séparation des pouvoirs, et l’exécutif et le législatif cherchent à tout contrôler comme s’ils ne faisaient qu’un
On le voit dans les lois qui contournent le système judiciaire lorsqu’il s’agit de censurer des contenus sur Internet
Ce ne sont pas des juges qui décident s’il faut interdire Russia Today ou Twitter
C’est comme si la loi d’airain de l’oligarchie de Michels se déroulait sous nos yeux
Ils font les lois, les appliquent, et vous punissent si vous ne les respectez pas
J’ai vu cette initiative pour la première fois il y a presque un an sur un site web de VPN
Ce qui est plus inquiétant encore, c’est que cette affaire est à peine couverte par les médias
Comment les gens pourraient-ils protester contre quelque chose dont ils n’ont jamais entendu parler ?
Plus que la proposition elle-même, ce qui fait froid dans le dos, c’est ce pouvoir hégémonique qui, sous couvert de bureaucratie complexe, de contrôle des médias et de protection des enfants, érode en secret les droits fondamentaux non seulement des Européens, mais de tout le monde
Lutter contre les contenus pédocriminels et d’autres activités criminelles est absolument essentiel, mais la surveillance de masse n’est pas la solution