Fin du Chat Control : le Parlement européen met un terme à la surveillance de masse

• Le Parlement européen met fin à la surveillance des messages privés (« Chat Control »), rétablissant la vie privée numérique des communications interpersonnelles
• À une seule voix près, la disposition sur l’analyse automatique des images et du texte a été rejetée, ce qui met fin au scan des chats par Meta, Google, Microsoft et d’autres
• Malgré la fin de cette surveillance, les écoutes ciblées sur mandat judiciaire, ainsi que le scan des publications publiques et les systèmes de signalement par les utilisateurs, restent en place
• Patrick Breyer, du Parti pirate, a qualifié cette décision de « victoire historique de la société civile » et a insisté sur une protection de l’enfance centrée sur la sécurité dès la conception et la suppression des contenus illégaux
• Ce vote marque à la fois un rejet clair de la surveillance indiscriminée et un basculement vers un système de protection de l’enfance respectueux des droits fondamentaux

---

Le Parlement européen annonce la fin de la surveillance de masse en stoppant le « Chat Control »

• Le Parlement européen a décidé de mettre un terme à la surveillance indiscriminée des messages privés (« Chat Control »)
  • Après avoir rejeté la surveillance généralisée le 13 mars, une tentative des conservateurs d’imposer un nouveau vote a échoué
  • À une seule voix près, la disposition sur l’analyse automatique des images et du texte a été rejetée, puis l’ensemble de l’amendement n’a pas obtenu la majorité
  • En conséquence, l’exception temporaire de l’UE expire le 4 avril, ce qui met fin au scan des chats privés par des entreprises américaines comme Meta, Google et Microsoft
  • La vie privée numérique des communications interpersonnelles est rétablie

Non pas un vide juridique, mais un passage à une « véritable protection de l’enfance »

• La fin de la surveillance indiscriminée ne crée pas de vide juridique
  • Selon un rapport récent, seuls 36 % des signalements d’activité suspecte générés par la surveillance des entreprises américaines proviennent de la surveillance des messages privés
  • Les réseaux sociaux et les services cloud jouent un rôle plus important dans les enquêtes, et les écoutes ciblées sur mandat judiciaire restent autorisées
  • Le scan régulier des publications publiques et des fichiers hébergés, ainsi que les systèmes de signalement par les utilisateurs, sont également maintenus

L’évaluation de Patrick Breyer et ses avertissements pour la suite

• Patrick Breyer, ancien député européen du Parti pirate, a qualifié cette décision de « victoire historique de la société civile »
  • Il souligne que « la surveillance de masse est un système truffé d’erreurs qui gaspille les ressources d’enquête »
  • Il insiste sur le fait que la protection de l’enfance doit reposer sur la « sécurité dès la conception » (Security by Design) et la suppression à la source des contenus illégaux
  • Il avertit toutefois que les discussions sur Chat Control 2.0 et sur la vérification obligatoire de l’âge sur les messageries sont en cours, et que les communications anonymes pourraient être menacées

Contenu du règlement temporaire arrivant à expiration

• Le règlement temporaire de l’UE (2021/1232), adopté en 2021, doit expirer le 3 avril
  • Il autorisait des entreprises américaines comme Meta à scanner volontairement les messages privés
  • Trois formes de surveillance étaient autorisées
    • le scan de hash d’images et de vidéos déjà connues
    • l’analyse automatique de nouvelles images et vidéos
    • l’analyse automatique du texte des chats privés
  • L’analyse fondée sur l’IA présente un taux élevé de faux positifs et ne comprend pas le contexte, exposant même des échanges consensuels entre adolescents

Résultats de recherche : les technologies de Chat Control manquent de fiabilité

• Des chercheurs en sécurité informatique ayant analysé l’algorithme PhotoDNA l’ont jugé « non fiable »
  • De simples modifications d’image (comme l’ajout de bordures) permettent d’échapper à la détection d’images illégales
  • À l’inverse, des images inoffensives peuvent être signalées à tort à la police

Le rapport d’évaluation de l’UE met en lumière l’échec de Chat Control

• Monopole des données : 99 % des signalements proviennent de Meta, ce qui revient de fait à confier un rôle policier à une entreprise privée
• Surcharge de données erronées : selon le BKA allemand, 48 % des chats signalés n’ont aucun lien avec une infraction
• Criminalisation des adolescents : en Allemagne, environ 40 % des enquêtes concernent des cas de partage d’images entre adolescents
• Neutralisation par la généralisation du chiffrement : le nombre de signalements a chuté de 50 % après l’essor du chiffrement de bout en bout
• Absence d’effet démontré sur la protection de l’enfance : aucune corrélation n’a été établie entre la surveillance et les condamnations effectives

Vérification des contre-vérités : réfutation des arguments des partisans de la surveillance

• « Le Parlement est responsable de l’échec des négociations »

  • Fait : c’est le Conseil de l’UE qui a fait échouer les négociations
  • D’après des documents divulgués, les États membres ont refusé un compromis par crainte de créer un précédent pour Chat Control 2.0
  • La négociatrice du Parlement, Birgit Sippel, a critiqué le fait que « les États membres ont délibérément accepté l’expiration »

• « Sans surveillance, les enquêtes sont impossibles »

  • Fait : les écoutes ciblées restent possibles
  • L’association allemande des enquêteurs criminels (BDK) a averti que « la surveillance de masse ne produit qu’un déluge d’informations sans piste concrète »
  • Le BKA refuse systématiquement de demander la suppression des contenus illégaux

• « Les technologies de scan sont précises »

  • Fait : selon une lettre ouverte de chercheurs en informatique, le taux d’erreur est de 13 à 20 %
  • Parmi des dizaines de milliards d’éléments analysés, les contenus réellement illégaux ne représentent que 0,0000027 %
  • La conférence allemande des autorités de protection des données (DSK) a averti que « la surveillance indiscriminée porte atteinte au cœur du secret des communications »

• « Les victimes réclament la surveillance »

  • Fait : les véritables victimes s’opposent à la surveillance et engagent des actions en justice
  • La victime Alexander Hanff a déclaré que « l’atteinte à la vie privée constitue un préjudice secondaire »
  • Une victime en Bavière poursuit Meta en justice
  • L’organisation américaine Thorn a investi des sommes considérables dans la vente de logiciels de scan et dans le lobbying auprès de l’UE

La suite : non pas la surveillance, mais la « sécurité dès la conception » (Security by Design)

• Le Parlement européen soutient un passage d’une approche centrée sur la surveillance à une prévention centrée sur la technique
  1. Renforcer les paramètres de sécurité par défaut et les mécanismes de protection pour bloquer le cyber-grooming
  2. Maintenir les écoutes ciblées avec autorisation judiciaire
  3. Imposer au Centre européen de protection de l’enfance la détection active et la suppression immédiate
     • Les contenus illégaux doivent être retirés à la source sur Internet et sur le dark web
     • Il faut mettre fin à l’attitude des autorités consistant à dire que ce n’est « pas de leur ressort »

Lobbying et fabrication d’une peur infondée

• La promotion de Chat Control a été menée par des groupes de lobbying financés de l’étranger et des entreprises technologiques
  • L’américaine Thorn a mené à Bruxelles des activités de lobbying de plusieurs centaines de milliers d’euros, en parallèle de la vente du logiciel concerné
  • Le secteur technologique, allié à certaines organisations de la société civile, a soutenu une législation visant à garantir ses revenus et son accès aux données

Conclusion : un rejet net de la frénésie sécuritaire

• Breyer a souligné que « le lobbying financé par l’industrie technologique américaine et par des fonds publics a attisé la peur jusqu’au bout, mais les fausses alertes et les données redondantes n’ont sauvé aucun enfant »
• Cette décision envoie un signal clair de rejet de la surveillance indiscriminée et confirme la nécessité de passer à un système de protection de l’enfance ciblé et respectueux des droits fondamentaux

[GN⁺]

Réactions sur Hacker News

• Malgré la victoire d’aujourd’hui, on ne peut pas exclure totalement que les gouvernements de l’UE prennent d’autres mesures procédurales
  En particulier, les négociations en trilogue sur la réglementation de protection de l’enfance appelée « Chat Control 2.0 » se poursuivent toujours sous forte pression temporelle
  En outre, le prochain sujet de négociation est la vérification obligatoire de l’âge : les messageries, services de chat et app stores pourraient exiger une pièce d’identité ou un scan du visage, rendant la communication anonyme pratiquement impossible et mettant en danger des groupes vulnérables comme les lanceurs d’alerte ou les personnes persécutées

  • En démocratie, on n’élimine pas l’opposition
    Ceux qui croient que la sécurité doit primer sur la vie privée défendront cette position devant les tribunaux toute leur vie
    Si une loi n’est pas adoptée, elle n’a pas d’effet, donc le camp qui défend le statu quo est en position plus forte
    Ces combats qui se répètent à chaque génération sont l’essence même de la démocratie, et convaincre les citoyens revient à protéger la liberté
  • Le débat sur la « vérification de l’âge » montre en réalité la mécanique de collecte de données des Big Tech
    Si les utilisateurs refusent de prouver leur identité, ils pourraient cesser d’utiliser le service
    Beaucoup d’utilisateurs continuent à privilégier la commodité à la vie privée, mais la vraie menace est que ce système facilite encore davantage la surveillance par l’État
  • Le fait que Meta ait mis fin au chat chiffré sur Instagram tombe de manière curieusement synchronisée, ce qui est intéressant
  • Le trilogue est une structure où les ministres rédigent les lois à huis clos, donc à mon avis ce cercle fermé de réunions devrait partir en fumée
  • Il ne reste plus qu’à se dire à la prochaine négociation

• Le PPE a mené une campagne de communication pour faire adopter rapidement cette loi
  En utilisant l’image d’un ours en peluche, il mettait en avant le message « protéger les enfants n’est pas une option »
  Mais j’ai le sentiment qu’il faut des alternatives respectueuses de la vie privée, pas de la surveillance de masse
  En regardant les documents officiels du PPE et la liste des lobbys, on voit qu’y figurent des organisations variées comme Facebook, Microsoft, l’UNICEF, etc.

  • Palantir n’apparaît pas officiellement, mais est en pratique impliqué à chaque étape
    D’après la décision du Médiateur européen et une question parlementaire européenne, Palantir fournit depuis des années des logiciels à Europol sans être inscrit au registre de transparence
    Selon un article d’Euractiv, il n’existe même pas de trace de la réunion entre Ursula von der Leyen et le PDG de Palantir
  • Le fait que l’organisation Thorn, fondée par Ashton Kutcher, soit incluse semble aussi hypocrite
    D’après un article de la BBC et un article de People, il a déjà défendu par le passé un auteur de crimes sexuels
  • Facebook et Microsoft sont des entreprises étrangères, mais elles sont profondément impliquées dans le lobbying autour d’une loi européenne
  • Ce type de loi ne protège pas réellement les enfants et ressemble plutôt à un dispositif rhétorique destiné à semer la confusion chez les électeurs
    C’est particulièrement efficace auprès des personnes âgées et des parents moins familiers avec la technologie
  • Ensuite, le PPE a publié un article de suivi disant que « les socialistes ont abandonné les enfants », avec un ton encore plus agressif
    Lien vers l’article

• La formule disant que « à partir du 6 avril 2026, Gmail, LinkedIn, Microsoft et d’autres devront cesser de scanner les messages privés » est déroutante
  Je me demandais si c’était déjà en vigueur

  • Facebook et d’autres scannent déjà les messages depuis des années
    Quand cela a été jugé illégal, ils ont fait adopter une loi temporaire, Chat Control 1.0, pour le légaliser
    Mais comme les négociations traînent, si elle expire le 4 avril, cela redeviendra illégal
  • Quand Apple a voulu mettre en place un scan d’iMessage, cela avait aussi provoqué une forte controverse
    La position opposée de l’EFF est représentative
  • Le Chat Control 1.0 volontaire est en vigueur depuis 2021
  • Bien qu’en conflit avec des droits constitutionnels, il était autorisé à titre temporaire, et Chat Control 2.0 est une tentative de le rendre obligatoire
  • Gmail et d’autres scannent déjà les e-mails depuis les années 2010 pour détecter la pédopornographie

• Il existe une statistique selon laquelle 36 % des signalements d’entreprises américaines proviennent de la surveillance des messages privés
  Ce chiffre n’est pas faible, ce qui me met au contraire mal à l’aise

  • Cette proportion est assez élevée, donc je me demande à quel point ce sont réellement des données bruitées

• D’un point de vue politique, le slogan « ces gens ne s’arrêteront pas tant qu’ils n’auront pas lu les messages de vos enfants » semble approprié

  • On pourrait aussi dire : « des gens qui veulent voir les conversations secrètes de vos ados »

• On a l’impression que Chat Control est introduit, rejeté, puis réintroduit dans un cycle sans fin

  • Le problème des démocraties modernes, c’est qu’il leur suffit de gagner une seule fois pour que cela devienne une loi, alors que nous devons gagner à chaque fois
  • En version mème, cette image conviendrait mieux
  • La seule alternative serait la dictature, donc cette répétition est le destin de la démocratie
  • Des entreprises américaines et certains services de police de l’UE veulent fortement cette loi
    Les responsables politiques semblent eux aussi ressentir la tentation du pouvoir qu’offre la surveillance
  • Je pense qu’il faudrait une clause législative de double incrimination empêchant de redéposer une loi rejetée

• J’imagine un scénario d’attaque interne chez Microsoft
  Quelqu’un injecterait dans la base PhotoDNA le hash d’une capture d’écran contenant certains mots, puis un employé de Meta détecterait cette erreur de format pour remonter jusqu’à l’identifiant utilisateur
  En ne consultant qu’un petit nombre de comptes, il serait même possible d’éviter les alertes d’accès anormal
  Un document connexe a été partagé

• La bonne formulation serait plutôt : « la fin de Chat Control, pour le moment »

  • Ils appuient toujours sur le bouton « plus tard »
  • Cela ne s’est peut-être arrêté que jusqu’à la fin du mois

• D’ici six mois, cela reviendra sous un autre nom
  Comme seuls ceux qui bloquent les nouvelles lois en paient le coût, les financements des organisations citoyennes s’épuisent d’abord
  Même avec une charte des droits, on ne peut pas réellement contraindre les législateurs, et cela finit toujours devant les tribunaux

• Cette tentative reviendra sans cesse au nom des enfants
  Pour l’empêcher, il faut une loi qui renforce durablement le droit à la vie privée

  • Je pense que cela devrait prendre la forme du RGPD