Un ChatControl sans soupçon devrait être tabou dans un État de droit

• En Allemagne, le concept de Generalverdacht (soupçon généralisé) consiste à appliquer une surveillance à tout le monde sans soupçon particulier
• Selon la législation actuelle, ce type de surveillance nécessite une ordonnance du tribunal
• Il est souligné que mener une surveillance sans Anfangsverdacht (soupçon initial) contrevient au principe de l’État de droit
• Des critiques sont formulées contre la politique de ChatControl proposée par le ministre allemand de la Justice
• Un dispositif de surveillance généralisée peut être considéré comme une atteinte aux droits fondamentaux en Allemagne et en Europe

---

Contexte du post Mastodon

• Les échanges sur Mastodon portent sur une explication du concept de Generalverdacht (soupçon généralisé), un terme du droit allemand
• Generalverdacht signifie que n’importe qui peut faire l’objet d’une surveillance sans soupçon spécifique (Anfangsverdacht)
• Actuellement, en Allemagne, une ordonnance du tribunal est indispensable pour mener une telle surveillance

État de droit et politique de surveillance

• Lorsqu’une politique de surveillance (par ex. ChatControl) vise des citoyens ordinaires sans soupçon, elle va à l’encontre du principe de l’État de droit
• Si de telles mesures étaient autorisées, elles pourraient être interprétées en Allemagne et en Europe comme une atteinte à la protection de la vie privée et aux droits fondamentaux

Conclusion et appel au débat

• L’auteur du message, préoccupé par cette question, demande à un autre utilisateur une explication ou interprétation juridique
• Le débat porte en particulier sur les risques de la surveillance indiscriminée et sur ses limites juridiques dans les sociétés allemande et européenne

[GN⁺]

Commentaire Hacker News

• Le simple fait d’évoquer ici la notion de soupçon brouille le débat, car cela peut laisser entendre qu’il pourrait exister des situations où il serait acceptable d’ouvrir une backdoor sur l’appareil d’un utilisateur ; il ne devrait exister aucun moyen permettant la présence d’une backdoor sur l’appareil d’un utilisateur, dans aucune circonstance
  • Entre un État de surveillance où toutes les communications sont observées, analysées par des LLM et utilisées pour cibler au hasard des personnes totalement innocentes, et un monde où l’on désigne des cibles individuelles via une procédure qui permet au moins documentation, audit, responsables identifiés et lanceurs d’alerte, avant d’émettre un mandat aux sociétés de chat tierces, le second offre selon moi un mécanisme d’atténuation qui ralentit la dérive autoritaire ; ce n’est pas idéal, mais c’est de loin préférable à la première option que ChatControl cherche à instaurer
  • Pour préciser, il vaudrait mieux traduire suspicionless par « sans fondement » plutôt que par « sans soupçon » ; à la base, il ne devrait pas y avoir de backdoor, mais, par exemple, installer via une mise à jour d’application une backdoor sur l’appareil d’un grand criminel sur la base d’un mandat judiciaire pourrait faire l’objet d’un débat plus constructif
  • Certaines personnes disent « je n’ai rien à cacher », mais en réalité, il s’agit plutôt de n’avoir personne à cacher ; une seule élection, ou un désordre politique menant à un coup d’État, peut suffire à vous placer un jour du mauvais côté du gouvernement ; on découvre alors que ce que « tout le monde considérait comme normal » n’est plus autorisé et que la loi n’a plus la même force qu’avant ; une fois cette infrastructure en place, des personnes mal intentionnées pourront l’exploiter autant qu’elles le voudront pour leur propre intérêt
  • De nombreux appareils grand public peuvent recevoir des mises à jour de manière sélective ; l’entité qui contrôle les serveurs de mise à jour est en fin de compte soumise au contrôle de l’État du pays concerné ; beaucoup oublient que les entreprises avaient autrefois mis en place des « warrant canaries » pour signaler la réception d’ordonnances judiciaires secrètes ; aujourd’hui, on pourrait même leur interdire de les supprimer ; au départ, je pensais qu’une backdoor signifiait un moyen d’accéder à un appareil sans laisser de trace, mais j’en suis venu à élargir la définition à un accès rendu possible par une faille délibérément laissée en place
  • Le critère du soupçon est défini de manière floue, et finit par ne plus jouer aucun rôle de limitation
• Je pense que l’Allemagne ou l’UE font bien les choses, mais je ne vois pas bien en quoi l’État de droit implique que ce type de débat doive être tabou ; je me demande si c’est simplement là pour rendre l’argumentaire plus séduisant, ou s’il manque un lien logique ; même le droit russe a déjà invoqué l’État de droit pour justifier une surveillance de masse et la censure ; l’État de droit signifie qu’il existe des lois s’appliquant de la même manière à tous, et que ces lois ne changent pas trop souvent ni ne sont fabriquées pour des situations particulières ; en ce sens, « suspicionless », c’est-à-dire appliqué à tout le monde, est plus proche de l’État de droit ; sauf, bien sûr, si le soupçon lui-même n’est pas une décision objective du tribunal, auquel cas il y a un problème
  • Si vous vous demandez pourquoi l’État de droit conduit à considérer cela comme tabou, c’est parce qu’il faut qu’une personne soit officiellement soupçonnée d’un crime pour pouvoir être ciblée ; on ne devrait pas devenir une cible simplement parce qu’on déplaît à quelqu’un
  • Une telle surveillance de masse est déjà illégale en Allemagne ; si l’Allemagne l’avait soutenue, cela aurait signifié que des responsables politiques enfreignaient la loi, ce qui est l’exact opposé de l’État de droit
  • Il ne faut pas féliciter l’Allemagne trop tôt ; si elle a changé de position, c’est parce qu’au cours des derniers jours et dernières semaines, énormément de personnes se sont adressées directement au gouvernement ; sans cela, la mesure serait probablement passée ; on peut suivre l’évolution de la position de chaque pays sur fightchatcontrol.eu ; l’Allemagne est passée de l’opposition à l’abstention, puis de nouveau à l’opposition ; cette réalité est amère ; la vie privée et l’État de droit n’ont pas, en pratique, de lien si fort ; j’ai contacté à plusieurs reprises des députés européens allemands individuellement, et les seules réponses reçues, opposées à CC, venaient de membres de l’AfD
  • L’État de droit est un système dans lequel la loi s’applique à tous sans distinction ; pour qu’il soit réel, il faut une séparation des pouvoirs législatif, exécutif et judiciaire ; les règlements et décrets administratifs comportent un risque de confusion entre le législatif et l’exécutif ; dans les régimes dictatoriaux (Venezuela, Iran, etc.), le pouvoir judiciaire est subordonné à l’exécutif ; l’État de droit, c’est aussi le principe selon lequel les membres du gouvernement doivent eux aussi respecter la loi comme les citoyens ordinaires ; Chat Control et le ministre danois (celui qui soutenait qu’il ne devrait pas être permis aux gens ordinaires d’utiliser le chiffrement) paraissent très suspects au regard des principes de l’État de droit ; lire The road to serfdom peut apporter beaucoup d’enseignements
  • Mon avis personnel : pour être applicable, ChatControl devrait au final criminaliser le chiffrement lui-même ; un chiffrement avec backdoor n’est pas du chiffrement ; le moment où le simple fait d’énoncer des formules mathématiques complexes devient un crime est le signe qu’une société va dans une direction absurde ; une telle loi serait impossible à appliquer de manière cohérente et ne pourrait l’être qu’arbitrairement
• J’aimerais maintenant que cela entre dans la Constitution, et j’espère que d’autres pays suivront
  • Si une politique comme ChatControl était passée par la Constitution de l’UE (expression que certains refusent d’utiliser, d’où ce choix volontaire), elle n’aurait pas survécu ; la directive sur la conservation des données, entre autres, a déjà été annulée par la CJUE
  • L’Allemagne n’a pas à proprement parler de constitution, mais la surveillance en l’absence de soupçons graves y est déjà illégale, d’où la référence à l’État de droit
• Je me demande comment on peut garantir que même un Chat Control « fondé sur des soupçons » ne serait pas détourné ; tout client-side scanning devrait être clairement interdit ; l’UE en avait l’occasion dans l’AI Act, mais ne l’a pas saisie
  • Lorsqu’on devient criminel ou soldat, on perd une partie de ses droits civiques ; un tribunal peut imposer à un criminel un bracelet de géolocalisation à la cheville ; c’est comparable à l’installation d’un logiciel spécifique sur un téléphone ; c’est très différent d’un système imposé à l’ensemble de la population ; les droits civiques incluent aussi le droit de ne pas recevoir d’instructions sur l’endroit où l’on doit aller ; les gouvernements autoritaires cherchent tous à traiter tout le monde comme des criminels ou des soldats potentiels
  • Puisqu’il existe déjà une infrastructure et un précédent, un mandat doit être obligatoire
  • Je pense qu’il faudrait rendre obligatoire un mandat judiciaire pour l’installation d’une mise à jour d’application backdoor (ou d’une mise à jour de l’OS) ; le principe est similaire à celui des écoutes téléphoniques
• Il y a beaucoup d’avis négatifs ici, mais le fait que l’Allemagne se soit opposée à ce type de politique est une bonne nouvelle en soi, compte tenu de son poids au sein de l’UE
  • Mais ce genre de déclaration peut aussi n’être qu’un signal indiquant l’intention d’apporter une petite retouche, donc il faut continuer à faire pression
• Si une telle politique de surveillance était réellement appliquée, les responsables politiques et les lobbyistes seraient eux aussi surveillés par défaut ; ils ne voudront jamais de cela
• La surveillance finit par pénétrer l’espace mental lui-même et par transformer le comportement humain ; si la surveillance de masse devient la norme par défaut, on arrive à la fin de la souveraineté mentale et de la liberté ; ce n’est plus un État de droit, mais un gouvernement du peuple par le pouvoir de surveillance
• Malgré les innombrables exemples terrifiants liés aux États totalitaires, les gens semblent étrangement attirés par ce type de régime ; qu’en 2025, dans des « démocraties libérales occidentales », on discute du droit d’écouter les conversations de tout le monde est ahurissant ; même dans l’Allemagne nazie ou la Russie de Staline, ce genre de chose relevait surtout du fantasme
• Je me demande ce qu’il faut faire, et à qui il faut donner, pour empêcher l’introduction non seulement de formes « suspicionless », mais de toute forme de ChatControl
  • Il faut maintenir la pression, contacter directement ses représentants, informer le public et agir soi-même au lieu de penser que quelqu’un d’autre le fera ; il faut voter pour les bons partis ; je recommande les liens edri.org, noyb.eu, eff.org
• Le prétexte de l’état d’urgence national finit toujours par permettre d’obtenir ce qu’on veut ; c’est une réalité regrettable