UE : refuser le scan pourrait empêcher le partage de photos et de liens
(patrick-breyer.de)- Le projet de règlement européen sur les contenus pédopornographiques, chat control, pourrait de nouveau obtenir l’approbation des gouvernements de l’UE en raison d’un possible changement de position de la France
- Le projet daté du 28 mai 2024 demande aux utilisateurs d’applications et de services de chat s’ils acceptent le scan automatique avec possibilité de signalement des images, photos et vidéos privées ; en cas de refus, l’envoi et la réception de photos, vidéos et liens seraient limités
- Même des services à chiffrement de bout en bout comme WhatsApp et Signal devraient mettre en œuvre une détection automatique avant l’envoi, ce qui reviendrait en pratique à un scan côté client
- Le scan de textes pour détecter des signes de grooming et le scan des communications vocales, présents dans les versions précédentes, disparaîtraient, mais les chats des services de sécurité et du personnel militaire seraient exclus du champ d’application
- Le Council Legal Service estime que le scan indiscriminé de personnes non suspectes constitue une atteinte aux droits fondamentaux, mais plusieurs gouvernements de l’UE prévoient de poursuivre les discussions le 4 juin
Ce que change le projet d’« upload moderation »
- Le projet controversé de réglementation sur les contenus pédopornographiques, dit chat control, pourrait à nouveau être approuvé au niveau des gouvernements de l’UE
- Selon un article d’Euractiv et des documents internes, la France pourrait renoncer à son veto
- La France considérerait en principe la nouvelle proposition d’« upload moderation » comme une option envisageable
- La dernière version du projet, datée du 28 mai 2024, Council document 9093/24, s’applique aux applications et services disposant d’une fonction de chat
- Il serait demandé aux utilisateurs s’ils acceptent un scan indiscriminé, susceptible d’erreurs, ainsi qu’un éventuel signalement des images, photos et vidéos qu’ils partagent en privé
- Même les images et vidéos auparavant inconnues seraient soumises à examen à l’aide de technologies d’IA
- Les utilisateurs qui refusent le scan ne pourraient ni envoyer ni recevoir d’images, photos, vidéos ou liens
- Même des services chiffrés de bout en bout comme WhatsApp ou Signal devraient mettre en œuvre une détection automatique avant l’envoi des messages
- Le projet traite cela, à l’article 10a, comme un scan côté client
- Patrick Breyer critique cette approche, estimant qu’elle affaiblit le chiffrement de bout en bout existant et transforme les smartphones en outils de surveillance
Ce qui est exclu et les points de débat restants
- Dans la dernière version, certaines catégories de scan présentes dans la proposition initiale disparaissent
- Le scan des messages texte pour détecter des signes de grooming, jusqu’ici très peu utilisé, devrait être supprimé
- Le scan des communications vocales, qui n’a encore jamais été mis en œuvre, devrait lui aussi être supprimé
- En concession à la France, les chats des services de sécurité et du personnel militaire pourraient être exclus de chat control
- Lors de la dernière discussion, le 24 mai, le Council Legal Service a indiqué qu’un scan chat control indiscriminé des personnes non suspectes restait prévu et constituait une atteinte aux droits fondamentaux
- Malgré cela, plusieurs gouvernements de l’UE semblent déterminés à poursuivre
- Les gouvernements de l’UE prévoient de continuer les discussions le 4 juin
- Le député européen Patrick Breyer critique la proposition belge, estimant qu’elle met en œuvre l’essentiel de la proposition initiale de chat control de la Commission européenne
- Selon lui, utiliser une messagerie au XXIe siècle uniquement pour du texte brut n’est pas une option
- Il affirme que supprimer des éléments excessifs qui ne sont pas réellement utilisés ne relève que de l’affichage
- Il avertit que les chats privés et les photos de citoyens innocents pourraient être passés au crible par une technologie peu fiable et fuiter
- Il estime que si les gouvernements de l’UE entrent en négociation de trilogue sur cette base, le Parlement risque d’abandonner progressivement sa position initiale dans des négociations à huis clos et d’accepter un compromis mettant en danger la sécurité en ligne
3 commentaires
Dans ce cas-ci, on dirait vraiment que le problème est grave, mais ils semblent vouloir passer en force. J’ai apprécié ce que l’UE a fait à Apple, mais là, je trouve qu’ils vont beaucoup trop loin.
Peut-être que tout a commencé par la mauvaise décision qu’ils ont prise avec Apple… snif snif
Avis sur Hacker News
Si « les discussions des employés des autorités de sécurité et de l’armée sont aussi exclues du contrôle des chats », cela ne veut-il pas dire que les secteurs de la sécurité et de l’armée, qui sont justement les plus susceptibles d’avoir de vraies conversations privées à protéger, passent entre les mailles du filet ?
Donc, comme dans [1], si l’on s’auto-héberge, on n’a pas à se conformer à cette loi.
Mais cela veut-il dire qu’un responsable de la sécurité pourrait utiliser un service public plutôt qu’une infrastructure auto-hébergée et, au motif qu’il est exempté, y envoyer des données confidentielles ?
Et comme l’a dit @WA, cela revient-il à fournir les listes de contacts de ces fonctionnaires à toutes les organisations commerciales ?
On dirait vraiment une blague stupide.
[1] : See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
Même si l’on admet que cette affirmation est vraie, à quoi sert une fonctionnalité permettant d’exempter certains groupes ? À moins que l’objectif soit de leur accorder délibérément une exception pour qu’ils puissent produire et diffuser du matériel pédopornographique, cela n’a aucun sens.
La conclusion la plus plausible est plutôt que les affirmations sur la protection de la vie privée et la limitation des finalités sont fausses.
J’ai du mal à croire qu’ils pensent qu’une telle mesure ralentira quoi que ce soit. Certaines lois peuvent être vues comme un compromis entre sécurité et liberté, mais dans ce cas précis, je ne vois même pas ce qui deviendrait plus difficile pour les criminels.
Si l’on peut envoyer du texte tout en partageant du contenu problématique sur ces plateformes, on peut aussi envoyer des liens. Même sur des plateformes qui « n’autorisent pas les liens », les gens créeront de nouvelles conventions d’écriture, ou autre, pour les partager en texte brut. On peut aussi simplement utiliser une autre plateforme, donc je ne vois pas où serait l’effet dissuasif.
Au final, ce n’est qu’une réglementation pénible produite par des gens qui ne comprennent pas la technologie.
Bien sûr, on n’en attrapera pas 100 %, mais c’est le cas de presque toutes les lois ou mesures. Et les mesures qui atteignent ce niveau s’accompagnent généralement d’un nombre énorme de faux positifs.
Les liens ne sont pas difficiles à scanner non plus, et on peut difficilement s’attendre à ce que publier « juste comme ça » du matériel pédopornographique n’importe où ne finisse pas par poser problème. Si l’on sait exactement ce que l’on fait, on revient au paragraphe précédent.
Il est difficile de nier que cette loi attrapera au moins quelqu’un, et il est difficile d’évaluer à l’avance combien de personnes exactement. Cela ne veut pas dire que c’est une bonne loi, mais les objections du type « elle n’attrapera personne » sont de mauvais arguments.
Premièrement, donner l’impression que quelqu’un fait quelque chose. Les électeurs n’acceptent pas que leurs représentants n’aient pas le pouvoir de résoudre tel ou tel sujet brûlant. Même si une nouvelle loi ou réglementation a peu ou pas d’effet, si les législateurs peuvent faire dire de bonnes choses à des « experts », beaucoup d’électeurs qui ne comprennent pas l’enjeu seront plus ou moins satisfaits.
Deuxièmement, continuer à construire et à normaliser des technologies de surveillance jusqu’à les rendre ordinaires. Plus les gouvernements imposent de choses qu’ils ne pourraient pas faire à titre privé, plus il leur devient facile de faire presque tout ce qu’ils veulent.
Reste la question de leur accessibilité sur téléphone, mais cela ne semble pas si difficile.
Les contenus publics peuvent aussi être scannés dans le cadre d’une défense en profondeur.
Quand les responsables investis d’un pouvoir se sentent impuissants à assumer leurs responsabilités, ils paniquent, placent des innocents dans des situations inconfortables ou néfastes et rendent tout le monde moins en sécurité. Au lieu d’attraper le nombre relativement réduit d’auteurs qui causent les vrais problèmes, c’est ce qui se produit.
J’ai vu trop d’exemples de ce genre au fil des années, et plus la colère du public était forte, plus le tort causé à l’ensemble de la population dépassait celui infligé à la toute petite minorité concernée ou responsable. Pendant ce temps, eux continuent simplement en modifiant un peu leurs méthodes, et c’est le public qui est broyé.
Mieux vaudrait fournir des outils et de l’éducation aux parents pour qu’ils puissent protéger leurs enfants, plutôt que d’externaliser cela aux gouvernements ou à des entreprises cotées.
Les citoyens qui ont élu les personnes à l’origine de cela doivent donc, à la prochaine occasion, virer ces responsables politiques et leur expliquer pourquoi ils ont été virés. La police est un scorpion, et un scorpion agit selon sa nature. Il faut virer les imbéciles qui rédigent les lois que la police applique ; la véritable origine de cette nouvelle loi, ce n’est pas la police, ce sont eux.
Le genre de chaos que ce type de loi peut créer ressemble à ça
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
Le vrai problème, c’est que le support de Google est notoirement inexistant ou incompréhensible. Ajoutez à cela des décisions binaires du type « banni à vie » et une structure qui rend difficile tout recours auprès d’une entité raisonnablement indépendante. Il existe énormément de raisons innocentes pour lesquelles un compte peut être bloqué, et ceci n’en est qu’une parmi d’autres
Tout service qui permet à n’importe qui d’uploader ou de transmettre du contenu devient un attrape-mouches pour les pires êtres humains. Une forme de garde-fou est vraiment nécessaire
Pour aller plus loin, si vous fournissez une immense plateforme mêlée à de nombreux aspects de la vie, vous devez accepter un certain niveau de responsabilité, que cela vous plaise ou non. Au minimum, vous devez fournir un support à peu près utile, et ne pas devenir un hébergeur massif de contenus pédocriminels
Quand je travaillais comme réparateur, j’ai cliqué au hasard sur la page d’accueil de Google Video pour vérifier que Flash Player fonctionnait, et je suis tombé sur une vidéo d’un homme qui se faisait sauter la tête. Même sur des sites comme Kazaa ou des sites de warez, on tombait assez souvent sur des trucs du genre « la petite Alice de 12 ans montre fièrement ses petits seins » sans même les chercher
Décider où placer le point d’équilibre dans tout cela est une question difficile, mais faire comme si cet équilibre n’existait pas n’aide pas
Cette proposition est poussée par le Conseil, mais il est encore possible d’influencer le résultat final. Il suffit de voter pour des partis qui ne sont pas impliqués dans cette saloperie afin qu’elle soit rejetée. Le Parti pirate européen figure encore sur les bulletins de vote dans certaines régions
Si ça devient une loi, je m’attends au retour de l’art ASCII
Il ne s’agit pas de partager des photos de vacances avec des amis, mais de choses comme
« Voici un lien expliquant comment gérer la fiscalité d’une association », « Voici le nouveau logo de l’école », « Voici le lien vers le calendrier du tournoi de football »
Un peu hors sujet, mais je me demandais si l’UE avait déjà déréglementé quoi que ce soit. Est-ce qu’elle ne fait qu’ajouter de nouvelles lois et de nouveaux articles ? Sont-ils rémunérés au nombre de lignes de code ? Quels sont des exemples de lois abrogées ou de réglementations assouplies ?
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
Un résumé est disponible ici : http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
Cette directive a abrogé plusieurs législations nationales relatives aux contenances des produits. Par exemple, en France, on pouvait vendre du shampooing en flacons de 250 ml ou 500 ml, mais pas de 295 ml ; les champignons pouvaient être vendus en boîtes de 250 g ou 500 g, mais pas de 230 g ou 490 g
Désormais, c’est possible, et le résultat est une déréglementation qui a permis la shrinkflation
Pour moi, la manière dont l’UE et les États-Unis abordent la sécurité alimentaire résume bien leurs deux philosophies. Dans l’UE, pour qu’un aliment soit autorisé, il faut prouver qu’il est sûr ; aux États-Unis, pour qu’un aliment soit interdit, il faut prouver qu’il ne l’est pas
De nos jours, la déréglementation n’est pas très populaire, mais elle s’est tout de même produite ici et là à l’occasion
Alors qu’en est-il de nos droits fondamentaux, l’article 7 ?
Je soutiens entièrement cette loi, à condition d’ajouter une seule chose
Toutes les données partagées dans l’UE par les responsables politiques, les fonctionnaires et les membres de leurs familles doivent être rendues publiques, analysées pour des enquêtes de corruption et conservées de manière permanente
Si nous sommes tous présumés pédophiles, alors tous les politiciens sont des criminels
Bien sûr, certains seront accusés à tort et nous perdrons tous notre liberté, mais à chaque élection, il y aura une petite chance que le gouvernement précédent soit audité et que la corruption et d’autres crimes soient révélés
Ça me semble valoir le coup
Voyons le bon côté des choses : le contrecoup poussera la nouvelle génération à envoyer ces vieux fossiles dans la poubelle de l’histoire
https://youtube.com/watch?v=-wntX-a3jSY
Plus vous serrerez fort, plus de systèmes stellaires vous glisseront entre les doigts
Bien sûr, ce n’est pas très différent des générations précédentes, mais ce n’est absolument pas une grande vague anti-autoritaire
Quel que soit l’âge, les gens ne se rebellent de manière fiable que lorsqu’ils subissent réellement un désagrément. La plupart accepteront la surveillance et retourneront partager des mèmes idiots. En tout cas, jusqu’à ce qu’il soit trop tard
Si ce genre de proposition revient sans cesse, c’est parce qu’il existe des préoccupations légitimes que l’autorégulation du secteur n’a pas su résoudre
Si personne ne veut discuter de bonnes mesures, les responsables politiques, même s’ils sont nouveaux, réessaieront
Ce que le déploiement irresponsable de l’IA générative fait dans ce domaine est vraiment effroyable. Et pourtant, tout est balayé d’un revers de main avec des arguments du type « de toute façon, on ne peut pas arrêter les maths, donc on ne fera rien », ou implicitement « la fin justifie les moyens, donc on peut sacrifier quelques enfants pour obtenir l’AGI ». Vu de l’extérieur, c’est désastreux
Si l’industrie tech ne prend pas ses responsabilités, la vie privée mourra bientôt. Les responsables politiques n’ont besoin de gagner qu’une seule fois
Il suffit d’attendre que les premiers centaines de faux positifs et leurs histoires fassent la une, et de voir quel impact cela aura sur les prochaines élections. Certains partis feront campagne là-dessus
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
Pour mettre en œuvre cette loi, il leur suffit de réussir une seule fois, et ensuite elle restera en place. Nous devons réussir à l’abroger à chaque fois, sans jamais échouer une seule fois