Le projet européen de scan des CSAM, un tournant pour les droits démocratiques selon les experts

• Le projet de l’Union européenne visant à scanner les contenus pédopornographiques (CSAM) est critiqué comme une menace pour les droits démocratiques
• La proposition exigerait des services de messagerie qu’ils scannent les CSAM connus et inconnus et détectent en temps réel les tentatives de grooming
• Les détracteurs affirment que cette approche porte atteinte aux libertés fondamentales et place tous les utilisateurs sous surveillance
• La Commission européenne défend la proposition comme une réponse appropriée à un problème en expansion
• Le Contrôleur européen de la protection des données (EDPS), Wojciech Wiewiórowski, a averti que la proposition pourrait entraîner des conséquences irréversibles pour la vie privée et la société démocratique
• La proposition pourrait aussi transformer fondamentalement Internet et les communications numériques
• L’EDPS et le Comité européen de la protection des données avaient déjà exprimé des inquiétudes sur la proposition, notamment concernant son impact sur le chiffrement
• La proposition de la Commission a été critiquée parce qu’elle criminaliserait l’exploration de leur identité sexuelle par les enfants et ne traiterait pas de manière adéquate les sites d’hébergement d’images comme de potentiels dépôts de CSAM
• Les critiques soutiennent également que la proposition ne comprend pas la nature multidimensionnelle des violences sexuelles sur enfants et pourrait produire des effets secondaires
• Des inquiétudes ont aussi été soulevées concernant les limites de la détection des CSAM fondée sur l’IA et la possibilité de faux positifs
• Les détracteurs affirment également que les droits et la voix des enfants sont ignorés dans la législation
• La proposition a été décrite comme « sans précédent dans le monde libre » et pourrait, en pratique, entraîner la fin de la messagerie privée confidentielle et du chiffrement sécurisé

[GN⁺]

Avis sur Hacker News

• L’idée que le projet de l’Union européenne (UE) de scanner les contenus d’abus sexuels sur mineurs (CSAM) pourrait menacer les droits démocratiques
• Les critiques affirment que ce projet pourrait exposer des images innocentes à des centaines d’enquêteurs, créant ainsi davantage de victimes
• Inquiétudes quant à l’échec des projets de scan côté client, qui ne parviennent pas à traiter efficacement les scénarios liés aux CSAM ou aux utilisateurs malveillants
• Les critiques soutiennent que ce projet pourrait entraîner des faux positifs, des coûts inutiles et des dommages potentiels pour des personnes innocentes
• Certains pensent que le scan des CSAM sert de pare-feu pour renforcer la surveillance et le contrôle des citoyens
• Inquiétudes sur le fait que le scan côté client ne fonctionnera pas, puisque les utilisateurs peuvent chiffrer les fichiers ou l’utiliser pour vérifier les scanners
• Les critiques affirment que le seul usage réellement efficace de cette technologie est d’identifier des citoyens respectueux de la loi dont les causes politiques ne sont pas alignées avec le gouvernement en place
• Crainte que les scanners CSAM puissent être réutilisés pour bloquer des contenus politiquement sensibles
• L’intention de prévenir les abus sexuels sur mineurs est louable, mais l’approche est jugée défaillante et irréaliste
• Les critiques suggèrent de se concentrer sur la réforme de la santé mentale, de l’éducation et des services sociaux à l’enfance plutôt que sur une solution technologique
• Le contrôleur européen de la protection des données, Wojciech Wiewiórowski, est perçu comme une voix de la raison au milieu de la controverse