- J’ai récemment découvert un article publié par des chercheurs de NYU et Cornell, intitulé "How to think about end-to-end encryption and AI". Cet article aborde des questions importantes autour de l’IA et du chiffrement de bout en bout ; même si je ne suis pas d’accord avec certaines conclusions, il traite d’un sujet très important.
Qu’est-ce que le chiffrement de bout en bout, et quel lien avec l’IA ?
- Au cours des dix dernières années, l’un des sujets les plus importants en matière de vie privée a été l’essor des plateformes de communication chiffrées de bout en bout. Avant 2011, la plupart des appareils connectés au cloud téléversaient leurs données en clair.
- Le chiffrement de bout en bout est une technologie qui empêche le serveur de voir le contenu en clair des messages. Cependant, cette technologie peut rendre le traitement des données plus difficile pour le serveur.
- Avec les progrès de l’IA, il devient de plus en plus probable qu’une grande partie du traitement des données soit déportée vers des serveurs distants. Cela peut poser des problèmes de vie privée.
L’impact de l’IA sur la messagerie chiffrée de bout en bout
- Les systèmes chiffrés de bout en bout sont conçus pour que le contenu des messages ne soit accessible, pendant la transmission, à aucun autre appareil que ceux des participants. En revanche, ils ne garantissent pas la manière dont l’utilisateur choisit de traiter ses données.
- La façon dont l’IA traite les données peut soulever des questions complexes liées au consentement des utilisateurs. Certaines entreprises sauront peut-être bien accompagner leurs utilisateurs, mais d’autres non.
Matériel de confiance et "Private Cloud Compute" d’Apple
- Apple a introduit une approche appelée "Private Cloud Compute" pour répondre aux enjeux de vie privée liés à l’IA. Il s’agit d’une méthode qui protège les données en s’appuyant sur du matériel de confiance.
- Ce système rend l’exfiltration des données difficile, aussi bien pour des attaquants que pour les employés d’Apple. Il offre toutefois des garanties de sécurité encore inférieures à celles du chiffrement.
Pour qui travaillent les agents IA ?
- La manière dont les agents IA traitent les données des utilisateurs peut ouvrir la voie à des demandes d’accès de la part des gouvernements. Cela soulève des questions importantes en matière de vie privée.
- Les choix techniques peuvent ne pas suffire à garantir la vie privée, et il n’y a pas de certitude que la société fera les bons choix politiques.
1 commentaires
Commentaire Hacker News
À mesure que les systèmes de détection automatisés se multiplient, le nombre de personnes chargées de traiter les cas individuels diminue et les responsables s’appuient davantage sur la détection automatique. Cela peut engendrer une énorme frustration lorsqu’un faux positif survient, car il devient difficile de résoudre le problème. En particulier lorsque cela est utilisé par les forces de l’ordre, les conséquences peuvent être dévastatrices pour la vie d’une personne
Par exemple, quelqu’un a été incorrectement signalé sur Amazon pour des avis illégaux et a essayé, sans succès, de contacter un humain pour régler le problème. Si une telle situation se produit dans une affaire criminelle grave, elle peut ruiner la vie de quelqu’un
Les systèmes de détection automatisés ne devraient pas remplacer les humains, mais les compléter afin de permettre d’accomplir davantage avec moins de personnel. Or, aujourd’hui, les incitations sont insuffisantes et les décideurs ne traitent pas eux-mêmes les cas concrets, donc ils ne perçoivent pas le problème
La véritable menace peut apparaître lorsque l’IA cesse simplement d’accélérer le travail individuel pour devenir un outil de contrôle organisationnel. Cela peut rendre les organisations plus efficaces, mais aussi affaiblir la conviction que les employés sont de véritables êtres humains
Le véritable danger de la surveillance de masse consiste à collecter des informations sur les personnes gênantes afin qu’elles ne le soient plus. Toutes les conséquences de la surveillance de masse ne se sont pas encore manifestées
OpenAI indique de manière transparente que les données sont conservées pendant 30 jours et qu’elles peuvent être examinées par des employés et des sous-traitants tiers
Des questions difficiles se posent quant à savoir si les systèmes d’IA travaillent réellement pour nous. Les tendances actuelles laissent peu d’espoir pour un avenir neutre et respectueux de la vie privée
Apple a annoncé qu’il publierait des images logicielles afin que les chercheurs en sécurité puissent vérifier les bugs, mais pas le code source. Apple affirme ne pas conserver les données des utilisateurs et que les ingénieurs du support ne peuvent pas les consulter
La question de savoir pour qui l’IA travaille est importante, car les entreprises d’adtech sont très susceptibles de faire fonctionner l’IA à l’encontre des intérêts des utilisateurs. Cela tient aux attentes autour des services « gratuits » financés par la publicité
La notion juridique de savoir pour qui travaillent réellement les agents IA est importante. Les propositions actuelles incluent une surveillance face à diverses menaces
Avec la surveillance de masse, les données stockées dans le cloud deviennent susceptibles d’être scannées, ce qui accroît le risque d’être surveillé pour une simple opinion dissidente
Les garanties techniques ne sont pas la même chose que les promesses faites aux utilisateurs. Le PCC d’Apple améliore la sécurité, mais ne garantit ni la transparence ni la responsabilité. La transparence est un enjeu plus important encore que la sécurité
Pour que l’IA soit au service de la société, il faut corriger l’asymétrie de l’information. Si l’on veut de bonnes pratiques de la part des entreprises, il faut les contraindre à fonctionner de manière transparente
Les choix techniques peuvent ne pas résoudre les problèmes de vie privée. L’essentiel est de savoir à qui sera donné l’accès aux agents IA. Techniquement, il est possible de faire tourner les agents en local et de bloquer les conversations avec des personnes qui n’ont pas accès au système