- Copilot+ Recall : nouvelle fonctionnalité de Microsoft Windows 11 qui capture en continu l’écran du PC de l’utilisateur afin de transformer toute son activité en base de données consultable.
- Elle permet de retrouver facilement tout ce que l’utilisateur a déjà vu.
- La plupart des utilisateurs réagissent négativement à cette fonctionnalité, en raison des inquiétudes liées à la confidentialité et au risque d’atteinte à la vie privée.
Utilisateurs potentiels de Copilot+ Recall
- Pour un dirigeant d’entreprise débordé et manquant de temps, pouvoir rechercher instantanément ce qu’il faisait sur un sujet précis il y a un mois peut être utile.
- Mais cela ne concerne qu’une très petite partie de la base d’utilisateurs de Windows.
- La plupart des utilisateurs de Windows veulent jouer, regarder du porno et vivre une vie humaine faite aussi d’erreurs.
- L’idée qu’une autre personne puisse accéder à leur appareil et consulter leurs souvenirs personnels enregistrés en images est, pour beaucoup, profondément terrifiante.
L’erreur de Microsoft
- Au nom de l’IA, Microsoft est en train de se nuire d’une manière qui porte atteinte à ses vrais clients.
- Cela pourrait mettre le feu à toute la marque Copilot.
- Il est souligné que cette fonctionnalité rompt fondamentalement la promesse de sécurité de Windows.
[ Questions-réponses sur les problèmes de sécurité de Copilot+ Recall ]
Q. Les données ne sont-elles pas traitées entièrement en local sur le laptop ?
- Si. La décision intelligente a été prise de faire exécuter à la périphérie le code d’Azure AI et assimilé.
Q. Donc les hackers et les malwares ne peuvent pas y accéder, si ?
Q. Mais c’est chiffré, non ?
- Quand vous êtes connecté au PC et que vous exécutez un logiciel, c’est déchiffré pour vous.
- Le chiffrement au repos n’aide que si quelqu’un vole physiquement le laptop.
- Des choses comme les chevaux de Troie InfoStealer sont un problème majeur depuis plus de dix ans, et peuvent désormais être facilement modifiés pour prendre en charge Recall.
Q. Mais Microsoft a dit que seul l’utilisateur pouvait accéder aux données ?
- C’est faux. Il est possible de montrer qu’un autre compte utilisateur du même appareil peut accéder à la base de données.
Q. Alors comment ça fonctionne ?
- Une capture d’écran est prise toutes les quelques secondes.
- Elle est automatiquement passée à l’OCR par Azure AI puis enregistrée dans une base de données SQLite du dossier utilisateur.
- Ce fichier de base de données stocke en texte brut l’historique de tout ce que l’utilisateur a vu sur son PC.
Q. À quoi ressemble la base de données ?
- Microsoft a déclaré via des médias que les hackers ne pouvaient pas exfiltrer à distance l’activité de Copilot+ Recall.
- Mais en réalité, c’est une base de données en texte brut contenant tout ce qui a été vu sur le PC. Très facile à automatiser pour l’exfiltration.
Q. Comment obtient-on le fichier de base de données ?
- Ce sont des fichiers présents dans le nouveau dossier CoreAIPlatform de AppData.
Q. Mais c’est tellement chiffré que personne ne peut y accéder, si ?!
- On peut le voir dans une vidéo où deux ingénieurs Microsoft accèdent au dossier de la base de données Recall et manipulent la base SQLite.
- Il n’y a même pas besoin de privilèges système.
Q. Mais un utilisateur normal n’exécute pas les choses en administrateur !
- C’est ce qu’indique la propre page de lancement de Recall sur le site de Microsoft.
- En réalité, il n’est même pas nécessaire d’être administrateur pour lire la base de données.
Q. Mais dans cette vidéo, il y avait une invite UAC ; ce n’est pas une frontière de sécurité ?
- D’après le propre site de Microsoft et le MSRC, l’UAC n’est pas une frontière de sécurité.
Q. Alors où est la sécurité, dans ce cas ?
- Dans le monde réel, il y a un vide assez grand pour y faire passer un avion, donc cela ne fonctionne pas correctement.
Q. Les informations financières, par exemple, ne sont-elles pas automatiquement capturées en screenshot et passées à l’OCR ?
- Non.
- D’après la documentation, Recall ne modère pas les contenus.
- Il ne masque pas les mots de passe ni les numéros de compte bancaire.
- sauf si le site concerné respecte les protocoles Internet standard (par exemple en masquant les mots de passe avec des
*)
Q. Quelle est la taille de la base de données ?
- Elle se compresse très bien : quelques jours de travail représentent environ 90 kb.
- Avec une connexion haut débit moyenne, on peut exfiltrer en quelques secondes plusieurs mois de documents et de frappes clavier.
Q. Et la vitesse de recherche ?
- Elle est très rapide sur l’appareil.
Q. Avez-vous essayé d’exfiltrer votre propre base de données Recall ?
- Oui. J’ai automatisé l’exfiltration et créé un site web permettant de téléverser la base de données pour la rendre immédiatement interrogeable.
- Je ne publie volontairement pas les détails techniques afin de laisser à Microsoft le temps de corriger la fonctionnalité avant sa sortie.
- Il y aurait en réalité beaucoup à montrer, et je pense que si cette fonctionnalité est rendue publique, davantage de communautés cyber s’y intéresseront avec beaucoup d’enthousiasme, mais je trouve cela vraiment triste car cela pourrait causer de vrais dommages.
Q. Quel type de choses trouve-t-on dans la base de données ?
- Tout ce que l’utilisateur a vu, classé par application.
- Tout le texte que l’utilisateur a vu (le mode InPrivate de Microsoft Edge est exclu, mais pas Google Chrome).
- Toutes les interactions utilisateur, comme la réduction des fenêtres.
- Il existe une API d’activité utilisateur, et des applications tierces peuvent enrichir les données et consulter les données stockées.
- Même des tiers stockent tous les sites web visités.
Q. Si l’on supprime des messages email/WhatsApp/Signal/Teams, sont-ils aussi supprimés dans Recall ?
- Non, ils restent indéfiniment dans la base de données.
Q. Les messages à suppression automatique dans les applications de messagerie sont-ils retirés de Recall ?
- Non, Recall les aspire et les rend exploitables.
Q. Donc cela permettrait des fuites massives de données de sites web ?
- Oui. À l’avenir, lorsqu’une fuite massive de données montrera clairement l’exfiltration de données clients, je considérerai que l’entreprise qui a traité ces données en porte la responsabilité.
- Mais si l’accès à un service ou à une application s’est fait depuis un appareil Windows équipé de Recall, un hacker peut tout voir et constituer un dump de données sans même que l’entreprise exploitant le service ne s’en rende compte.
- Les données sont déjà structurées de manière cohérente dans la base Recall, ce qui les rend faciles à exploiter pour les attaquants.
- Il faut se préparer à des incidents de fuite géante pilotés par l’IA.
Q. Microsoft a-t-il induit la BBC en erreur sur la sécurité de Copilot ?
Q. Microsoft a-t-il induit ses clients en erreur sur la sécurité de Copilot ?
- Oui. Par exemple, c’est présenté comme une expérience optionnelle, alors qu’elle est activée par défaut et que les gens doivent choisir de la désactiver.
- Le CEO de Microsoft a parlé de « screenshots » à propos de ce produit, alors que le produit lui-même n’utilise que le terme « snapshots ».
- Microsoft doit expliquer clairement ce que c’est afin que les clients puissent faire un choix éclairé.
Q. Recall ne concerne qu’un seul appareil matériel, non ?
- C’est faux. Il existe actuellement 10 appareils Copilot+ commandables chez tous les grands fabricants.
- Microsoft indique aussi sur son site travailler à la prise en charge des chipsets AMD et Intel.
- Recall est prévu pour Windows 11.
Q. Comment désactiver Recall ?
- Il faut cliquer sur l’option de désactivation de Recall lors de la configuration initiale d’un appareil Copilot+ compatible.
- En entreprise, il est activé par défaut ; il faut donc définir une stratégie pour le désactiver :
Turn off Saving Snapshots for Windows.
Q. Quel impact sur la vie privée ? Est-ce contraire au RGPD ?
- Je ne suis ni expert en confidentialité ni juriste.
- Les experts en confidentialité avec qui j’ai parlé sont très inquiets des effets sur les foyers, notamment dans les situations de violence domestique.
- Du point de vue des entreprises, il faut considérer le risque de traiter les données clients de cette manière.
- Microsoft ne se considérera pas responsable en tant que sous-traitant des données, puisque le traitement se fait sur l’appareil en edge.
Q. Microsoft est-elle une grosse entreprise maléfique ?
- Non.
- Ce sont des gens très intelligents, et parfois des gens très intelligents font des erreurs. L’important, c’est qu’ils reconnaissent l’erreur et voient ce qu’ils vont faire ensuite.
Q. N’étiez-vous pas un ancien employé qui déteste Microsoft ?
- Non, j’ai même écrit ce mois-ci un billet de blog faisant l’éloge de Microsoft.
Q. Est-ce vraiment aussi nocif qu’on le pense ?
- Allez chez vos parents, chez vos grands-parents ou ailleurs, regardez leur PC Windows, examinez les logiciels installés au cours de l’année écoulée, utilisez l’appareil puis lancez une analyse antivirus.
- S’il existe une industrie de la sécurité d’un billion de dollars et que la plupart des problèmes tournent autour des malwares et des endpoints, ce n’est pas pour rien.
Q. Que devrait faire Microsoft ?
- À mon avis, Microsoft devrait retirer Recall, puis le retravailler correctement pour le proposer plus tard.
- Il faudrait aussi examiner les décisions internes qui ont conduit à cette situation.
- Plus tôt ce mois-ci, le CEO de Microsoft a envoyé un email à tous les employés disant : « Si vous devez choisir entre la sécurité et une autre priorité, la réponse est claire. Choisissez la sécurité. »
- On verra s’il prend lui-même le contenu de cet email au sérieux.
- Il faut accepter le choc maintenant et faire preuve d’humilité, sinon la confiance des clients dans Copilot et dans la marque sécurité risque d’être compromise.
- Franchement, il n’y a presque aucun client qui pleurera de ne pas pouvoir utiliser Recall immédiatement, mais si la réponse de Microsoft est de ne rien faire, de lancer le produit, de le retoucher à peine ou de noyer le problème dans la communication, ce serait extrêmement préoccupant.
1 commentaires
Avis Hacker News
Stratégie de Microsoft : Microsoft utilise une stratégie consistant à forcer fortement au départ, puis à proposer plus tard une solution assouplie afin d’atteindre ses objectifs.
Expérience avec Windows et ChromeOS : D’après une expérience passée chez Microsoft, Windows n’était pas un mauvais système d’exploitation. Mais après avoir essayé ChromeOS, retour final à Debian.
Passage à Linux : Récemment, Arch Linux et Steam ont été installés sur un ordinateur portable Framework 16, et les jeux tournent sans problème. Le sentiment est désormais d’être complètement sorti de l’écosystème Microsoft.
Changement d’image de Microsoft : Avec le rachat de GitHub et l’introduction du sous-système Linux, Microsoft semblait être redevenue une entreprise appréciable, mais la fonction Recall récente et la connexion obligatoire à un compte lors de l’installation de Windows 10 ont ravivé une perception négative.
Problèmes de la fonction Recall : Microsoft faisait autrefois des efforts pour préserver la compatibilité avec les logiciels tiers, mais l’introduction de Recall, qui porte atteinte à la vie privée des utilisateurs, est décevante.
Steve Jobs et Microsoft : Steve Jobs comprenait ce que les gens ressentaient vis-à-vis des produits, contrairement à Microsoft. L’entreprise ne semblait pas tenir compte du ressenti des utilisateurs par le passé, et cela ne paraît pas avoir changé.
Préoccupations liées à la vie privée : Les problèmes de confidentialité sont graves, et il est possible que la situation s’améliore avant d’empirer davantage. Mais si cette fonctionnalité est bien mise en œuvre, elle pourrait devenir la killer app de l’IA moderne.
Importance de l’accès à l’information : Un bon accès à l’information est une capacité puissante. Les informations personnelles ont énormément de valeur, et il faut un moyen de les stocker et d’y accéder automatiquement. Avec le temps, il faudra peut-être s’y adapter.
Appareil d’espionnage : En 2017, les gens faisaient volontairement entrer des appareils d’espionnage chez eux ; en 2024, ils activent un keylogger.
Le film Antitrust et la réalité : Le film Antitrust de 2001 racontait l’histoire d’une entreprise semblable à Microsoft qui surveillait tous les ordinateurs et volait du code. Vingt-trois ans plus tard, c’est devenu la réalité.