Microsoft retarde le lancement de la fonction d’IA Recall en raison de préoccupations de sécurité
(reuters.com)- Microsoft prévoit désormais de proposer d’abord un aperçu de la fonction Recall dans le Windows Insider Program (WIP), alors qu’elle devait être largement déployée le 18 juin pour les utilisateurs de Copilot+ PC
- Il s’agit d’une décision fondée sur l’engagement de Microsoft à offrir à tous les clients une expérience fiable, sûre et robuste, ainsi qu’à recueillir davantage de retours avant de proposer la fonction à tous les utilisateurs de Copilot+ PC
- Les Copilot+ PC constituent une catégorie d’ordinateurs personnels dotés de fonctions d’intelligence artificielle (IA), dévoilée en mai
- Le WIP est un programme public de test logiciel permettant à des millions de « fans de Windows » de découvrir en avant-première les futures fonctions du système d’exploitation
- Microsoft prévoit de proposer prochainement un aperçu de Recall sur tous les Copilot+ PC après avoir recueilli les retours de la communauté WIP
Aperçu de la fonction Recall
- La fonction Recall enregistre sur l’ordinateur un historique de l’usage qui en est fait, de la recherche web aux conversations vocales, afin que l’utilisateur puisse y effectuer des recherches des mois plus tard lorsqu’il a besoin de retrouver quelque chose
Préoccupations liées à la vie privée
- Des inquiétudes concernant la vie privée ont été soulevées immédiatement après l’annonce de cette fonction
- Certains utilisateurs des réseaux sociaux ont exprimé leur crainte que cette fonction puisse permettre des activités d’espionnage
- Le milliardaire de la tech Elon Musk l’a qualifiée d’« épisode de Black Mirror », en la comparant à la série Netflix qui explore les effets néfastes des technologies avancées
1 commentaires
Avis de Hacker News
Cet article est confus et vague, et cela semble précisément intentionnel. Il met l’accent sur la sécurité et répète que la sécurité est la priorité absolue, alors qu’on sait déjà que ce n’est pas le cas
Il n’indique pas quels problèmes de sécurité existaient, ni même ne suggère qu’un problème concret ait existé ou ait été détecté
On dirait soit qu’ils cherchent une nouvelle approche marketing, soit qu’ils essaient d’amortir le choc avec un « nous allons écouter les retours des utilisateurs », puis de réimposer la chose plus lentement une fois la colère retombée
Tous les principaux détenteurs de pouvoir veulent qu’une chose comme Recall devienne la norme. Les patrons veulent surveiller leurs employés, les gouvernements veulent surveiller leurs citoyens et leurs ennemis, et les CEO des entreprises tech veulent collecter des données pour l’entraînement de l’IA et le ciblage publicitaire
Les parties prenantes clés ont probablement des avis divergents entre « réessayer plus tard », « le reconvertir à un autre usage » et « laisser tomber », mais dans une entreprise de la taille de Microsoft, la prise de décision est très lente, donc la suite ne peut qu’être floue. Collectivement, ils ne le savent presque certainement pas encore
J’ai autrefois travaillé dans une entreprise qui développait une base de données assez connue pour applications mobiles. C’était une API simple qui stockait les données sur le téléphone et les synchronisait avec le serveur sans que le développeur n’ait grand-chose à faire
Deux collègues ont passé plusieurs semaines à créer une application de chat plausible qui synchronisait les messages de plusieurs utilisateurs sur plusieurs appareils, et ils allaient la présenter en démo publiquement, jusqu’à ce que quelqu’un fasse remarquer qu’il n’y avait absolument aucune sécurité. Le serveur acceptait simplement le dernier état envoyé par le client, ce qui signifiait que, dans le chat, n’importe quel client pouvait réécrire l’historique complet et que le serveur répondrait « merci ! » en le diffusant à tout le monde lors de la synchronisation suivante
C’étaient des adultes diplômés d’institutions respectées, et pourtant cette idée ne leur était même pas venue. À mon avis, Recall s’explique très bien par le rasoir de Hanlon et une culture où l’on n’aime pas exprimer un avis contraire. Il est évident que beaucoup de gens souhaitent que les ordinateurs fonctionnent ainsi, et ils ont peut-être voulu le sortir sans écouter les critiques internes
Tant que cela ne changera pas, il faudra prendre avec des pincettes l’idée que Recall puisse devenir vraiment sûr
Comparé à Apple Intelligence, Apple ne se contente pas d’exposer la plupart des API locales en Swift : ils conçoivent aussi du matériel dédié et un OS proche d’un unikernel, avec des couches de sandboxing qui n’exposent que les fonctions du système nécessaires au traitement IA et à la communication entre clusters
À l’inverse, Microsoft en est plutôt à « faites-nous confiance, nous ferons ce qu’il faut »
Microsoft ne consulte pas les utilisateurs avant d’ajouter du code à Windows. Les utilisateurs non plus ne contactent pas Microsoft pour dire quel code ils veulent ou ne veulent pas
Et même si c’était le cas, l’entreprise n’agirait pas en fonction de leurs suggestions. Les réactions des journalistes, blogueurs et commentateurs à Recall ressemblent bien plus à « c’est une mauvaise idée » qu’à « il faut le retarder »
Microsoft fera ce qu’il veut, comme toujours
Le titre soumis est un peu trompeur, et la mise à jour n’aide pas vraiment à clarifier les choses
Le texte original est « Update on the Recall preview feature for Copilot+ PCs », et il dit que Recall passe d’une preview largement disponible sur les Copilot+ PCs le 18 juin 2024 à une preview d’abord proposée au Windows Insider Program dans les semaines à venir
Autrement dit, la sortie publique peut être retardée, mais le déploiement auprès des Insiders a toujours lieu. Cela pourrait encore être le 18 juin 2024, mais la formule « dans les semaines à venir » suggère que ce sera plus tard
Il est aussi écrit qu’ils « annoncent une mise à jour qui sera appliquée avant que la preview de Recall ne soit déployée aux clients le 18 juin » et qu’ils « prévoient bientôt de proposer la preview de Recall à tous les Copilot+ PCs »
Il y a bien un retard, et comme ni nous ni Microsoft ne savons forcément combien de temps il durera, c’est donc un report pour une durée indéterminée
Recall est un exemple typique d’erreur que Microsoft commet à répétition sans jamais en tirer de leçon : la mauvaise manière de commercialiser et emballer une fonctionnalité.
Microsoft a tendance à pousser très fort l’intégration pour augmenter l’adoption des nouvelles fonctions, et cela se retourne souvent contre l’entreprise. À l’époque de Windows 8 aussi, ils voulaient vraiment imposer la nouvelle interface Metro, donc ils l’ont intégrée en profondeur dans l’OS, l’ont mise en avant dans tout le marketing et en ont fait le premier écran après connexion.
Il y avait aussi de bonnes améliorations, comme les performances et les résultats de recherche, mais ce n’était pas optionnel. Les clients qui regardaient ça de loin ont retenu que « le bureau avait été supprimé », ce qui n’était pas vrai, mais Microsoft avait tellement forcé sur cette nouveauté que cette impression est restée.
C’est similaire aujourd’hui. Microsoft a poussé un outil objectivement excellent, mais sans laisser aux utilisateurs le choix de dire s’ils le voulaient, et le message comme le marketing ont rendu flou ce qui se passait réellement. Ce billet de blog parle longuement de l’importance de la sécurité, mais n’explique ni quel est le véritable problème de sécurité, ni comment il est résolu.
Il est toujours étonnant de voir que Microsoft ne semble jamais apprendre, alors que son marketing bâclé et son intégration forcée lui sont déjà revenus au visage à de multiples reprises.
Le point essentiel, c’est qu’il existe des choses que tout le monde veut voir n’exister que temporairement dans son ordinateur. Par exemple, quand je saisis un numéro de carte bancaire, je ne veux absolument pas que l’ordinateur fasse une capture d’écran. Plus important encore, j’utilise souvent un éditeur de texte « bloc-notes temporaire » qui peut contenir des données sensibles, et je ne veux absolument pas que ces données soient pérennisées.
Microsoft n’a pas correctement réfléchi aux implications de sécurité de cette fonctionnalité.
Je ne suis même pas sûr que l’outil d’IA ait fonctionné uniquement hors ligne, et au final cela pourrait revenir à partager avec Microsoft encore plus de données complètes qu’auparavant. Du point de vue de la vie privée, cette fonctionnalité est abjecte.
Autrement dit, accéder localement à toutes les données, puis téléverser celles utilisées dans les apps cloud.
Sauf que, dix ans plus tard, il s’avère que le clavier et la souris sont toujours bien plus largement utilisés.
Pour résumer pour ceux qui n’ont pas suivi les derniers développements, le gouvernement américain est en train de réévaluer sa relation avec Microsoft à cause de récents problèmes de sécurité liés à des attaques soutenues par des États, notamment la Russie et la Chine.
Exemple récent souvent cité, l’affaire Microsoft Storm-0558 : https://www.microsoft.com/en-us/security/blog/2023/07/14/ana...
Microsoft a récemment promis d’améliorer ses pratiques de sécurité via des incitations sur la rémunération des dirigeants et d’autres mesures : https://blogs.microsoft.com/on-the-issues/2024/06/13/microso...
Mais malgré ces promesses, plusieurs élus estiment que Microsoft ne prend pas au sérieux ses récents engagements en matière de sécurité. Certains d’entre eux ont une influence sur l’ampleur des sommes que reçoit Microsoft.
Recall sert souvent de paratonnerre mettant en lumière la tendance de Microsoft à lancer dans la précipitation des fonctionnalités sans prise en compte suffisante de la sécurité.
Vidéo où le président de Microsoft est interrogé par un représentant de Floride, Recall y est aussi mentionné : https://youtu.be/kB2GCmasH4c?t=8217
Je ne pense pas qu’il n’y ait qu’une seule raison à ce report, mais le fait que les plus gros clients de Microsoft voient Recall sous cet angle a probablement pesé lourd dans la décision de suspendre le lancement.
Le Microsoft de Satya Nadella est une entreprise vraiment étrange. D’un côté, on dirait qu’elle court derrière le « move fast and break things » de Zuckerberg, et de l’autre qu’elle dit : « Attendez, nous sommes l’entreprise de logiciels la plus importante du monde. Nous n’avons pas le droit de casser les choses ! »
Sans même parler de la tentative sur dix ans de rattraper Google et Apple dans le mobile avec Windows Phone, RT et Nokia. Heureusement, Nadella a mis fin à tout cela.
Ce qui m’a vraiment ouvert les yeux, c’est le fait que le Surface Pro 10 n’existe que pour les entreprises. Ils ont conçu et fabriqué tout l’appareil, mais ne le vendent pas aux clients grand public. Ce marché doit à la place se tourner vers la gamme Copilot, plus expérimentale ; cela peut être très bien, mais le choix n’existe pas au départ.
En résumé, ce sont les entreprises qui paient des licences de site, c’est-à-dire les clients qui comptent vraiment, qui ont jugé que c’était un risque métier inacceptable
En 2024, si vous utilisez encore Windows sans être une multinationale ou une LLC, vous acceptez simplement la part de compromis que cela implique
Personnellement, j’aime vraiment les jeux et la production musicale, donc j’ai un dual boot Mint/Windows. Les deux restent clairement insuffisants sur Linux
Les gens ordinaires, en dehors de notre bulle de geeks, n’ont pas vraiment envie d’utiliser Linux sur le desktop. Mac est excellent, mais il est difficile d’y jouer correctement
Ils disent aussi adopter l’open source. Ils ne veulent pas seulement être l’outil que les développeurs utilisent par obligation au travail, mais apparaître aux yeux des développeurs comme une alternative vivante à Linux et à Apple
Maintenant, ils veulent aussi séduire le « grand public », donc Windows se retrouve chargé de toutes sortes de fonctions disparates au nom de la convivialité. Il y a aussi de la pub, mais ce n’est pas aussi grave qu’on l’entend dire. Cela se limite surtout à des résultats de recherche web façon Bing et à de la publicité mêlés quand on fait une faute de frappe dans le menu Démarrer, un peu comme avec une recherche Google. Je ne sais pas si c’est cela, la « part de compromis » que je suis censé accepter, et ce n’était pas suffisamment gênant pour que j’aie envie de le désactiver
Au final, utiliser Windows signifie faire implicitement confiance à Microsoft. Comme les utilisateurs d’iPhone ou d’Android font implicitement confiance à Apple ou à Google. On essaie seulement de réduire le nombre d’acteurs auxquels on doit faire confiance
Au contraire, Microsoft est en permanence sous les projecteurs et fait l’objet de critiques virulentes, donc ils ont davantage à perdre et me font moins peur que des acteurs plus petits ou à la réputation « meilleure ». Du coup, même si une nouvelle fonction gadget peut aider Microsoft à surveiller les gens, je ne vois pas vraiment pourquoi je devrais m’en soucier davantage. S’ils voulaient surveiller, ils pourraient déjà le faire de toute façon
Hier, le président de Microsoft Brad Smith a témoigné devant la commission de la sécurité intérieure de la Chambre des représentants des États-Unis, et la commission a soutenu l’argument selon lequel Microsoft représentait un risque pour la sécurité nationale
Les clients entreprises peuvent réagir à ce témoignage, mais vu le timing, j’ai l’impression que la motivation de cette annonce vient plutôt du côté du gouvernement américain
Ce qui est intéressant, c’est que la surchauffe autour de l’IA a amené même des non-techniciens à davantage réfléchir et parler des préoccupations de confidentialité et de sécurité liées au logiciel
Les grands modèles de langage ne sont pas spécialement plus malveillants en eux-mêmes que la collecte de données pratiquée depuis des années par les grandes entreprises tech. Mais la promotion de l’AGI a déclenché une réaction de défense chez les gens
Je pense que c’est positif. Les gens devraient aborder les questions de confidentialité technologique avec peur, incertitude et doute
Bien sûr, une grande partie de mon activité peut déjà être reconstituée à partir d’autres données de traçage, mais des captures d’écran permanentes de tout ce qui a été affiché à l’écran, c’est une mine d’or de données centralisée à laquelle je ne veux laisser personne accéder
À mes yeux, c’est plus malveillant que la plupart des autres formes de collecte de données
Recall utilise un modèle d’IA local intégré à Windows 11 pour prendre des captures d’écran de presque tout ce que vous voyez ou faites sur votre ordinateur, afin que vous puissiez rechercher et retrouver ce que vous avez consulté
On peut faire défiler les instantanés dans une timeline navigable et revoir ce qu’on faisait sur son PC à une date donnée. Microsoft affirme que tout dans Recall est conçu pour rester local et privé sur l’appareil, et que les données ne sont pas utilisées pour entraîner ses modèles d’IA
https://www.theverge.com/2024/6/13/24178144/microsoft-window...
J’ai dû aller vérifier, donc je partage pour faire gagner une minute à quelqu’un
Je me demande comment Microsoft peut déployer ce type de fonction à grande échelle en exécution locale sur appareil, dans un écosystème bien plus diversifié de machines Windows peu puissantes et bon marché
Ce n’est que le début des produits centrés sur l’IA survendus, puis retardés ou abandonnés discrètement
Les grands modèles de langage sont corrects pour des tâches simples, mais ils ont déjà atteint leurs limites. Même avec toujours plus de données, on ne résout pas les problèmes d’itération et de complexité
Ces discussions sont menées par des gens qui n’ont pas lu un seul article sur les grands modèles de langage et ne les ont jamais vraiment utilisés. Ils n’ont aucune idée des risques, mais continuent à pousser parce qu’un patron qui n’y connaît rien leur a demandé d’élaborer un plan d’utilisation de l’IA
En revanche, Apple Intelligence ne suscite aucune opposition même s’il mémorise l’ensemble des apps. Personnellement, je trouve l’idée bonne ; elle doit être mise en œuvre avec prudence et de manière sûre, mais une fonction permettant de se remémorer les journaux est plus utile que de refaire une recherche.
On voit le même deux poids, deux mesures avec la recherche générative de Google et ChatGPT d’OpenAI doté de la recherche. Si Google se trompe, c’est un gros problème, mais pas pour les autres.
Apple AI fournit essentiellement des hooks d’API permettant aux apps d’exposer leur fonctionnement et leurs données au modèle. Pour l’instant, il semble que ce soient les apps d’Apple elles-mêmes qui le fassent, mais chaque propriétaire d’app peut décider de le prendre en charge ou non.
C’est une approche complètement différente.
Côté serveur aussi, il existe une version spéciale de l’OS, de style unikernel, dont tout ce qui n’est pas nécessaire aux calculs d’IA ou au réseau a été retiré, et qui utilise Swift et la Secure Enclave.
Ce n’est pas comme une base de données SQLite en clair écrite en C ou en C++ et en COM, comme aime le faire la division WinDev.
OpenAI et Bing indiquent clairement que l’utilisateur parle à un chatbot IA, et la plupart des gens ne s’attendent pas à ce que ce soit aussi fiable et exact que le premier résultat d’une recherche Google.