À Microsoft : utilisez-vous nos données personnelles pour entraîner l’IA ?
(foundation.mozilla.org)- Le nouveau Contrat de services (Service Agreement) de Microsoft a été examiné par 9 personnes — avocats, spécialistes de la vie privée et militants — mais personne n’a pu déterminer si des données personnelles sont utilisées pour entraîner des modèles d’IA
- L’examen portait sur les données personnelles collectées par 130 produits, dont Office, Skype, Teams et Xbox, y compris audio, vidéo, chats et pièces jointes
- Si même 9 experts en protection des données ne parviennent pas à comprendre ces conditions, il est pratiquement impossible pour un utilisateur ordinaire de les interpréter
- Mozilla demande à Microsoft de répondre clairement à une question simple : « utilisez-vous des données personnelles pour l’entraînement de l’IA ? »
- Le problème central soulevé est le manque de transparence sur l’usage des données
Les principaux enjeux de la campagne
- Le nouveau contrat de services de Microsoft a été examiné par 4 avocats, 3 spécialistes de la vie privée et 2 militants
- Parmi ces 9 experts, aucun n’a pu déterminer si Microsoft prévoit d’utiliser des données personnelles pour entraîner des modèles d’IA
- En raison du flou des conditions, il est impossible de savoir si les données sont utilisées de cette manière
- Si même 9 experts en protection des données ne comprennent pas ces conditions, il est peu probable qu’un utilisateur moyen y parvienne
Portée des données examinées
- Les données personnelles collectées par 130 produits sont concernées
- Exemples de produits inclus : Office, Skype, Teams, Xbox
- Types de données : audio, vidéo, chats, pièces jointes
Demande de Mozilla
- Mozilla demande à Microsoft de dire clairement si des données personnelles sont utilisées pour l’entraînement de l’IA
- Une campagne invite les utilisateurs à agir, notamment en signant, afin d’obtenir une réponse
1 commentaires
Commentaires Hacker News
La structure de régulation des Big Tech est un désastre absolu
On ne devrait pas laisser de facto deux entreprises contrôler les points de contact numériques d’une grande partie de la population mondiale
Il n’y a absolument aucune raison de croire qu’elles n’abuseront pas de leur position de manière opaque et difficile à retracer. Ce sont des entreprises commerciales dotées de capitaux de l’ordre du billion, avec des armées d’avocats et de lobbyistes capables d’intimider même des pays de taille moyenne, et elles exploiteront toutes les failles d’un système politico-réglementaire incompétent, chaotique et capturé
Elles subissent la pression de le faire pour leurs actionnaires, et ces actionnaires veulent seulement avoir quelques « gagnants » de la tech dans leur portefeuille, peu importe si cette structure duopolistique monopolistique détruit l’ensemble de l’avenir numérique. Plus les mesures sérieuses tardent, plus cela deviendra difficile ensuite
Seuls les outils changent ; les traits humains qui poussent à ce type de comportement ont toujours existé. Il n’y a pas d’interrupteur qui s’active soudainement quand un patrimoine dépasse un certain seuil
Je ne crois pas non plus que les entreprises aient une « obligation légale » envers quelqu’un, ni même qu’il existe une véritable « obligation ». Les dirigeants cherchent à atteindre leurs objectifs avec les outils à leur disposition, et en pratique c’est bien ce qu’ils font
C’est le thread le plus kafkaïen et absurde que j’aie vu sur Hacker News
Si les données analytiques relèvent des données personnelles, alors Microsoft les utilise clairement : https://www.microsoft.com/insidetrack/blog/microsoft-uses-an...
Quant à savoir si Microsoft lit vos comptes Gmail, vos documents Word ou votre activité porno pour les transmettre à OpenAI, contractuellement ce n’est pas le cas : https://learn.microsoft.com/en-us/legal/cognitive-services/o...
En revanche, est-ce que Microsoft fait d’autres choses qu’on ne peut généralement pas connaître ? À mon avis, oui
Je m’oppose depuis longtemps à la politique de confidentialité labyrinthique de Microsoft
Il y a longtemps, avant que les assistants de code « IA » ne deviennent largement utilisés, j’avais demandé sur un autre forum si, avec la télémétrie activée dans VS Code, la politique de confidentialité de Microsoft autorisait l’upload et l’exploitation de mon code
À l’époque, la question avait été enterrée avec des réactions disant que c’était absurde, mais personne n’a jamais montré où, dans les conditions ou la politique de confidentialité de Microsoft, ce type de traitement était explicitement et clairement exclu
Maintenant qu’il existe cette obsession d’entraîner des modèles de machine learning sur tous les grands jeux de données possibles, l’ancienne prudence ne paraît peut-être plus si ridicule
Sauf s’il existe un avantage commercial ou juridique à dire « nous ne ferons pas X », les grandes entreprises ne s’imposent pas consciemment ce genre de limitations
Pour information, le texte intégral du futur contrat de services de Microsoft est ici
https://www.microsoft.com/en-us/servicesagreement/upcoming.a...
Le résumé des changements est ici
https://www.microsoft.com/en-us/servicesagreement/upcoming-u...
La seule limitation explicite semble concerner la publicité ciblée. Quelque chose du genre : « nous n’utilisons pas le contenu des e-mails, chats, appels vidéo ou messages vocaux, ni les documents, photos ou autres fichiers personnels pour vous proposer de la publicité ciblée »
Le résumé des changements ne mentionne aucune modification de la politique de confidentialité, et cette politique de confidentialité ne semble pas non plus exclure l’entraînement de modèles d’IA sur les données des utilisateurs
J’ai travaillé dans la publicité, et le droit autour des informations personnellement identifiables m’intéresse. En Californie, il y a le CCPA, et si je demande la suppression de mes informations personnellement identifiables via le formulaire, je crois qu’elles doivent être supprimées au bout d’environ 90 jours
Mais si un modèle a été entraîné sur les informations personnellement identifiables d’un résident californien, qu’une demande de suppression arrive, puis que trois mois plus tard quelqu’un pose une question sur cette personne et que le modèle recrache des informations personnellement identifiables « supprimées », que se passe-t-il alors ?
Au final, j’imagine que ce sera tranché au tribunal, mais s’il y a ici quelqu’un qui connaît bien le droit californien, je me demande pourquoi il n’y a pas encore de tentative visant spécifiquement ce genre de cas, ne serait-ce que pour obtenir un règlement à l’amiable
Je ne connais pas le droit californien, mais beaucoup de lois similaires sur la protection des données autorisent des exceptions pour les données agrégées même lorsqu’une demande de « suppression » est reçue
En général, la loi s’applique aux enregistrements de données brutes, mais pas aux données agrégées, aux métriques ou aux modèles. Cela dit, ici, quand je parle de modèle, je crois m’appuyer sur une décision précise liée au secteur de l’assurance ou de l’évaluation du crédit
Le modèle n’a même pas besoin de « recracher » les données supprimées. Ce n’est pas forcément un modèle génératif ; ça peut être un classifieur ou un modèle de régression, et idéalement il n’aurait même jamais dû être entraîné sur mes données au départ
Le fait que ce soit techniquement difficile est aussi important. Supposons qu’un modèle soit produit à un coût très élevé X et qu’il soit en général réentraîné tous les six mois. Si des demandes de suppression continuent d’arriver, le réentraîner fréquemment pour s’y conformer coûte beaucoup trop cher
Il existe des recherches sur le machine unlearning pour traiter cela efficacement, mais jusqu’ici les résultats sont plutôt décevants
Si les éléments personnels ont disparu, je ne vois pas très bien sur quelle base il y aurait une réclamation
Comment le service juridique de Microsoft parvient-il à accomplir ce prodige ? Est-ce qu’ils ont empilé suffisamment de couches d’abstraction linguistique pour que seule une équipe assez grande, comme Microsoft ou un grand jury, puisse encore en extraire le sens ?
Est-ce des phrases appâts avec des pièges cachés dans des endroits apparemment inoffensifs ? Ou une façon de tourner autour du pot sans jamais donner de réponse précise ?
Si un usage n’a pas été explicitement exclu, alors tant que ces données sont utiles, on peut partir du principe qu’elles finiront par servir de données d’entraînement. Peut-être pas tout de suite, mais un jour ou l’autre. Cela vaut pour toutes les entreprises de la planète qui accumulent des données
Ça devrait être l’hypothèse de base de tout le monde, et sauf apparition d’une loi, ce sera globalement exact. Même si une loi apparaît, elle risque d’être sans effet sur les données passées à cause des contournements de juridiction, et de ne protéger que faiblement les nouvelles données
Bienvenue dans le nouveau pétrole
Les données personnelles et les informations personnellement identifiables ne sont pas la même chose. À bien des égards, il est impossible d’éviter l’usage de données personnelles
La saisie prédictive utilise des données personnelles. Parce qu’elle « apprend » de tout le monde. Les phrases et les paragraphes, est-ce des données personnelles ? Les moteurs de recherche enregistrent ce que je tape. Va-t-on classer une requête de recherche comme « personnelle » ? Je pourrais aussi copier-coller le premier commentaire de ce fil : est-ce que c’est aussi une donnée personnelle ?
Il est possible que j’aie complètement tort, et qu’il ne faille rien saisir du tout sur une page web
Même quatre avocats et trois spécialistes de la vie privée n’avaient pas l’air d’arriver à une conclusion sur ce qu’est une donnée personnelle. Est-ce que les Big Tech mettent les données produites par les gens dans leurs outils « IA » ? Oui. Est-ce que les petites entreprises tech le font aussi ? Oui
Je suis prêt à prendre la fourche avec Mozilla, mais j’aimerais savoir pourquoi. Il nous faut des gens qui expliquent clairement comment protéger nos intérêts, plutôt que d’exciter la foule
L’usage des données, quelles qu’elles soient, est régi par des contrats. Si tu lis les « documents juridiques » que tu as acceptés en utilisant Hacker News, il y a toute une section sur la manière dont les données personnelles sont utilisées. Faut-il aussi sortir la fourche contre HN, ou est-ce que c’est acceptable ici ?
Lequel de ces usages relève de « l’entraînement de l’IA » ?
Un système de détection d’abus entraîné sur le comportement et les données des utilisateurs pour transmettre les utilisateurs malveillants à une revue humaine, une fonction de classement qui, lors d’une recherche web, est entraînée sur le comportement de tous les utilisateurs, un assistant de rédaction d’e-mails qui suggère des complétions à partir de mon historique de saisie, une interface publique de chat avec un LLM entraînée sur mes e-mails privés
Dans la plupart des cas, « l’entraînement de l’IA » ressemble davantage à un détail d’implémentation qu’à quelque chose qui devrait figurer dans une politique de confidentialité. J’aimerais que Mozilla dise plus explicitement quel comportement l’inquiète
Oui, les géantes entreprises font ça, et continueront à le faire. Si vous croyez qu’une grande entreprise agit dans notre meilleur intérêt et dispose d’une gouvernance parfaite, alors haha, vraiment un énorme haha