Face au tollé, Zoom affirme à son tour qu’il n’utilisera pas les données clients pour entraîner ses modèles d’IA
(darkreading.com)- Après le tollé suscité par des droits d’usage des données jugés excessifs à la suite de l’introduction de fonctionnalités d’IA générative, Zoom a modifié ses conditions et ses produits afin de ne pas utiliser les contenus des clients pour entraîner des modèles d’IA
- Sont exclus l’audio, la vidéo, le chat, le partage d’écran, les pièces jointes, ainsi que les contenus à caractère communicationnel comme les résultats de sondage, les tableaux blancs et les réactions
- La controverse est partie de l’ancienne politique, qui permettait d’utiliser certaines données clients pour l’entraînement afin d’alimenter des fonctionnalités comme Zoom IQ Meeting Summary et Zoom IQ Team Chat Compose
- Après les réactions des clients, Zoom a d’abord ajouté une option d’opt-out, puis a de nouveau modifié ses conditions le 11 août pour supprimer en grande partie les formulations liées à l’usage de l’IA
- Les nouvelles conditions maintiennent toutefois les droits sur les données générées par le service telles que la télémétrie, l’usage du produit et les données de diagnostic, laissant subsister une tension entre fonctionnalités d’IA et confiance des utilisateurs
Les conditions de Zoom modifiées pour exclure les contenus clients de l’entraînement de l’IA
- Après les retours des clients, Zoom a mis à jour ses Terms of Service pour préciser clairement qu’il n’utilisera pas les contenus clients pour l’entraînement de modèles d’IA de Zoom ou de tiers
- Les contenus exclus de l’entraînement de l’IA sont les suivants
- Audio
- Vidéo
- Chat
- Partage d’écran
- Pièces jointes
- Contenus clients à caractère communicationnel comme les résultats de sondage, les tableaux blancs et les réactions
- La polémique trouve son origine dans les fonctionnalités d’IA générative de Zoom
- Zoom IQ Meeting Summary : fonctionnalité de résumé automatique de réunion basée sur l’IA
- Zoom IQ Team Chat Compose : fonctionnalité de rédaction de messages de chat basée sur l’IA
- L’ancienne politique accordait à Zoom le droit d’utiliser certaines données clients pour entraîner des modèles d’IA derrière ces fonctionnalités, et le fait que cela puisse se faire sans consentement explicite des clients a provoqué la contestation
Des droits d’usage des données très larges et une pression accrue sur la confiance
- Les anciennes conditions accordaient à Zoom des droits très étendus concernant l’usage des données clients
- droits « perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable »
- finalités très larges incluant le machine learning, l’intelligence artificielle, l’entraînement et les tests
- actions sur les données comme « redistribute, publish, import, access, use, store, transmit, disclose »
- Lorsque la contestation des clients s’est propagée sur les réseaux sociaux, Zoom a d’abord modifié sa politique en indiquant qu’il « n’utiliserait pas, sans le consentement du client, les contenus clients audio, vidéo et chat pour entraîner des modèles d’IA »
- Ensuite, le 11 août, l’entreprise a de nouveau révisé ses conditions pour supprimer dans les faits l’essentiel des formulations liées à l’usage de l’intelligence artificielle
- Les nouvelles conditions maintiennent néanmoins les droits de Zoom sur les données générées par le service
- Données de télémétrie
- Données d’usage du produit
- Données de diagnostic
- Shomron Jacob, responsable machine learning chez iterate.ai, estime que les entreprises technologiques utilisent depuis longtemps les données clients pour améliorer l’expérience utilisateur et introduire de nouvelles fonctionnalités
- Cela s’inscrit dans un contexte où Google, Facebook et Amazon utilisent les données des utilisateurs pour personnaliser leurs services et améliorer leurs algorithmes d’IA
- À mesure que la surveillance des enjeux de confidentialité, de sécurité et d’éthique liés à l’IA s’intensifie, les attentes en matière de transparence et de consentement des utilisateurs augmentent également
- Alors que des cadres réglementaires comme le RGPD et le CCPA de Californie fixent les règles de collecte et d’usage des données, les entreprises technologiques doivent gérer à la fois l’exploitation des données pour améliorer l’IA, le respect de la réglementation et la préservation de la confiance des utilisateurs
1 commentaires
Avis de Hacker News
Si les données sont stockées dans une base de données que l’entreprise peut lire et consulter librement — autrement dit si ce n’est pas du chiffrement de bout en bout — alors, tôt ou tard, l’entreprise changera ses conditions pour essayer d’utiliser ces données à l’entraînement d’IA.
L’incitation est trop forte pour qu’elle y résiste, à mon avis.
Les clients payants détestent vraiment que leurs données soient utilisées pour entraîner des modèles d’IA sans leur autorisation, et le cas récent de Zoom en est le dernier exemple.
Les entreprises qui tentent ce genre de chose vont se brûler les ailes, et Zoom s’est déjà sérieusement brûlé. Personnellement, je ne pense pas que Zoom ait réellement eu l’intention de le faire ; c’est plutôt qu’ils n’ont pas été assez clairs sur le fait qu’ils ne le feraient pas, ce qui a provoqué un désastre de relations publiques.
Si les clients payants n’aiment pas ça, l’incitation pour l’entreprise penche au contraire beaucoup plus fortement du côté de ne pas le faire.
Pour les entreprises, ce serait pénible, car elles devraient suivre sous quelle version des conditions chaque élément de donnée a été stocké, mais il faut précisément que cela devienne assez contraignant pour qu’elles traitent les données comme le passif qu’elles devraient être.
Il n’y a pas de contexte ni de contrôle qualité. Même si l’on suppose que la sagesse des foules rapproche en moyenne de la bonne réponse, au final on entraîne surtout l’IA à donner des réponses médiocres.
Pendant la bulle du big data, beaucoup d’entreprises stockaient tout en affirmant que les données avaient de la valeur, mais la plupart ne valaient même pas le coût du disque dur. Elles ne prennent de la valeur que s’il existe un acheteur prêt à payer le coût de leur exploitation.
Il y a beaucoup de données dans le monde, mais ce qui a réellement de la valeur, ce sont l’information et la connaissance.
Zoom est simplement déçu que le changement de conditions se soit répandu, et sans doute aussi déçu que sa réputation soit suffisamment orientée vie privée pour que cela provoque une controverse.
Je me demande si Teams subirait une réaction similaire si ce genre de clause n’était pas déjà dans ses conditions.
Certains le ressentent peut-être différemment, mais toutes les personnes que je connais détestent déjà Teams et ne l’utilisent que lorsque leur entreprise les y oblige.
J’ai déjà parlé avec un dirigeant de Microsoft, qui m’a dit que l’idée d’ajouter à Hotmail de la publicité contextuelle comme dans Gmail avait été évoquée, mais qu’elle avait été fermement rejetée.
L’idée d’utiliser les données clients, même celles des utilisateurs gratuits, de cette façon était taboue. Microsoft gagne de l’argent grâce à d’énormes contrats d’entreprise, et si les données clients étaient utilisées d’une manière ou d’une autre au bénéfice de concurrents, ces contrats pourraient être menacés.
Articles liés :
Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - août 2023 (35 commentaires)
How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - août 2023 (177 commentaires)
Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - août 2023 (16 commentaires)
Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - août 2023 (194 commentaires)
Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - août 2023 (510 commentaires)
Zoom a clairement plusieurs modèles d’IA, tout comme Teams, Google Chat et les autres.
Ces modèles sont nécessaires pour les sous-titres et transcriptions automatiques de réunion, ainsi que pour le floutage automatique de l’arrière-plan et la séparation du fond. Ils travaillent probablement aussi sur un produit de « résumé de réunion ».
Ce sont des fonctionnalités que les gens apprécient et utilisent en permanence. Je me demande comment on s’attend à ce que Zoom les améliore sans collecter de données réelles des utilisateurs de la plateforme.
Trop tard. Il m’a fallu une heure pour lancer une instance Jitsi auto-hébergée, et je n’ai aucune raison de revenir en arrière.
Les performances et la stabilité de Jitsi m’ont surpris.
Plusieurs personnes que je connais, moi compris, sont sur le point de suivre cette voie.
Je tiens une liste des entreprises d’IA qui entraînent leurs modèles sur les données des utilisateurs : https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
Je mettrai à jour l’entrée Zoom, mais je trouve ça toujours suspect
La semaine dernière, j’ai ajusté un modèle de régression sur une partie des données client : est-ce que cela veut dire que j’ai entraîné une IA sur des données client ? Est-ce une question d’intention, de disponibilité pour les utilisateurs publics, ou de modèle génératif ?
Je ne pense donc pas que ce critère s’applique
Est-ce que Zoom stocke les données vidéo ou audio des appels ? C’est vraiment la question centrale
Si quoi que ce soit est stocké, on ne peut pas leur faire confiance
Par ailleurs, avec des protocoles de streaming vidéo comme HLS ou MPEG-DASH, le flux est stocké sous forme de segments vidéo, puis supprimé ensuite
C’est encore décevant de voir de grandes entreprises essayer de faire passer ce genre de politique discrètement
Qui peut bien penser que c’est acceptable ? Des dirigeants qui veulent juste encaisser ? Nous devrions faire mieux que ça
« Après la fronde, Zoom a déclaré qu’il n’utiliserait pas les données des clients pour entraîner des modèles d’IA »
Pour l’instant
Comment pourraient-ils entraîner quoi que ce soit si tout est chiffré de bout en bout dès le départ ?
Il me semble assez clair, pour tout le monde, laquelle des deux hypothèses est la plus plausible, mais curieusement je pense que les avis divergeraient sur laquelle n’a aucun sens
Zoom est « chiffré », comme Meet, Teams, WebEx et beaucoup d’autres services que je connais, mais le « chiffrement de bout en bout » au sens courant n’est pas activé par défaut. Certains proposent une option E2EE, mais elle est enfouie dans les paramètres du service et n’est pas facile à activer
Donc, par conception, le serveur peut voir l’audio et la vidéo, et les voit effectivement. Si l’infrastructure est compromise, un attaquant peut aussi les voir. Le chiffrement en mode par défaut empêche seulement votre FAI de voir le contenu de l’appel
À l’inverse, les appels Signal sont E2EE. Même lorsqu’un appel est relayé via les serveurs de Signal, Signal ne voit ni la vidéo ni l’audio déchiffrés. En revanche, même dans ce cas, il peut connaître les participants à l’appel, mais pas ce qui a été dit
À côté de ça, c’est pour cette raison que nous avons créé Booth.video : pour montrer qu’il ne s’agit pas d’un compromis fondamental, et que la visioconférence avec E2EE et sécurité des métadonnées est possible même dans un navigateur