- Selon un tweet de Kevin Bankston, le service d’IA Gemini de Google lit des documents privés sur Drive sans l’autorisation de l’utilisateur
- C’est indigne de la réputation de Google, et cela ne laisse aucun contrôle sur des informations personnelles sensibles
- Ce n’est pas un bon signe pour les futurs problèmes de confidentialité liés au déploiement forcé de l’IA
Que se passe-t-il exactement ?
- Ni l’équipe d’assistance de Google ni Gemini AI ne savent exactement ce qu’il se passe, mais Kevin Bankston avance quelques théories
- Techniquement, cela semble se produire à l’échelle de tout Google Drive, et pas seulement dans Google Docs
Quelle est la cause du problème ?
- Selon Gemini AI, les paramètres de confidentialité qui devraient informer Gemini ne sont censés être disponibles qu’en mode public, mais ce n’est pas le cas
- Il semble que l’IA soit en train de « halluciner (mentir) » ou qu’un système interne des serveurs de Google dysfonctionne
- Même si ces données privées ne sont pas utilisées pour entraîner Gemini AI, cela reste très préoccupant
Problèmes avec l’interrupteur de réglage découvert par Bankston
- La fonction de résumé de Gemini était déjà désactivée
- La page web indiquée au départ par le bot Gemini se trouvait à un endroit totalement différent
Dans le cas de Bankston, le problème semble limité à Google Drive
- Cela ne se produit qu’après avoir appuyé sur le bouton Gemini dans au moins un document
- Un type de document correspondant (dans ce cas, les PDF) déclenche ensuite automatiquement Google Gemini à l’avenir pour tous les fichiers du même type ouverts dans Google Drive
- Le fait d’avoir activé Google Workspace Labs en 2023 pourrait en être la cause. Cela pourrait ignorer les paramètres Gemini AI prévus
Même si ce problème ne concerne que les utilisateurs de Google Workspace Labs, c’est un défaut grave
- Le prix à payer pour avoir aidé à tester une technologie de pointe
- Le consentement de l’utilisateur reste essentiel à un niveau granulaire, surtout lorsqu’il s’agit d’informations potentiellement sensibles
- En ne respectant pas ce principe, Google échoue complètement au moins pour une partie de sa base d’utilisateurs
L’avis de GN⁺
- Collecter et analyser des informations personnelles sans le consentement de l’utilisateur constitue une atteinte grave à la vie privée. C’est d’autant plus préoccupant lorsqu’il s’agit d’informations sensibles comme un remboursement d’impôt
- À mesure que les technologies d’IA progressent, ce type de problème peut devenir encore plus grave. Les entreprises doivent faire de la protection de la vie privée des utilisateurs leur priorité absolue
- De meilleures protections et davantage de transparence sont nécessaires pour les utilisateurs qui participent à des programmes de bêta-test comme Google Workspace Labs
- Lors de l’adoption de technologies d’IA, il est important de respecter le consentement et le choix de l’utilisateur. Une approche imposée fait perdre la confiance des utilisateurs
- Google devrait profiter de cet incident pour réexaminer les politiques de confidentialité de ses services, y compris Gemini AI, et renforcer sa communication avec les utilisateurs
Aucun commentaire pour le moment.