Microsoft surveille les utilisateurs de ses outils d'IA

Microsoft surveille les utilisateurs de ses outils d'IA

• Microsoft a annoncé avoir découvert que des pirates informatiques de Chine, de Russie et d'Iran utilisent ses outils d’intelligence artificielle (IA) pour améliorer leurs capacités de piratage.
• Ces hackers sont identifiés sous les noms Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon et Salmon Typhoon, et il est apparu qu’ils utilisent des grands modèles de langage (LLM) pour renforcer leurs opérations cyber.
• La seule façon pour Microsoft ou OpenAI de détecter ces activités est de surveiller les sessions de chatbot.
• Les conditions d’utilisation prévoient vraisemblablement une autorisation de surveillance des utilisateurs ; que Microsoft et OpenAI surveillent l’usage de l’IA n’a rien de surprenant, mais cette annonce en confirme clairement l’existence.

Avis de GN+

• Cet article apporte une information importante : Microsoft surveille l’usage de ses outils d’IA, et peut ainsi suivre les activités de pirates informatiques parrainés par des États.
• La surveillance des utilisateurs peut susciter des inquiétudes sur la vie privée et la sécurité individuelles, mais peut aussi être considérée comme une mesure clé pour renforcer la cybersécurité et la sécurité nationale.
• Ce type de surveillance montre la nature à double tranchant de la technologie IA et peut relancer la discussion sur les nouvelles questions éthiques et juridiques soulevées par les avancées technologiques.

[GN⁺]

Commentaires de Hacker News

• Résumé des commentaires sur le traitement des données des utilisateurs de l’API OpenAI

  • Selon les CGU (TOS) de l’API OpenAI, OpenAI peut conserver les entrées et les sorties de l’API pendant une durée maximale de 30 jours pour fournir le service et détecter les abus.
  • Sauf exigence légale contraire, les données sont supprimées du système après 30 jours.
  • Les utilisateurs peuvent demander à ne pas conserver les données pour certains cas d’usage (ZDR).
  • Les détails sur le traitement des données sont précisés dans la page de documentation de la plateforme d’OpenAI.

• Résumé des commentaires sur le traitement des données des utilisateurs des outils IA de Microsoft

  • Alors que certains disent que « Microsoft surveille les utilisateurs d’outils IA », Microsoft a en réalité détecté qu’un gouvernement hostile d’un État autoritaire utilisait des outils IA à des fins illégales.
  • En acceptant les CGU, l’utilisateur reconnaît que Microsoft peut effectuer ce suivi des données.

• Résumé des commentaires sur Google Bard et Gemini

  • Google précise clairement sur la page d’accueil de Gemini que les conversations des utilisateurs sont traitées par des réviseurs humains et utilisées pour améliorer la technologie de l’application Gemini.
  • Les utilisateurs ne doivent pas saisir d’informations qu’ils ne veulent ni voir montrées à des réviseurs humains ni utilisées par Google.
  • Le contenu de Google Workspace n’est ni revu ni utilisé pour améliorer Gemini.
  • Les utilisateurs peuvent désactiver l’activité de l’application Gemini afin que les conversations futures ne soient ni examinées ni utilisées pour améliorer les modèles d’apprentissage automatique.

• Résumé des commentaires sur les CGU et les politiques de confidentialité

  • De nombreuses entreprises technologiques disposent d’une autorisation pour surveiller l’utilisation de l’IA par les utilisateurs via les clauses précisées dans leurs CGU.
  • Si les CGU autorisent la surveillance, il est raisonnable de supposer que l’entreprise surveille effectivement.
  • Les politiques de confidentialité donnent une impression de confiance envers l’entreprise, mais il n’existe aucun moyen de vérifier si l’entreprise respecte effectivement ces politiques.

• Résumé des commentaires sur la surveillance des données des utilisateurs par Microsoft

  • Le fait que Microsoft surveille l’utilisation des outils IA par les utilisateurs n’est pas une surprise, c’est une réalité déjà largement connue.
  • Plusieurs entreprises technologiques, y compris Microsoft, ont la capacité de consulter les conversations des utilisateurs, et cela devrait se faire uniquement avec le consentement explicite et révocable de l’utilisateur.

• Résumé des commentaires sur l’usage d’outils IA et la collecte de données

  • Utiliser des outils IA signifie que des données utilisateurs sont collectées à grande échelle.
  • Les IA qui s’exécutent localement ne devraient être utilisées que dans les cas où la protection des données utilisateur est souhaitée.

• Résumé des commentaires sur la corrélation entre développement de l’IA et collecte de données

  • L’IA repose sur les données : plus on collecte de données, mieux on peut entraîner les modèles, ce qui crée une boucle vertueuse où davantage d’utilisateurs veulent fournir des données.

• Résumé des commentaires sur la collecte de données et la détection des abus sur les plateformes

  • Il est évident que toutes les plateformes collectent les entrées des utilisateurs afin d’entraîner les modèles suivants et de détecter les abus.