Divulgation d’un incident de fuite de secrets sur la plateforme Spaces de Hugging Face

Réponse de Hugging Face à l’incident de sécurité

Aperçu de l’incident

• Un accès non autorisé a été détecté sur la plateforme Spaces de Hugging Face.
• Il est possible que des informations secrètes de certains Spaces aient fait l’objet d’un accès non autorisé.

Mesures de réponse

• En première mesure, les jetons HF concernés ont été révoqués.
• Les utilisateurs concernés ont été informés par e-mail.
• Il est recommandé de renouveler toutes les clés et tous les jetons, et de migrer les jetons HF vers des jetons d’accès à granularité fine.

Mesures de renforcement de la sécurité

• Hugging Face enquête sur le problème et examine ses politiques de sécurité en collaboration avec des experts externes en cybersécurité.
• Plusieurs améliorations majeures ont été introduites pour renforcer la sécurité de l’infrastructure Spaces :
  • Suppression complète des jetons d’organisation afin d’améliorer la traçabilité et les capacités d’audit.
  • Mise en œuvre d’un service de gestion des clés (KMS) pour les secrets de Spaces.
  • Renforcement des capacités du système à identifier et invalider de manière préventive les jetons compromis.
  • Amélioration globale de la sécurité.
  • Une fois les jetons d’accès à granularité fine pleinement fonctionnels, les jetons de lecture et d’écriture « classiques » seront entièrement supprimés.

Mesures juridiques

• Cet incident a été signalé aux autorités chargées de l’application de la loi et aux autorités de protection des données.

Informations à destination des utilisateurs

• L’entreprise présente ses sincères excuses pour les désagréments causés par cet incident et affirme vouloir en faire une occasion de renforcer la sécurité de l’ensemble de son infrastructure.
• En cas de questions supplémentaires, il est recommandé de contacter [e-mail].

L’avis de GN⁺

• Nécessité de renforcer la sécurité : cet incident rappelle une nouvelle fois l’importance du renforcement de la sécurité sur les plateformes logicielles. Le contrôle d’accès et la supervision des informations sensibles sont particulièrement importants.
• Jetons d’accès à granularité fine : ces jetons constituent un bon moyen d’améliorer la sécurité. Ils permettent d’appliquer le principe du moindre privilège en limitant les autorisations inutiles.
• Collaboration avec des experts externes : travailler avec des experts externes en cybersécurité aide grandement à résoudre ce type de problème. Cela permet de traiter des questions complexes difficiles à résoudre avec les seules ressources internes.
• Réponse juridique : signaler l’incident aux forces de l’ordre et aux autorités de protection des données est important pour maintenir la transparence et rétablir la confiance des utilisateurs.
• Communication avec les utilisateurs : informer rapidement et clairement les utilisateurs est essentiel pour préserver la confiance. Cela renforce la relation de confiance avec eux.

[GN⁺]

Avis Hacker News

• Jossef Harush Kadouri a découvert, dans des slides présentées lors d’une conférence sur la sécurité, que lorsqu’on utilise un modèle sur une plateforme comme Huggingface, l’auteur du modèle peut exécuter du code arbitraire sur l’ordinateur de l’utilisateur.
• N’étant pas dans le domaine de l’IA, je pensais que les fichiers de modèles n’étaient que de simples matrices de nombres et des métadonnées, mais j’ai compris qu’ils sont en réalité constitués de scripts Python, ce qui explique pourquoi la standardisation s’est faite facilement.
• L’expression « ils ont des soupçons » n’est pas appropriée dans ce type de communication.
• Huggingface a beaucoup travaillé pour améliorer son infrastructure de sécurité, ce qui devrait entraîner davantage d’activités plus chronophages comme des audits de sécurité et des tests d’intrusion.
• Il y a quelques semaines, une clé OpenAI a fuité et elle n’était active que sur un espace Huggingface. Il y a quelques jours, j’ai reçu un e-mail indiquant que l’espace avait été compromis.
• Une clé Anthropic a fuité, entraînant 10 000 dollars de frais. Je me demande si Huggingface va les rembourser.
• À cause du titre, j’ai cru qu’il s’agissait d’un article sur l’espace, mais en réalité c’était à propos des Spaces de Huggingface.
• Il n’est pas fait mention de la prise en charge des coûts induits de manière inappropriée. Si quelqu’un accède à des secrets, cela ne permet-il pas de faire des appels API et d’engendrer des frais ?
• Je me demande ce qu’est un « Space ».
• Je ne comprends pas pourquoi Huggingface stocke des « secrets ». Il semblerait préférable de stocker une clé publique et de faire signer les requêtes par l’utilisateur avec une clé secrète.
• Vu à quel point il est difficile d’accomplir des tâches simples, ce problème ne me surprend pas.