- Un projet-cadre fournissant des outils et des évaluations ouverts pour la confiance et la sécurité, afin d’aider les développeurs à déployer des modèles d’IA générative de manière responsable
- Dans une première étape, deux outils sont publiés
- CyberSec Eval : un benchmark d’évaluation de la sécurité en cybersécurité pour les LLM
- Llama Guard : un classificateur de sécurité pour le filtrage des entrées et sorties, optimisé pour un déploiement facile
- En collaboration avec AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI et d’autres, ces outils seront mis à disposition de la communauté open source
Pourquoi « Purple » ?
- Ils estiment que pour réellement atténuer les défis posés par l’IA générative, il faut adopter à la fois une posture d’attaque (red team) et de défense (blue team)
- Une purple team, composée de la combinaison des red teams et blue teams, constitue une approche collaborative pour évaluer et atténuer les risques potentiels
- Le projet Purple Llama sera proposé sous une licence permissive permettant les usages de recherche et commerciaux
- Il s’agit d’une étape importante pour favoriser la collaboration de la communauté et standardiser le développement et l’usage d’outils de confiance et de sécurité pour le développement de l’IA générative
1 commentaires
Je suis allé voir ce qu’était AI Alliance - https://thealliance.ai, et il s’agit visiblement d’une alliance créée sous l’impulsion d’IBM et de Meta.
Plus de 50 entreprises et organisations y participent, mais OpenAI, Google, NVidia et Microsoft, entre autres, en sont tous absents, donc je me demande un peu ce que c’est, haha.