- Forge est un système qui permet aux entreprises de construire leurs propres modèles d’IA fondés sur leurs connaissances internes, en comblant les limites des modèles existants centrés sur les données publiques
- Il entraîne des modèles spécialisés par domaine à partir de documents internes, de bases de code et de données opérationnelles, tout en prenant en charge les étapes de pré-entraînement, post-entraînement et apprentissage par renforcement
- Il permet de conserver le contrôle sur les modèles, les données et les connaissances, ainsi que la protection de la propriété intellectuelle, ce qui le rend exploitable même dans les secteurs réglementés
- Grâce à des modèles sur mesure, les agents d’entreprise peuvent comprendre les systèmes et politiques internes, et exécuter avec précision l’usage des outils comme la prise de décision
- Il prend en charge diverses architectures et l’apprentissage par renforcement continu, ce qui renforce l’autonomie stratégique de l’IA d’entreprise et ses possibilités d’amélioration à long terme
Présentation de Forge
- Forge est un système qui permet aux entreprises de construire des modèles d’IA de niveau frontier à partir de leurs connaissances et données propres
- Alors que les modèles traditionnels fondés sur des données publiques sont optimisés pour des tâches générales, Forge reflète le contexte propre à chaque organisation, comme les standards internes, les politiques, le code ou les historiques de décision
- Il aide ainsi l’IA à fonctionner en adéquation avec l’environnement opérationnel et les workflows de l’entreprise
- Mistral AI collabore déjà avec ASML, Ericsson, European Space Agency et HTX Singapore pour appliquer cette technologie
Entraînement de modèles fondés sur les connaissances institutionnelles
- Forge entraîne les modèles à partir de grands volumes de données internes tels que des documents, des bases de code, des données structurées et des journaux d’exploitation
- Le modèle assimile alors la terminologie, les schémas de raisonnement et les contraintes propres à cet environnement
- Le processus d’entraînement se compose de trois étapes
- Pré-entraînement (pre-training) : construction d’un modèle sensibilisé au domaine à partir des données internes
- Post-entraînement (post-training) : ajustement fin du modèle pour l’adapter à des tâches et environnements spécifiques
- Apprentissage par renforcement (reinforcement learning) : alignement du comportement du modèle sur les politiques internes et les critères d’évaluation, avec amélioration des performances en conditions réelles
- Cela permet de développer des modèles qui reflètent l’intelligence de l’organisation
Contrôle et autonomie stratégique
- Forge est conçu pour permettre aux entreprises de conserver le contrôle sur les modèles et les données
- Les modèles sont entraînés sur des données internes et peuvent être gérés selon les politiques, critères d’évaluation et exigences opérationnelles de l’entreprise
- Il permet de répondre aux exigences de conformité et de gouvernance dans des environnements réglementés
- L’exécution des modèles sur une infrastructure propre garantit une autonomie stratégique
Modèles sur mesure et agents fiables
- Les agents d’entreprise ne doivent pas seulement générer des réponses, mais aussi naviguer dans les systèmes internes, utiliser des outils et prendre des décisions fondées sur des politiques
- Les agents fondés sur des modèles entraînés sur le domaine comprennent la terminologie et les procédures internes, et saisissent les relations entre systèmes
- Meilleure précision dans le choix des outils, plus grande fiabilité des workflows à plusieurs étapes, et décisions tenant compte des politiques internes
- Il devient ainsi possible de mettre en œuvre des agents d’IA comme composants opérationnels
Prise en charge de différentes architectures de modèles
- Forge prend en charge à la fois les architectures Dense et Mixture-of-Experts (MoE)
- Les modèles Dense sont performants sur les tâches généralistes, tandis que les MoE permettent d’exploiter de grands modèles avec une faible latence et une bonne efficacité économique
- La prise en charge des entrées multimodales permet d’entraîner des modèles sur divers formats de données, comme le texte ou l’image
Une conception centrée sur les agents
- Forge est conçu avec les agents de code comme principaux utilisateurs
- Exemple : des agents autonomes comme Mistral Vibe peuvent effectuer le fine-tuning du modèle, l’exploration d’hyperparamètres, l’ordonnancement des tâches et la génération de données synthétiques
- Forge prévient les baisses de performance grâce au monitoring des métriques d’évaluation pendant l’entraînement
- En incluant la gestion de l’infrastructure et les recettes de pipeline de données, il permet la personnalisation du modèle via de simples commandes en langage naturel
Amélioration continue et évaluation
- Forge prend en charge un apprentissage adaptatif continu
- Grâce au pipeline d’apprentissage par renforcement, le comportement du modèle peut être amélioré à partir des retours internes
- Le framework d’évaluation permet de tester des benchmarks internes, des règles réglementaires et des tâches propres à chaque domaine
- Il devient ainsi possible de mettre en place un cycle de vie de modèle en amélioration continue plutôt qu’un déploiement statique
Cas d’usage en entreprise
- Administrations publiques : apprentissage de documents de politique multilingues et de procédures administratives pour soutenir l’analyse des politiques et les services publics
- Institutions financières : apprentissage de documents réglementaires et de procédures de risque pour assurer la cohérence de la gouvernance interne
- Équipes logicielles : apprentissage sur la base de code interne pour améliorer la productivité du développement, de l’implémentation au débogage et à la revue
- Fabricants : apprentissage de spécifications de conception et de données de maintenance pour aider au diagnostic et à la prise de décision
- Grandes entreprises : agents fondés sur des systèmes de connaissance internes pour prendre en charge des workflows complexes et améliorer la précision de la recherche d’information
Conclusion : vers une infrastructure d’IA centrée sur l’entreprise
- Alors que les modèles d’IA deviennent une couche centrale de l’infrastructure des entreprises, la modélisation des connaissances organisationnelles devient essentielle
- Forge fournit la base permettant aux entreprises de construire, entraîner, aligner et évaluer des modèles sur leurs propres données afin d’en faire un actif stratégique
- Il devient ainsi possible de transformer l’IA, d’un outil externe, en une capacité clé évoluant avec les connaissances de l’organisation
Aucun commentaire pour le moment.