- Les fonctions LLM sont des templates de prompt avec quelques variables d’entrée définies et des types de sortie spécifiques comme des classes, des énumérations, des unions ou des chaînes optionnelles
- BAML aide à écrire ces fonctions LLM de façon meilleure et plus propre
- Il permet d’écrire des templates de prompt désordonnés sous forme de fonctions typées faciles à exécuter et à tester (sans regex, boucles
try-catch ni erreurs de type)
- Prise en charge de Python et TypeScript
- Prise en charge de plusieurs modèles : Ollama, OpenAI, Anthropic
- Aperçu des prompts en temps réel : possibilité de voir le prompt complet même avec des boucles ou des conditions
- Testable dans le playground en un clic
- Resilience & Fallback : ajout de fonctions de nouvelle tentative et de redondance aux appels LLM
- La validation de type le rend plus résilient aux erreurs courantes des LLM que Pydantic/Zod
- Plateforme d’observabilité : Boundary Studio prend en charge la visualisation des fonctions et le rejeu des requêtes
Aucun commentaire pour le moment.