9 points par xguru 2024-06-19 | Aucun commentaire pour le moment. | Partager sur WhatsApp
  • Les fonctions LLM sont des templates de prompt avec quelques variables d’entrée définies et des types de sortie spécifiques comme des classes, des énumérations, des unions ou des chaînes optionnelles
  • BAML aide à écrire ces fonctions LLM de façon meilleure et plus propre
    • Il permet d’écrire des templates de prompt désordonnés sous forme de fonctions typées faciles à exécuter et à tester (sans regex, boucles try-catch ni erreurs de type)
  • Prise en charge de Python et TypeScript
  • Prise en charge de plusieurs modèles : Ollama, OpenAI, Anthropic
  • Aperçu des prompts en temps réel : possibilité de voir le prompt complet même avec des boucles ou des conditions
  • Testable dans le playground en un clic
  • Resilience & Fallback : ajout de fonctions de nouvelle tentative et de redondance aux appels LLM
  • La validation de type le rend plus résilient aux erreurs courantes des LLM que Pydantic/Zod
  • Plateforme d’observabilité : Boundary Studio prend en charge la visualisation des fonctions et le rejeu des requêtes

Aucun commentaire pour le moment.

Aucun commentaire pour le moment.