Tanuki - Développer facilement des apps basées sur des LLM
(github.com/Tanuki)- Permet d’appeler facilement des LLM à la place de fonctions en Python, avec les mêmes paramètres et sorties que ceux attendus d’une fonction implémentée à la main
- Les fonctions basées sur des LLM sont bien typées, fiables et sans état, et peuvent être ajoutées directement à des apps de production
- Plus on utilise les fonctions, plus cela devient jusqu’à 9 à 10 fois moins cher grâce à la distillation automatique de modèles (Distillation)
- Prise en charge de la RAG et de l’alignement des sorties
Aucun commentaire pour le moment.