Token Cost - Calculer le coût par token de plus de 400 LLM
(github.com/AgentOps-AI)- Calcule le coût d’utilisation des principales API de LLM en estimant le coût des prompts et des réponses générées
- Suit les modèles les plus récents et les tarifs de chaque fournisseur de LLM
- Mesure le nombre de tokens avant l’envoi du prompt et celui de la réponse générée, puis calcule le montant total selon le coût par token de chaque LLM
- Peut être intégré à votre système connecté à des LLM avec une seule fonction
Aucun commentaire pour le moment.