Token.js - connecter plus de 200 LLM avec un seul SDK
(github.com/token-js)- Appel de plus de 200 LLM de 10 fournisseurs via le format OpenAI
- AI21, Anthropic, AWS Bedrock, Cohere, Gemini, Groq, Mistral, OpenAI, Perplexity, OpenRouter
- Prend en charge les tools, la sortie JSON, l’entrée d’images, le streaming, etc.
- Fonctionne uniquement côté client, sans serveur proxy
3 commentaires
Cela ressemble à ce que propose l’AI SDK.
J’aimerais bien un package Python.
En Python, il y a https://github.com/BerriAI/litellm