10 points par xguru 2024-11-13 | Aucun commentaire pour le moment. | Partager sur WhatsApp
  • Fournit une API HTTP compatible avec OpenAI
  • Mise à l’échelle automatique en fonction de la charge
  • Possibilité de servir des LLM open source sur CPU/GPU
  • Zéro dépendance (Istio, Knative, etc.)
  • Interface de chat intégrée

Aucun commentaire pour le moment.

Aucun commentaire pour le moment.