KubeAI - Exécuter une IA privée sur Kubernetes
(github.com/substratusai)- Fournit une API HTTP compatible avec OpenAI
- Mise à l’échelle automatique en fonction de la charge
- Possibilité de servir des LLM open source sur CPU/GPU
- Zéro dépendance (Istio, Knative, etc.)
- Interface de chat intégrée
Aucun commentaire pour le moment.