8 points par xguru 2024-04-04 | Aucun commentaire pour le moment. | Partager sur WhatsApp
  • Basé sur Intel Extension for PyTorch (IPEX)
  • Optimisé et validé pour plus de 50 modèles (LLaMA2, Mistral, Gemma, LLaVa, Whisper, etc.)
  • Exécution à faible latence sur iGPU local ou sur des GPU distribués comme Arc/Flex/Max
  • Bonne intégration avec llama.cpp, HuggingFace, LangChain, LlamaIndex, etc.

Aucun commentaire pour le moment.

Aucun commentaire pour le moment.