Whisper Jax : l’implémentation de l’API Whisper la plus rapide
(github.com/sanchit-gandhi)- Implémentation rapide du modèle de reconnaissance vocale Whisper d’OpenAI grâce à diverses optimisations
- Exécuté avec JAX sur TPU v4-8. Jusqu’à 70 fois plus rapide que l’exécution avec PyTorch sur un GPU A100
- Peut s’exécuter sur CPU/GPU/TPU, en mode autonome ou comme endpoint d’inférence
Aucun commentaire pour le moment.