- Prend un modèle d’IA en entrée et crée une version optimisée pour une exécution rapide
- Teste plusieurs compilateurs de deep learning afin de trouver la meilleure méthode pour un matériel donné
- Indépendant du modèle de deep learning : compatible avec les transformers, LSTM, CNN, FCN, etc.
- Indépendant du matériel : prend en charge la plupart des CPU et GPU. La prise en charge des TPU et des ASIC dédiés au deep learning est également prévue prochainement
- Indépendant du framework : PyTorch, TensorFlow, HuggingFace, et d’autres bientôt pris en charge
- Tout s’exécute en local, ce qui garantit la sécurité
- Facile à utiliser avec seulement quelques lignes de code
1 commentaires
(auteur de la bibliothèque) Merci pour le partage ! Ravi d’apprendre que vous avez pris plaisir à travailler dessus.
Cela va continuer à évoluer et les performances vont s’améliorer... bonne accélération !