- API open source pour tous les frameworks
- Le modèle est compressé dans un fichier Zip unique avec ses métadonnées, puis ce fichier est chargé
- Le code d’inférence peut fonctionner indépendamment du framework. Il suffit d’appeler l’API de Carton, qui se charge ensuite d’appeler l’intérieur du framework
- Implémenté en Rust, avec des bindings pour chaque langage
- Prise en charge de x86_64 Linux et macOS, aarch64 Linux et macOS, ainsi que de WebAssembly
- Contrairement à ONNX, qui convertit les modèles, Carton ne les convertit pas et se contente de les encapsuler
Aucun commentaire pour le moment.