Hodu - framework ML en Rust

Récemment, une connaissance proche a créé un framework ML appelé Hodu en utilisant Rust.
Ayant moi-même travaillé sur un projet similaire, je pense que cela peut être une bonne ressource à consulter pour celles et ceux qui s’intéressent aux frameworks ML, donc je la partage ici.

Principales caractéristiques

• prise en charge de no_std : architecture légère pouvant fonctionner même sur des microcontrôleurs
• compilation en graphe statique : un graphe compilé une fois peut être stocké sur un appareil embarqué pour effectuer facilement de l’inférence
• double mode d’exécution :
  • prototypage : expérimentation basée sur un graphe dynamique
  • déploiement en production : exécution stable basée sur un graphe statique
• backend haute performance
  • backend XLA : performances maximales grâce à l’optimisation de graphe et à la compilation JIT
  • backend natif HODU : implémentation pure Rust permettant une exécution sans contrainte de plateforme
• API intuitive : style PyTorch/TensorFlow
• garantie de sécurité mémoire : le système de possession de Rust bloque complètement les fuites mémoire et les data races
• prise en charge multi-appareils : CPU, CUDA (GPU NVIDIA), Metal (GPU Apple)

Il semble que Hodu en soit arrivé à son état actuel en partant de maidnx, un projet que son auteur avait commencé pour apprendre le ML avec Rust.

La fonctionnalité XLA nécessite à la compilation LLVM/Clang + 8 Go ou plus de RAM + 20 Go ou plus d’espace disque, et le temps de build est également assez long.
La prise en charge des GPU CUDA n’est pas encore totalement implémentée, et une optimisation SIMD est également prévue.
Son utilisation en environnement de production n’est actuellement pas recommandée, car le développement est actif et certaines fonctionnalités sont expérimentales ou incomplètes.