Hugging Face dévoile Training Cluster As a Service
(huggingface.co)- Un service pour entraîner facilement de grands modèles sur les clusters de Hugging Face, sans processus complexe
- Il est possible de modifier les principales valeurs dans la liste déroulante pour voir le prix
I want to train a "7B/13B/30B/70B" parameters "text/multimodal" model on a "1.4T/3.5T/7T" tokens dataset, on "200/500/1000" "A100/H100 GPUs/Trainium Nodes" - Si l’on choisit d’entraîner un modèle text de 70B paramètres sur un jeu de données de 1.4T tokens avec 500 GPU H100,
la durée totale est de 57 jours et le prix est de $2,879,856
Aucun commentaire pour le moment.