32 points par xguru 2026-03-18 | 3 commentaires | Partager sur WhatsApp
  • Outil open source prenant en charge l’exécution et l’entraînement en local de divers modèles d’IA — texte, audio, embeddings, vision, etc. — dans une seule interface
  • Permet d’exécuter localement des modèles GGUF/safetensor sur Mac/Windows/Linux, tout en atteignant jusqu’à 2x plus de vitesse à l’entraînement et 70 % de VRAM en moins
  • Basé sur llama.cpp + Hugging Face, avec prise en charge de l’inférence multi-GPU et de la plupart des modèles
  • Le noyau Unsloth optimise LoRA, FP8, FFT, PT pour prendre en charge plus de 500 modèles de texte, vision, TTS/audio et embeddings
  • Permet le fine-tuning des derniers LLM, comme Qwen3.5 et NVIDIA Nemotron 3, avec prise en charge automatique du multi-GPU
    • Prend en charge un large éventail de méthodes d’entraînement, dont le full fine-tuning, l’entraînement en 4bit/16bit/FP8 et l’apprentissage par renforcement (GRPO)
    • Des optimisations continuent d’être ajoutées, comme l’entraînement de LLM MoE 12x plus rapide, ou l’entraînement d’un modèle 20B avec une longueur de contexte de plus de 500K sur un GPU de 80GB
  • Tous les modèles, y compris les modèles fine-tunés, peuvent être exportés en safetensors/GGUF pour être utilisés dans llama.cpp, vLLM, Ollama, LM Studio, etc.
  • Intègre la fonctionnalité Data Recipes, qui convertit automatiquement des documents non structurés comme PDF, CSV et JSON en jeux de données, ainsi que l’appel d’outils auto-réparateurs et l’exécution de code
  • Inclut des fonctions d’observabilité pour suivre en temps réel la perte d’entraînement et l’utilisation du GPU
  • Dans Model Arena, il est possible de comparer côte à côte les sorties de 2 modèles, comme le modèle de base et le modèle fine-tuné
  • Exécution 100 % hors ligne en local pour garantir la confidentialité, avec prise en charge d’Apple MLX, AMD et Intel prévue prochainement
  • Workflow :
    Lancer Studio →
    Charger un modèle depuis des fichiers locaux ou une intégration prise en charge →
    Importer des données d’entraînement depuis des PDF, CSV, JSONL, etc., ou créer un jeu de données de zéro →
    Nettoyer et enrichir le jeu de données dans Data Recipes → démarrer l’entraînement avec des presets recommandés ou des paramètres personnalisés →
    Comparer les sorties du modèle entraîné et du modèle de base →
    Sauvegarder en local ou exporter vers la stack existante
  • Licence
    • Le paquet principal Unsloth est sous licence Apache 2.0
    • Seuls certains composants optionnels, comme l’interface Unsloth Studio, sont sous licence open source AGPL-3.0

3 commentaires

 
wedding 2026-03-20

Je l’ai testé moi aussi dès sa sortie… la page s’affichait mal, et je n’arrivais même pas à passer le tutoriel 😢

 
wedding 2026-03-20

https://github.com/unslothai/unsloth/…

Ils l’avaient donc corrigé tout de suite !

 
GN⁺ 2026-03-19
Avis sur Hacker News
  • Je n’arrive toujours pas à configurer correctement unsloth studio sur mon MacBook
    À cause de problèmes de tooling liés à Python
    À la place, comme j’exécute déjà un serveur llama.cpp dans un conteneur Docker, j’ai fait des essais comparatifs entre trois codebases
    Premier code de comparaison, deuxième code de comparaison
    Les résultats étaient assez intéressants. Si unsloth studio fonctionne correctement, je réessaierai la semaine prochaine

    • Ce serait super si vous pouviez réessayer. Je viens justement de publier une nouvelle release PyPI
      Installation possible avec les commandes ci-dessous
      curl -LsSf https://astral.sh/uv/install.sh | sh  
      uv venv unsloth_studio --python 3.13  
      source unsloth_studio/bin/activate  
      uv pip install unsloth==2026.3.7 --torch-backend=auto  
      unsloth studio setup  
      unsloth studio -H 0.0.0.0 -p 8888
      
  • Je me demande quel est le modèle économique d’unsloth. Ils publient beaucoup de choses gratuitement, mais la structure de revenus ne semble pas très claire

    • Pour l’instant, l’objectif principal est surtout de fournir un tooling utile à la communauté open source
      J’ai l’impression que si les solutions closed source sont plus populaires, c’est surtout à cause de la qualité du tooling. Il y a encore beaucoup de choses à venir
    • Si l’équipe fait environ 8 personnes, ils ne semblent sans doute pas en difficulté financière immédiate
  • La fonction d’entraînement m’intéressait, mais j’ai été déçu de voir la mention « on NVIDIA »
    Je me demande s’il existe des alternatives ou des tutoriels pour faire du SFT (fine-tuning supervisé) avec la stack Metal de macOS

    • En bas de la documentation, il est indiqué que le support non-Nvidia est en préparation
      Je l’attends aussi, étant sur AMD. ROCm est pénible, mais j’aime bien AMD en soi
    • Il est clairement indiqué : « Mac : chat uniquement sur CPU, support de l’entraînement MLX à venir »
    • Une alternative réaliste serait peut-être de louer un GPU Nvidia et de l’utiliser depuis ce Mac
    • haha
  • Unsloth est vraiment un bon projet
    Si vous faites tourner votre propre moteur d’IA, ça vaut clairement le coup d’essayer

  • Comme c’est sous licence Apache, je pense l’essayer aussi au travail
    LMStudio a une licence propriétaire, donc c’était difficile à faire valider

    • Seuls certains composants sont sous Apache
  • J’aimerais vraiment qu’ils ajoutent le support AMD
    Pour l’instant, j’utilise des contournements assez complexes avec un GPU AMD

    • Ils disent aussi préparer le support AMD. J’attends moi aussi
  • J’ai essayé de compiler depuis les sources sur macOS, et j’ai eu l’erreur TypeScript suivante
    'status' is declared but its value is never read

    • C’est corrigé. Je recommande de réessayer avec les commandes ci-dessous
      curl -LsSf https://astral.sh/uv/install.sh | sh  
      uv venv unsloth_studio --python 3.13  
      source unsloth_studio/bin/activate  
      uv pip install unsloth --torch-backend=auto  
      unsloth studio setup  
      unsloth studio -H 0.0.0.0 -p 8888
      
    • Ils disent qu’ils vont vérifier rapidement et corriger ça
  • Installer via pip sur macOS est déconseillé, car cela peut casser le système
    Il faudrait un paquet Homebrew ou un fichier zip pour installation manuelle

    • D’accord. À mon avis, pour le moment, il vaut mieux installer avec « uv » ou « mise »
      Avec uv tool install unsloth, c’est plus simple à gérer
    • Merci pour le retour, ils sont en train d’améliorer davantage le processus d’installation
      Ils viennent surtout de l’écosystème Python, donc ils manquaient d’expérience en packaging. Le support Homebrew est le prochain objectif
    • Je recommande d’installer d’abord uv, puis d’isoler le paquet Python dans un environnement virtuel
    • uv sync est beaucoup plus propre
      Avec pyproject.toml, on gère les dépendances et on obtient un environnement reproductible en une seule commande
      J’avais déjà installé unsloth avec une version ROCm non publiée, et une seule ligne uv sync a suffi
      Commentaire lié dans l’issue
    • Peut-être que pipx pourrait aussi résoudre le problème
      Documentation d’installation de pipx
  • Je reviendrai vérifier quand le support AMD sera disponible

  • Je me demande s’il utilise le GPU sur Mac
    Lors du setup, c’était indiqué comme CPU uniquement