11 points par xguru 2024-02-19 | 4 commentaires | Partager sur WhatsApp
  • Ollama est un open source qui facilite l’exécution locale de LLM comme Llama 2 et Mistral
  • Il est désormais possible de récupérer, exécuter et générer des LLM aussi dans l’environnement Windows
  • L’API Ollama compatible OpenAPI et l’accélération matérielle sont également prises en charge, avec accès à l’ensemble de la bibliothèque de modèles
    • Utilise les GPU NVIDIA et les jeux d’instructions CPU récents comme AVX/AVX2

4 commentaires

 
minho2da 2024-02-19

Defender le détecte comme un virus...

 
yonaa 2024-02-19

Ce n’est pas un virus ; comme c’est juste un exécutable inconnu, cela affiche simplement un avertissement.

 
cosine20 2024-02-19

............