18 points par GN⁺ 2024-01-26 | 1 commentaires | Partager sur WhatsApp
  • Ollama est un projet open source qui facilite l’exécution en local de LLM comme Llama 2 et Mistral
    • Compatible avec macOS/Linux, avec une prise en charge de Windows bientôt disponible via WSL2
  • Les premières versions des bibliothèques Python et JavaScript d’Ollama sont disponibles, permettant d’intégrer Ollama à de nouvelles applications comme à des applications existantes avec seulement quelques lignes de code
    • Elles reprennent telles quelles les fonctionnalités et l’expérience de l’API REST d’Ollama

Pour commencer

  • En Python, l’installation se fait via pip install ollama, puis après import ollama, on peut lancer une conversation avec la fonction ollama.chat.
  • En JavaScript, l’installation se fait via npm install ollama, puis après import ollama from 'ollama', on peut lancer une conversation avec la fonction ollama.chat.

Cas d’usage

  • Les deux bibliothèques prennent en charge l’ensemble des fonctionnalités d’Ollama.
  • Les exemples Python couvrent notamment le streaming, le multimodal, la complétion de texte, la création de modèles personnalisés et la configuration d’un client personnalisé.

Nouveau handle GitHub

  • Ces bibliothèques et le dépôt principal d’Ollama sont désormais gérés au sein de la nouvelle organisation GitHub ollama.
  • L’équipe remercie les membres de la communauté qui maintiennent des bibliothèques permettant d’interagir avec Ollama dans de nombreux langages, dont Dart, Swift, C#, Java, PHP et Rust.

1 commentaires

 
joone 2024-01-29

L’API Node fonctionne très bien aussi. Je l’ai bien utilisée cette fois-ci.