- Ollama est un projet open source qui facilite l’exécution en local de LLM comme Llama 2 et Mistral
- Compatible avec macOS/Linux, avec une prise en charge de Windows bientôt disponible via WSL2
- Les premières versions des bibliothèques Python et JavaScript d’Ollama sont disponibles, permettant d’intégrer Ollama à de nouvelles applications comme à des applications existantes avec seulement quelques lignes de code
- Elles reprennent telles quelles les fonctionnalités et l’expérience de l’API REST d’Ollama
Pour commencer
- En Python, l’installation se fait via
pip install ollama, puis aprèsimport ollama, on peut lancer une conversation avec la fonctionollama.chat. - En JavaScript, l’installation se fait via
npm install ollama, puis aprèsimport ollama from 'ollama', on peut lancer une conversation avec la fonctionollama.chat.
Cas d’usage
- Les deux bibliothèques prennent en charge l’ensemble des fonctionnalités d’Ollama.
- Les exemples Python couvrent notamment le streaming, le multimodal, la complétion de texte, la création de modèles personnalisés et la configuration d’un client personnalisé.
Nouveau handle GitHub
- Ces bibliothèques et le dépôt principal d’Ollama sont désormais gérés au sein de la nouvelle organisation GitHub
ollama. - L’équipe remercie les membres de la communauté qui maintiennent des bibliothèques permettant d’interagir avec Ollama dans de nombreux langages, dont Dart, Swift, C#, Java, PHP et Rust.
1 commentaires
L’API Node fonctionne très bien aussi. Je l’ai bien utilisée cette fois-ci.