Ollama prend désormais en charge l’appel d’outils

• Ollama prend désormais en charge l’appel d’outils avec des modèles comme Llama 3.1
• Cela permet au modèle de répondre à un prompt donné en utilisant les outils qu’il connaît, afin d’exécuter des tâches plus complexes ou d’interagir avec le monde extérieur
  • Outils : fonctions et API, navigation web, interpréteur de code
• Pour activer l’appel d’outils, il faut fournir la liste des outils disponibles via le champ tools de l’API Ollama,
  et les modèles pris en charge répondent désormais avec des réponses tool_calls. Les réponses d’outils peuvent être fournies via des messages ayant le rôle tool
• Modèles pris en charge : Llama 3.1, Mistral Nemo, Firefunction v2, Command-R +
• Le point de terminaison compatible OpenAI d’Ollama prend lui aussi désormais en charge les outils, et peut être utilisé en basculant vers Llama 3.1 ou d’autres modèles
• Améliorations à venir
  • Appels d’outils en streaming : prise en charge du streaming des appels d’outils pour pouvoir commencer à travailler plus vite lorsque plusieurs outils sont renvoyés
  • Sélection d’outils : possibilité d’imposer au modèle l’utilisation d’un outil spécifique

[edunga1]

https://fr.news.hada.io/topic?id=13436
C’est comme la fonctionnalité de phidata, non ? De ce côté, il suffisait de bien documenter le docstring, mais si ce n’était pas GPT, on ne pouvait pas utiliser les tools.