- Ollama prend désormais en charge la fonctionnalité de sorties structurées (Structured Output), qui utilise des schémas JSON pour contraindre la sortie des modèles à un format spécifique
- Les bibliothèques Python et JavaScript ont été mises à jour pour permettre l’utilisation de cette fonctionnalité
- Principaux cas d’usage des sorties structurées
- Analyse de données à partir de documents
- Extraction de données à partir d’images
- Structuration des réponses de tous les modèles de langage
- Fiabilité et cohérence supérieures au mode JSON
- Conseils d’utilisation
- Définir un schéma JSON avec Pydantic (Python) ou Zod (JavaScript)
- Ajouter « retourner en JSON » dans le prompt
- Réduire le paramètre temperature à 0 pour obtenir une sortie déterministe
- Feuille de route
- Prise en charge du contrôle de génération via l’exposition des logits
- Amélioration des performances et de la précision
- Prise en charge de formats supplémentaires au-delà des schémas JSON
- Prise en charge de l’échantillonnage accéléré par GPU
1 commentaires
Avant, il fallait inclure le schéma JSON dans le prompt et n’utiliser dans les paramètres de l’API que
format: json, mais maintenant on peut économiser des tokens et le configurer plus facilement !