LMQL - Un langage pour interroger les LLM

• Il est possible d’interroger les LLM (grands modèles de langage) en langage naturel, mais il arrive parfois que le LLM ne comprenne pas exactement l’intention humaine
• Pour résoudre ce problème, des chercheurs du SRIlab (Secure, Reliable, and Intelligent Systems Lab) de l’ETH Zurich ont proposé le concept de LMP (Language Model Programming)
• Le langage et la plateforme qui mettent en œuvre ce concept de LMP sont justement LMQL (Language Model Query Language)
• Une syntaxe déclarative similaire aux requêtes SQL
• Il contrôle le mode de fonctionnement en imposant des contraintes explicites aux sorties du LLM, afin d’éviter des résultats inattendus
• Implémenté en Python, il permet d’utiliser des fonctions Python ou des flux de contrôle dans les requêtes IA
• Compatible avec GPT-4 via l’API OpenAI ainsi qu’avec des modèles transformers hébergés en local
• En réduisant la consommation de tokens, il peut faire baisser de 26 à 85 % le coût d’utilisation des API payantes
• Article scientifique : https://doi.org/10.48550/arXiv.2212.06094
• Documentation : https://docs.lmql.ai/
• Playground : https://lmql.ai/playground
• Github : https://github.com/eth-sri/lmql