llmware - framework unifié pour développer des applications basées sur les LLM, avec RAG

• Permet de créer rapidement des applications LLM d’entreprise en mettant l’accent sur l’intégration simple de modèles LLM open source et leur connexion sécurisée aux connaissances internes de l’entreprise
• Fonctionnalités principales
  • Catalogue de modèles : accès uniforme à tous les modèles, quelle que soit leur implémentation sous-jacente, avec consultation simplifiée
  • Bibliothèque : collecte, organisation et indexation à grande échelle de collections de connaissances, avec parsing, découpage de texte, embeddings, etc.
  • Requêtes : permet d’interroger des bibliothèques via un mélange de filtres textuels, sémantiques, hybrides, de métadonnées et personnalisés
  • Prompts avec sources : la manière la plus simple de combiner recherche de connaissances et raisonnement LLM
  • Modèles optimisés pour le RAG : modèles de 1 à 7B de paramètres, conçus pour l’intégration dans des workflows RAG et exécutables en local
  • Options de base de données faciles à étendre : stockage de données unifié, du notebook au cluster parallélisé
• Agent multimodal, démarrage rapide sans installation de base de données (SQLite, FAISS), intégration Postgres (pgvector), prise en charge de GCUF