- La base de données d’embeddings combine des index vectoriels (sparse et denses), des réseaux de graphes et une base de données relationnelle
- Cela permet la recherche vectorielle via SQL, la modélisation de sujets, la génération augmentée par récupération (RAG), etc.
- Elle peut être utilisée de manière autonome ou comme source de connaissances puissante pour les prompts de grands modèles de langage (LLM)
- Fonctionnalités de txtai
- Recherche vectorielle via SQL, stockage d’objets, modélisation de sujets, analyse de graphes et indexation multimodale
- Création d’embeddings pour le texte, les documents, l’audio, les images et la vidéo
- Pipelines basés sur des modèles de langage pour exécuter des prompts LLM, des questions-réponses, le labellisation, la transcription, la traduction, le résumé, etc.
- Workflows permettant de chaîner les pipelines et d’agréger la logique métier
- Les processus txtai peuvent être de simples microservices ou des workflows multi-modèles
- Construction en Python ou YAML
- API bindings disponibles pour JavaScript, Java, Rust et Go
- Exécution en local ou montée en charge via orchestration de conteneurs
Aucun commentaire pour le moment.