NeumAI - framework RAG open source à grande échelle

• Plateforme de données qui aide les développeurs à exploiter leurs données pour contextualiser les grands modèles de langage via le Retrieval Augmented Generation (RAG)
  • Extrait les données depuis des sources existantes comme des dépôts de documents et des bases NoSQL
  • Traite le contenu en embeddings vectoriels
  • Ingère les embeddings vectoriels dans une base de données vectorielle pour la recherche de similarité
• Solution RAG complète, extensible selon les applications, qui réduit le temps nécessaire pour intégrer des services tels que des connecteurs de données, des modèles d’embedding et des bases de données vectorielles

Caractéristiques

• Architecture distribuée haute performance capable de traiter des milliards de points de données : optimise la génération et l’ingestion d’embeddings grâce à une parallélisation avancée
• Connecteurs de données intégrés prenant en charge les sources de données, services d’embedding et vector stores courants
• Synchronisation en temps réel des sources de données pour maintenir les données toujours à jour
• Prétraitement des données personnalisable sous forme de chargement, chunking, sélection, etc.
• Gestion cohérente des données prenant en charge la recherche hybride via les métadonnées : enrichit et suit automatiquement les métadonnées pour offrir une expérience de recherche plus riche