OpenLLMetry - observabilité open source pour les applications LLM

• Offre une visibilité intégrée complète pour les applications LLM
• Repose en interne sur OpenTelemetry, ce qui permet aussi l’intégration avec des solutions existantes comme Datadog, New Relic, Grafana Tempo et Splunk
• Instrumentation possible
  • LLM : OpenAI/Azure OpenAI, Anthropic, Cohre, HuggingFace, AWS Bedrock, Vertext AI, Replicate, IBM WatsonX
  • Bases de données vectorielles : Chroma, Pinecone, Qdrant, Weaviate, Milvus
  • Frameworks : LangChain, LlamaIndex, Haystack, LiteLLM
• Une version distincte pour JS/TS, OpenLLMetry-JS, est également proposée