Maek, un workspace de mémoire IA local-first créé par l’équipe contributrice du cœur de recherche Lucene

Bonjour. Nous sommes cognica, une équipe qui développe des infrastructures de recherche et d’AI Memory.

Pour présenter brièvement l’équipe, nos travaux sur la recherche hybride probabiliste (probabilistic hybrid search) fondée sur BB25 (Bayesian BM25), proposée par cognica, ont récemment été officiellement intégrés au cœur d’Apache Lucene 10.5.0 (BayesianScoreQuery, LogOddsFusionQuery).

Nous travaillons à transformer ces technologies de recherche et d’infrastructure mémoire en un produit perceptible par les utilisateurs réels, et nous aimerions vous présenter Maek, une application IA pour macOS, notre premier résultat, afin de recueillir vos retours.

Téléchargement et site web : https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

1. Le problème à résoudre : « suffit-il d’agrandir la fenêtre de contexte ? »

Quand on utilise un chat IA, il est fastidieux de devoir réexpliquer à chaque conversation le même contexte : l’historique d’un projet, les décisions passées, les documents souvent consultés, etc.

Pour résoudre cela, la méthode consistant simplement à « pousser tout le texte des conversations précédentes dans le prompt » présente des limites claires.

• Gaspillage de Context Window et hausse des coûts

• Augmentation du Hate/Noise due au mélange de contenus anciens non pertinents

• Perte du contexte passé qui est pourtant réellement important

Maek se concentre, à chaque nouvelle question, sur la manière de « reconstruire (Reconstruct) les souvenirs nécessaires à la question actuelle sous la forme optimale ».

2. Architecture clé : données séparées et retrieval fondé sur l’Evidence

Maek stocke les conversations et les documents dans un stockage local, puis reconstitue le contexte à chaque nouvelle question en combinant les signaux ci-dessous.

• Messages : l’historique de chat général, qui sert aussi de cible pour la recherche par mots-clés et par vecteurs.

• Document Chunks : les fichiers ne sont pas de simples consommables de prompt que l’on lit une fois puis que l’on jette ; ils sont découpés en petits chunks stockés localement, puis retrouvés et cités (Citation) comme fondements des réponses chaque fois que nécessaire.

• Graph : les personnes, organisations, événements, décisions, engagements, etc. sont extraits des conversations et organisés sous forme de relations (Connection). Même si l’utilisateur ne se souvient pas du mot-clé exact, Maek peut retrouver le contexte associé.

• Conversation State : un tableau de bord condensant la situation actuelle, les fils ouverts, les profils de personnes, etc. (Toutefois, en cas de conflit avec le dernier message de l’utilisateur, il sert de « Memory Hint », le message utilisateur étant prioritaire.)

• Combinaison hybride fondée sur l’Evidence : BM25, Vector Similarity, Graph et Recency ont des échelles différentes ; si l’on additionne simplement leurs scores, un signal peut dominer excessivement les autres. En nous appuyant sur l’expertise acquise en contribuant BB25 au cœur de Lucene, nous considérons ces signaux comme des « preuves (Evidence) » nécessaires à la question en cours et les combinons finement.

3. Principales caractéristiques : inspectabilité et Local-First

• Visualisation des fondements des réponses : au-delà du fait que l’IA affirme avoir « mémorisé et répondu », l’utilisateur peut vérifier directement quels messages, quels chunks de documents, quels Graph Hits et quelles informations de State ont été inclus dans le contexte lors de la génération de la réponse (informations de Reconstruction). Il doit être possible de déboguer « pourquoi cela a été mémorisé » et « pourquoi cela n’a pas été trouvé » pour pouvoir faire confiance à l’IA et la corriger.

• Différence avec ChatGPT Memory : si ChatGPT Memory est une fonction de mémoire personnalisée dépendante du service, Maek est un outil indépendant qui accumule les actifs de l’utilisateur (conversations, documents, graphes, état) dans un espace de travail (Workspace) local et reconstruit le contexte à chaque tour.

• Transparence des flux de données : lors de l’utilisation d’un modèle local, tout reste entièrement hors ligne jusqu’à l’inférence ; en revanche, si vous connectez un modèle cloud comme OpenAI/Claude, l’entrée actuelle et le contexte local retrouvé sont envoyés à l’API correspondante. Ce flux de données est clairement distingué dans l’UI et la documentation afin que vous puissiez l’utiliser en toute confiance.

La version actuelle est encore initiale et nous menons principalement nos tests sur des environnements Mac Apple Silicon ; vos avis sur les points suivants nous seraient très utiles.

• Compréhension du concept : Maek est-il bien expliqué comme une approche d’« AI Memory Workspace », et non comme une simple UI de chat ?

• Validité de l’approche : la méthode consistant à reconstruire dynamiquement le contexte à chaque tour vous paraît-elle techniquement convaincante ?

• Différenciation par rapport à ChatGPT Memory : les différences avec les fonctions de mémoire des services existants ressortent-elles clairement ?

• Transparence : les explications sur les flux de données et la sécurité lors de l’utilisation de modèles locaux/cloud sont-elles claires ?

• UX/première impression : l’installation et la première exécution en tant qu’application macOS semblent-elles naturelles ?

Lien : https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

Nous vous remercions d’avance pour vos retours francs. Merci.