6 points par GN⁺ 2024-02-16 | 1 commentaires | Partager sur WhatsApp
  • Une application de prise de notes de bureau basée sur l’IA. Elle relie automatiquement les idées connexes, répond aux questions sur les notes et propose une recherche sémantique
  • Toutes les données sont stockées en local, et les notes peuvent être éditées avec un éditeur Markdown similaire à Obsidian
  • L’hypothèse du projet est que les outils de réflexion basés sur l’IA doivent fondamentalement exécuter les modèles en local
  • Reor s’appuie sur Llama.cpp et Transformers.js pour permettre l’exécution locale de LLM et de modèles d’embedding
  • La connexion à une API compatible OpenAI (par ex. Oobabooga) est également prise en charge

Comment est-ce que cela s’"auto-organise" ?

  • Toutes les notes rédigées sont découpées en chunks et vectorisées dans une base de données vectorielle interne
  • Les notes liées sont automatiquement connectées via la similarité vectorielle
  • Le Q&R basé sur un LLM effectue du RAG sur le corpus de notes
  • Tout peut être recherché de manière sémantique

Pour commencer

  • Téléchargement disponible sur reorproject.org ou dans les releases, avec prise en charge de Mac, Linux et Windows
  • Installation comme une application classique

Exécuter des modèles en local

  • Reor interagit directement avec la bibliothèque Llama.cpp, il n’est donc pas nécessaire de télécharger Ollama
  • Pour l’instant, les modèles ne sont pas téléchargés automatiquement ; l’utilisateur doit donc les télécharger manuellement
  • Les modèles les plus populaires peuvent être téléchargés depuis HuggingFace, et il est recommandé de commencer avec un modèle 7B en 4-bit
  • Dans les paramètres de Reor, il est possible de connecter un modèle sous "Ajouter un nouveau modèle local"
  • Il est aussi possible de se connecter à une API compatible OpenAI comme Oobabooga, Ollama ou OpenAI

Importer des notes depuis d’autres applications

  • Reor fonctionne à partir d’un seul répertoire du système de fichiers
  • Au premier lancement, il faut choisir un répertoire, et pour importer des notes/fichiers depuis d’autres applications, il faut remplir manuellement ce répertoire avec des fichiers Markdown
  • L’intégration avec d’autres applications sera bientôt disponible

Avis de GN⁺

  • Reor est une application de prise de notes basée sur l’IA et exécutée en local, un outil innovant qui peut aider à étendre et organiser la réflexion de l’utilisateur
  • La fonction qui relie automatiquement les notes de l’utilisateur et répond aux questions semble pouvoir être d’une grande aide pour la gestion de l’information et l’apprentissage
  • Avec le potentiel d’évoluer continuellement grâce aux contributions de la communauté open source, le projet pourrait être particulièrement intéressant pour les développeurs et les chercheurs

1 commentaires

 
GN⁺ 2024-02-16
Avis sur Hacker News
  • Bon rappel de l’utilité des notes Obsidian stockées sous forme de fichiers Markdown individuels :
    • le fait de pouvoir manipuler directement les fichiers, plutôt que de stocker les notes dans une base de données et d’utiliser Markdown comme simple format d’export, permet à plusieurs applications d’effectuer des tâches utiles sur les mêmes fichiers.
  • Expression de gratitude pour l’idée que l’IA devrait être aussi personnelle que possible et fonctionner en local :
    • remerciements pour cette perspective et pour les efforts continus dans ce sens.
  • Partage d’une expérience personnelle avec les outils de gestion des connaissances :
    • avec le modèle Hermes, la fonctionnalité de « notes associées » propose souvent des liens dénués de sens, donc de faible valeur.
    • le mode Q&R est utile pour interroger les notes et fournir une vue d’ensemble, mais il n’aide pas pour les questions précises ou donne des réponses erronées.
  • Soutien marqué au développement d’outils de gestion des connaissances qui privilégient la confidentialité et l’interopérabilité :
    • les utilisateurs devraient pouvoir facilement exporter et transférer leurs notes vers de nouveaux services selon leurs besoins.
    • préférence pour une solution entièrement locale qui permette, comme Obsidian, d’apporter ses propres modèles ou de combiner des plugins.
  • Partage d’informations sur Smart Connections v2 d’Obsidian :
    • prend en charge les embeddings locaux et affiche des notes associées sur la base de similarités sémantiques.
    • ce n’est pas encore parfait pour les dépôts multilingues, mais cela s’améliore et pourrait bientôt prendre en charge des modèles multilingues.
  • Suggestions pour Reor :
    • créer plusieurs « coffres » indépendants.
    • ajouter des liens aux notes associées pour représenter les connexions de l’IA sous forme de graphe.
    • réduire l’interface utilisateur à une fenêtre de chat.
    • lire d’autres formats, principalement les PDF.
    • s’intégrer à l’historique/aux favoris du navigateur (avec fourniture d’un script d’import manuel en Markdown).
  • Point de vue sceptique sur l’avenir de la gestion des connaissances avec l’IA :
    • trop s’appuyer sur l’IA pour effectuer tout le travail d’organisation pourrait diminuer la capacité de réflexion.
    • il n’existe pas encore de données, car la prolifération de ces outils en est encore à ses débuts, mais rendre l’apprentissage, la réflexion et la « gestion des connaissances » plus passifs n’améliore pas les résultats.
  • Expression d’une affection pour Obsidian et les connexions basées sur les graphes :
    • reconnaissance d’une similitude entre la structure des notes d’Obsidian et le concept de « second cerveau » pour la gestion personnelle des connaissances.
    • l’implémentation d’une recherche dans les notes pour des références intelligentes semble être l’étape suivante naturelle.
  • Intérêt pour le projet et appréciation de sa focalisation :
    • curiosité quant à une éventuelle étude de Cozodb ou d’autres bases de données combinant vecteurs et graphes/triples.
    • une approche neuro-symbolique est probablement la meilleure voie.
  • Partage d’une expérience personnelle avec un projet similaire pour Obsidian :
    • enthousiasme à l’idée de voir quelque chose d’encore plus avancé.
    • travail en cours sur un grand projet d’écriture avec Obsidian, avec pour objectif final de dialoguer avec ce qui a été écrit, d’affiner les idées et d’expérimenter de nouvelles façons d’explorer le contenu.
    • pas certain que les LLM locaux soient déjà assez puissants pour fournir des résultats utiles/fiables, mais très enthousiaste quant à l’avenir de cette technologie.
  • Partage d’une expérience de recherche de meilleures méthodes pour prendre des notes :
    • téléchargement et test de ce nouvel outil, qui semble très prometteur.
    • la possibilité d’avoir séparément des notes relevant de contextes complètement différents est importante.
    • il faut éviter de faire remonter des éléments de LLM qui se ressemblent, mais dont le contexte diffère.
    • pensait que « nouveau répertoire » permettait cela, mais cela ne semble pas être le cas.
    • besoin de savoir s’il est prévu d’implémenter un sélecteur de base de données et comment changer l’emplacement actuel.
    • heureux de voir que c’est déjà dans une PR.