RecurseChat - une application de chat IA locale pour un usage quotidien

• Priorité au local, fonctionne hors ligne : permet de discuter avec une IA hors ligne sans configuration complexe.
• Recherche experte : offre une fonction de recherche rapide sur des milliers de messages.
• Import de l’historique ChatGPT : permet de poursuivre vos conversations avec une IA locale.
• Conversation multi‑modèles : permet de dialoguer avec plusieurs modèles dans une même session de chat.
• Entrée multimodale : permet de dialoguer avec des images à l’aide du modèle LLaVA.
• Sécurité et protection de la vie privée : protégé par le sandbox des applications macOS, pour des conversations privées.
• Apparence et personnages IA personnalisables : permet de personnaliser la personnalité et l’apparence de l’IA avec vos propres modèles GGUF.

Fonctionnalités simples mais puissantes

• Discuter avec une IA hors ligne : permet de dialoguer avec un LLM local sans connaissances techniques.
• Chat multimodal avec des images : prend en charge différents types de conversation, y compris avec des images.
• Importer et reprendre l’historique ChatGPT : permet de continuer des conversations précédentes avec une IA locale.
• Recherche experte rapide : permet de retrouver facilement les échanges souhaités via la recherche textuelle.
• Personnalisation avancée : permet de modifier librement la personnalité et l’apparence de l’IA.

L’avis de GN⁺

• RecurseChat est une application qui met l’accent sur la protection de la vie privée et permet de discuter avec une IA même hors ligne. Cela peut être très utile pour les utilisateurs dont la connexion Internet est instable ou pour qui la confidentialité est importante.
• La sécurité apportée par le sandbox des applications macOS peut renforcer la confiance des utilisateurs, mais on ne sait pas si ce niveau de protection est offert de la même manière sur d’autres systèmes d’exploitation.
• La fonction de conversation multimodale avec des images peut offrir une expérience plus riche, mais elle peut aussi s’accompagner de défis techniques liés à la précision de la reconnaissance d’image.
• Le fait que l’utilisateur puisse personnaliser la personnalité et l’apparence de l’IA avec ses propres modèles GGUF peut constituer un atout majeur pour offrir une expérience personnalisée. Toutefois, un certain niveau de compréhension technique peut être nécessaire pour exploiter correctement ces fonctionnalités avancées.
• Il est important de tenir compte du niveau technique des utilisateurs et de leurs exigences en matière de confidentialité, ainsi que d’assurer la compatibilité et l’accessibilité dans divers environnements d’utilisation.

[GN⁺]

Commentaires sur Hacker News

• C’est rendu possible grâce au travail incroyable de @ggerganov sur llama.cpp. S’il y a des fonctionnalités que vous aimeriez voir dans l’application d’IA locale idéale, je serais ravi de les entendre.

• Full Text Search. Recherche ultra-rapide parmi des milliers de messages.

  • Le traitement du langage naturel a tellement progressé qu’il a réinventé Ctrl+F.
  • À propos de la fonction de recherche rapide parmi des milliers de messages, certains estiment qu’il s’agit d’une réinterprétation moderne de la recherche des années 90.
    • Une explication de la recherche en texte intégral, saluée comme une amélioration radicale de la recherche textuelle traditionnelle grâce aux avancées du traitement du langage naturel.

• Je serais prêt à payer pour une fonctionnalité capable de trouver des réponses dans des documents locaux, des favoris, l’historique du navigateur, etc.

• Excellent ! Quelques points :

  • L’interface de ChatGPT est utile parce qu’elle permet de modifier n’importe quelle partie d’une conversation, de régénérer l’échange à partir de ce point, puis de supprimer tout ce qui suit.
  • Le bouton de feedback ne fait rien, à part déplacer le focus vers Chrome.
  • Le modèle LLaVA étant un modèle d’IA textuel, il ne peut apparemment pas générer d’images.

• C’est bien, mais je ne vois pas pourquoi utiliser ça plutôt que ChatbotUI+Ollama.

  • À part l’avantage d’être une app native macOS, ainsi que l’importation et la recherche rapides, il est difficile de voir ce qui le différencie.
  • ChatbotUI a des avantages comme le cross-platform, la personnalisation, la confidentialité et la possibilité de déboguer.

• Quelques questions :

  • Qu’utilisez-vous pour la génération d’images ? Est-ce que cela fonctionne aussi en local (par ex. stable diffusion) ? Y a-t-il une génération de prompts intégrée ?
  • Vous avez dit qu’il est possible d’importer l’historique de ChatGPT ; peut-on aussi importer d’autres documents ?
  • Y a-t-il des fonctionnalités de style « agent » ? Peut-il faire des recherches sur le web ? Utiliser d’autres API ? Générer lui-même des prompts ?
  • Y a-t-il un framework de plugins ? Vous avez dit « personnalisable », mais cela peut vouloir dire à peu près tout.
  • Quelle est la licence ? Comment garantissez-vous que l’usage des utilisateurs reste privé ? Nous savons tous que beaucoup d’apps « locales » envoient de gros volumes de données vers l’extérieur.

• Quelques suggestions

  • Merci d’ajouter la police système (San Francisco) comme option d’interface. SF Mono serait également bien.
  • Il faudrait de l’aide pour l’usage des modèles destinée aux débutants. Un écran d’introduction expliquant comment démarrer serait utile.
  • Comme dans la plupart des apps Mac, ce serait bien que Command-comma ouvre les paramètres.
  • Ce serait bien que le clic sur un lien web ouvre Safari (ou le navigateur préféré).

• Ajouter une option pour utiliser l’API OpenAI dans la même interface serait aussi une bonne idée.

  • J’utilise actuellement jan.ai.

• Prévoyez-vous d’ajouter des modèles en ligne à l’application ? Les modèles locaux ne sont pas encore au niveau des modèles en ligne.

  • Ce serait bien de pouvoir basculer entre GPT/Claude/modèles locaux dans une interface de chat cohérente.

• Au lieu de dire « parler avec une IA locale », ce serait plus vendeur d’expliquer ce qu’on peut accomplir en parlant avec une IA locale.

  • Ce dont on a besoin, ce n’est pas d’une conversation, mais d’effectuer des tâches précises. Quelles tâches peut-elle accomplir ? (Ne me répondez pas ici ; mettez-le sur la landing page et dans la fiche de l’App Store.)