Présentation sur HN : créer une interface utilisateur non linéaire pour ChatGPT

Présentation de Grafychat

• Grafychat est un notebook visuel sur canvas, respectueux de la vie privée, pour ChatGPT et d'autres IA conversationnelles
• Fonctionne avec OpenAI, Google AI et des modèles Ollama locaux
• Vous pouvez importer une clé API et commencer à discuter

Principales fonctionnalités de Grafychat

Canvas infini

• Permet d'organiser visuellement les conversations
• Permet de relier des points pour gérer les échanges
• Vous pouvez créer autant de canvas que nécessaire

Respect de la vie privée

• Tout est stocké sur l'appareil de l'utilisateur
• Les données ne quittent l'appareil que pour les requêtes vers des LLM non locaux
• Aucune inscription ni aucun compte n'est nécessaire

Contrôle des résultats

• Application facile d'instructions personnalisées
• Changement de modèle en temps réel
• Ajustement des paramètres du modèle

Recherche puissante

• Recherche en texte intégral sur toutes les données
• Filtrage précis possible
• Navigation facile dans les résultats

Support OpenAI de premier ordre

• Prise en charge de tous les modèles ChatGPT, y compris GPT-4
• Prise en charge de la saisie vocale / dictée
• Prise en charge de la génération vocale / narration
• Prise en charge de la génération d'images
• Aucun abonnement actif à ChatGPT n'est requis
• Utilisation possible de votre propre clé API OpenAI

Modèles locaux gratuits

• Prise en charge d'Ollama (Mac, Windows, Linux)
• Catalogue croissant de modèles open source
• Dont de puissants modèles comme Llama 3
• Utilisation entièrement gratuite
• Il suffit d'exécuter et de configurer l'application Ollama sur votre appareil

Bibliothèque de prompts personnalisable

• Utilisable dans toute l'application
• Enregistrement, modification et réutilisation faciles des prompts

Chaque chat est un éditeur Markdown

• Tous les chats peuvent être modifiés
• Permet de garder les données propres
• Export Markdown possible via l'Inspector

Vue de chat classique avec Inspector

• Possibilité de démarrer ou poursuivre un chat depuis l'Inspector
• Sélection et inspection de la conversation en cours
• Export au format Markdown possible

Apparence et ressenti personnalisables

• Possibilité d'ajouter des couleurs aux flows
• Possibilité d'afficher/masquer certaines parties
• Possibilité d'étiqueter des parties de la conversation

Prise en charge de plusieurs fournisseurs d'IA

• OpenAI
• Google AI
• Ollama via Llama 3
• Et la liste continue de s'allonger

BYOAK - Apportez votre propre clé API

• Import/export des données au format JSON
• Raccourcis clavier
• Prise en charge de la coloration du code
• Épinglage des chats, attribution de tags de couleur
• Arrière-plans personnalisés
• Mode sombre
• Etc.

Informations sur les tarifs et la licence

• Achat unique avec propriété de la licence
• Chaque licence inclut 5 activations et n'a pas de date d'expiration
• Standard (39 $) : suppression de toutes les limites, toutes les fonctionnalités débloquées
• Extended (59 $) : toutes les fonctionnalités de Standard + package auto-hébergé, application desktop à venir
• Premium (79 $) : toutes les fonctionnalités d'Extended + support premium, application desktop à venir

Résumé de la FAQ

• Grafychat est un notebook visuel sur canvas, respectueux de la vie privée, pour ChatGPT et d'autres IA conversationnelles
• Ce n'est pas une application par abonnement ; vous possédez votre licence après un achat unique
• Les 5 activations signifient que la clé de licence peut être utilisée sur 5 appareils différents
• Prise en charge de plusieurs fournisseurs de chatbots, dont OpenAI, Google AI et des modèles Ollama locaux
• Aucune inscription ni abonnement OpenAI requis
• L'application desktop n'est pas encore sortie, mais elle est en cours de développement
• Grafychat.com ne conserve pas les données des utilisateurs
• Pour la politique de remboursement, il faut se renseigner séparément

Avis de GN⁺

• Grafychat semble être un outil permettant de gérer visuellement différents modèles d'IA conversationnelle comme ChatGPT ou GPT-4. Le fait de pouvoir organiser et relier le contenu des conversations sous forme de canvas paraît particulièrement utile pour structurer les échanges.
• L'accent mis sur la vie privée, avec le stockage des données sur l'appareil et la saisie directe de la clé API, est aussi un avantage. Il faut toutefois noter que les données sont envoyées à l'extérieur lors des requêtes vers des LLM non locaux.
• Le support d'Ollama, un modèle open source utilisable gratuitement, ainsi que la bibliothèque de prompts permettant d'enregistrer et de réutiliser les prompts fréquents, offrent diverses fonctions qui améliorent l'utilisabilité.
• En revanche, le modèle tarifaire par licence plutôt que par abonnement peut sembler un peu onéreux. Même l'offre Standard à 39 $ reste une somme non négligeable. Malgré la richesse fonctionnelle et l'attention portée à la protection des données personnelles, sa compétitivité tarifaire peut être questionnée sachant qu'il est possible d'utiliser gratuitement des modèles open source.
• L'absence actuelle d'application desktop, le fait que le service soit uniquement web pour l'instant, ainsi que les incertitudes liées à la stabilité et à la pérennité d'un service récent, sont aussi des éléments à prendre en compte avant adoption.

[GN⁺]

Commentaires Hacker News

• Une seule ligne de CSS sur ce site fait sérieusement ramer mon laptop
  Le coupable est backdrop-filter: blur(0.1875rem) utilisé pour les modales, par exemple les pop-ups vidéo YouTube

  • Je suis développeur front-end, et c’est précisément pour cette raison que je n’applique jamais cet effet
    Même sur des laptops haut de gamme, la consommation d’énergie est trop élevée et les ventilateurs se mettent à tourner à fond
  • Je me demande pourquoi les effets de flou consomment toujours autant d’énergie
    Je ne sais pas si c’est quelque chose qui ne peut pas être fait avec le GPU, ou si le problème est complètement ailleurs

• J’avais déjà réfléchi à une interface similaire, mais avec seulement une visualisation en arbre et sans fonction de glisser-déposer
  En général, on aborde des sujets annexes dans une même conversation, puis on modifie plus tard le message précédent où la digression a commencé pour éviter que l’IA ne s’embrouille
  Mais OpenAI jette cet arbre de digressions, donc ce serait bien d’afficher l’arbre des sujets annexes explorés sans avoir à tout organiser manuellement

  • ChatGPT ne conserve pas l’arbre complet ? La dernière fois que j’ai regardé, on pouvait basculer en avant et en arrière à partir d’un nœud donné

• Approche intéressante. On dirait que cela traite le flux de travail typique des étapes intermédiaires
  Même si l’on préfère une forme linéaire pour le résultat final, dans la pratique le travail consiste souvent d’abord à compléter une structure hiérarchique
  J’utilise Gingko https://gingkowriter.com/ depuis des années, et cela réduit la charge mentale liée à l’organisation d’un problème en permettant de développer les étapes à l’infini tout en les repliant facilement en structure linéaire
  Dans ce cas, je me demande si vous maintenez N contextes, un par feuille de l’arbre, si les chats sont séparés les uns des autres, et comment vous passez d’un canvas non structuré infini à un résultat final ordonné

  • Bonne question
    Le contexte est au fond une forme de regroupement, donc le fait de maintenir autant de contextes qu’il y a de feuilles dépend de la situation
    Pour le passage d’un canvas non structuré à un résultat organisé, je vois cela comme du RAG couplé à des commandes intégrées à l’application, et je travaille sur une solution de RAG locale
    C’est encore au début, mais c’est prometteur, et l’idée de base est de dialoguer avec toutes les données puis d’appliquer diverses commandes par-dessus
  • Je ne vois pas pourquoi il faudrait absolument passer à un résultat final ordonné
    En tant qu’utilisateur potentiel, et comme quelqu’un qui a envisagé de construire un outil similaire, l’arbre — ou plus précisément le graphe orienté — est justement le résultat final que je veux
  • Un peu hors sujet, mais il me semble qu’il existait un logiciel autonome similaire à Gingko pour Mac
    En cherchant, on dirait une ancienne version de l’app desktop de Gingko, encore téléchargeable ici : https://github.com/gingko/client/releases
  • J’ai du mal à accepter un abonnement pour un logiciel dont tout devrait rester sur mon ordinateur

• Avec Obsidian et un plugin comme https://github.com/AndreBaltazar8/obsidian-canvas-conversati..., on peut facilement se fabriquer ça soi-même

  • C’est un peu comme quand j’ai remplacé Dropbox par quelques scripts et sftp
  • J’ai mentionné plus bas davantage de plugins gratuits pour Obsidian Canvas : https://news.ycombinator.com/item?id=40301465
  • Le mot « facilement » ne s’applique qu’aux techniciens, pas aux utilisateurs ordinaires

• La démo a l’air intéressante, mais j’ai l’impression que je me fatiguerais vite à faire glisser les nœuds partout pour retrouver celui qui m’intéresse
  Je me demande s’il y a une fonction de recherche
  Ce serait encore plus intéressant si l’IA pouvait construire la vue graphe comme un agent, ou au moins suggérer et mettre en avant des questions de suivi, puis les organiser automatiquement dans le graphe

  • La recherche est l’une de mes fonctionnalités préférées ici. Il suffit d’essayer le raccourci /
  • Personnellement, je pense qu’il y a de la valeur à prendre le temps d’organiser et de déplacer les éléments
    C’est probablement parce que je réfléchis de manière visuelle

• Mon seul retour, c’est que les produits d’IA closed source m’inspirent de la méfiance, donc je ne pense pas en acheter
  Cela dit, j’apprécie et je salue le fait d’avoir évité la logique d’abonnement
  Je pourrais payer pour un modèle où le code est open source afin que l’on puisse vérifier avec certitude qu’aucune télémétrie n’est envoyée, et où l’on facture le support
  Mais je suis peut-être dans un cas particulier, donc prenez cela avec du recul
  L’idée est excellente, et avec une journée ou deux de week-end bien concentrées, j’ai l’impression qu’on pourrait déjà construire quelque chose proche d’un MVP
  Bien sûr, les fonctionnalités tape-à-l’œil qui ne m’intéressent pas personnellement pourraient demander plus de temps à implémenter

  • Une option de self-hosting pourrait-elle être une solution pratique ?
    https://www.grafychat.com/d/docs/selfhost
    À condition, j’imagine, que le code ne soit pas obfusqué
  • J’aimerais qu’il existe une méthodologie du type open-build pour des projets qui ne veulent pas publier leur source mais sont prêts à permettre les audits nécessaires sur leur build

• J’aimerais qu’OpenAI ou l’interface d’Anthropic propose aussi ce genre de fonctionnalité
  En fait, un simple « create a new chat from here » suffirait
  Le produit est cool et bien réalisé, mais le prix est pour moi un frein

  • J’en viens à comparer mes décisions d’achat logiciel au prix du menu drive du McDonald’s du coin
  • Les clients tiers prennent en charge cela
    Par exemple, j’aime bien la fonction « Fork from this message » dans MindMac
  • Modifier une question précédente permet déjà d’atteindre assez bien cet objectif
    L’interface actuelle conserve aussi tous les anciens états dans un arbre de révisions

• La landing page est bonne et explique assez bien le produit
  J’ai déjà eu envie de quelque chose de similaire auparavant, donc j’aime aussi ce concept

• Dans la démo partagée, on voit la création d’un chat enfant à partir du chat parent d’origine
  Je me demande si vous avez aussi essayé de créer le chat enfant suivant en reliant ou fusionnant deux chats enfants, ou bien de créer à nouveau un chat enfant à partir d’un ancien chat enfant

  • Ce serait bien d’avoir un nœud capable de charger un dossier contenant des fichiers JSON, TXT, CSV, de les faire passer un par un, puis de rassembler les résultats dans un autre dossier
    Quelque chose comme un pipeline LLM ou un éditeur de prompts

• Comme fonctionnalité annexe qui pourrait être intégrée à certains frontends, j’avais créé un magasin clé-valeur de rechercher-remplacer pour éviter les fuites d’informations sensibles
  Si l’on pouvait remplacer des IP, domaines et sous-domaines internes par des domaines factices comme something.contoso.com avant de les envoyer à ChatGPT, ce serait une fonctionnalité pour laquelle je serais prêt à payer
  Je l’ai implémenté en Python, mais comme c’est une fonctionnalité ajoutée à un frontend séparé, cela reste assez bricolé