- Ollama a dévoilé une nouvelle application desktop pour macOS et Windows
- Il est désormais possible de télécharger des modèles et de discuter simplement dans une interface GUI
- La fonctionnalité de glisser-déposer de fichiers facilite l’interaction avec des documents texte et PDF
- Lors du traitement de documents volumineux, il est possible d’augmenter le paramètre de context length pour analyser des contenus plus longs
- Basée sur le nouveau moteur multimodal d’Ollama, l’application permet aussi d’envoyer des images aux modèles compatibles image (par exemple le modèle Gemma 3 de Google DeepMind)
- Elle inclut également une fonction de traitement de documents compatible avec divers formats de fichiers, dont les fichiers de code
- La nouvelle application d’Ollama peut être téléchargée pour macOS et Windows sur le site officiel
- Les utilisateurs qui n’ont besoin que de la version CLI peuvent la télécharger séparément depuis GitHub Releases
1 commentaires
Commentaires sur Hacker News
On a l’impression qu’Ollama est récemment en train d’évoluer, depuis sa page d’accueil, d’un produit pour développeurs vers un produit pour le grand public. Voir la page d’accueil d’Ollama Avant, tout tournait autour de la version CLI pour développeurs, mais maintenant on la voit à peine mentionnée. En bas du blog, il est seulement indiqué brièvement que « la version CLI peut être téléchargée depuis la page des releases GitHub d’Ollama ». Ce n’est pas vraiment une critique, c’est surtout une évolution visible que j’observe. J’ai utilisé plusieurs applis de LLM en local par le passé, et les deux que j’ai préférées sont LM Studio et Msty. Je compte aussi essayer cette appli. Une fonctionnalité qui me manque, c’est celle de l’app desktop ChatGPT qui permet, via un raccourci global (
Alt+Space), d’ouvrir immédiatement une nouvelle conversation et de poser rapidement une question dans une UI compacte. Ce serait bien que les applis de LLM en local reprennent aussi cette idée.Je suis mainteneur d’Ollama. Je n’ai absolument pas le sentiment que nous ayons négligé les développeurs. Nous sommes tous développeurs, et nous construisons Ollama d’abord pour notre propre usage. Chacun bricolait différents prototypes de son côté, puis tout le monde a fini par préférer Ollama, donc nous nous concentrons dessus pour l’améliorer. Ollama cible les développeurs de bout en bout, et nous restons concentrés sur ce point.
Je me demande si vous avez déjà essayé pygpt.net. L’interface est peut-être un peu chargée et le nom n’est pas idéal, mais c’est l’application qui m’a le plus satisfait parmi celles que j’ai testées.
Ce changement est au contraire positif aussi pour les développeurs. Si davantage d’utilisateurs installent Ollama, on pourra ensuite distribuer des applis d’IA desktop basées sur Ollama sans devoir embarquer un modèle séparé. Comme cela n’ajoute pas de coût, on peut aussi proposer aux utilisateurs des abonnements gratuits ou peu chers. Les derniers modèles Qwen30B sont aussi extrêmement puissants. S’il existait en plus un template d’installation capable de vérifier les caractéristiques du PC de l’utilisateur (RAM, performances CPU/GPU, etc.) et de déclencher en sous-main l’installation ou le téléchargement d’Ollama s’il n’est pas présent, ce serait bien plus pratique. Ce serait aussi utile d’avoir une API capable de demander l’autorisation puis d’installer un modèle quand il n’est pas encore présent.
HugstonOne dispose déjà de cette fonctionnalité, y compris de nouveaux onglets et autres éléments du genre. En plus, je trouve étrange que la majorité des développeurs fassent une exposition quasi spammy de façon aussi désordonnée. Ollama est un pionnier dans le domaine de l’IA et une excellente application, donc merci sincèrement.
J’avais entendu parler de Msty et je l’ai essayé brièvement, mais en le revoyant récemment il a l’air très riche en fonctionnalités. Je ne connaissais pas LM Studio, mais lui permet un usage commercial gratuit (contrairement à Msty). Si l’objectif est de l’utiliser comme outil orienté interface de chat, je serais curieux d’avoir un comparatif des avantages et inconvénients des deux applis.
Je comprends mal cette évolution récente d’Ollama. Une appli desktop front-end, c’est exactement l’inverse de la raison pour laquelle j’utilisais Ollama. Je l’utilisais à l’origine comme backend local pour LLM, et les utilisateurs de longue date ont déjà trouvé, créé ou personnalisé leur propre front-end et s’y sont habitués. D’ailleurs, il y a récemment eu des retards sur l’arrivée de certains modèles locaux de pointe, et je me demande si ce focus sur le front-end n’y est pas pour quelque chose. Je pense maintenant chercher des alternatives à Ollama qui, soit intègrent leur propre UI dès le départ, soit restent strictement des backends CLI. Si je trouve mieux, je basculerai probablement, j’aurais dû le faire plus tôt. J’espère que ce n’est pas la première étape d’un abandon du focus CLI au profit d’une interface LLM généraliste sur abonnement.
En essayant l’UI d’Ollama, j’ai été surpris de ne pas voir d’option pour se connecter à une instance Ollama distante. Le PC le plus puissant n’est pas toujours celui sur lequel je fais tourner la GUI.
Je suis vraiment très d’accord sur ce point. J’aime les environnements desktop Windows/macOS, mais pas vraiment les OS eux-mêmes ; à l’inverse, j’aime Linux/BSD comme OS, mais moins leur environnement desktop, donc je garde toujours ma grosse workstation sur un Linux headless et j’y accède en SSH depuis Windows/macOS. La plupart des développeurs ne comprennent pas bien ce cas d’usage. C’est extrêmement pénible et frustrant quand un onglet de navigateur s’ouvre à chaque commande lancée dans le terminal, ou quand l’outil n’affiche même pas l’URL dans le terminal.
On peut contourner le problème en utilisant le port forwarding SSH (
ssh -L 11434:localhost:11434 user@remote) pour se connecter à une instance Ollama distante. Mais un support natif serait clairement préférable.L’application a déjà une fonction pour exposer Ollama sur le réseau, donc ce sera peut-être bientôt pris en charge.
J’ai essayé l’UI d’Ollama sur Windows (j’utilisais auparavant la CLI).
Le traitement de texte seul ne suffit pas. Il est aussi très important d’avoir la transcription audio au-delà de 30 secondes, la génération vocale et la génération d’images, et pas seulement en anglais. Le traitement de texte est désormais la base.
Je me demande pourquoi Linux n’est pas pris en charge. L’UI semble basée sur Chrome, probablement electron, donc un port Linux ne devrait pas être si difficile. Je suis aussi curieux de voir le lien vers le code source.
Electron se présente comme multiplateforme, mais en pratique ce n’est pas du tout un « déploiement Linux en un clic ». Il y a toujours des problèmes plus ou moins gros, comme les versions de glibc ou le support GPU.
Le message officiel d’Ollama est : « Télécharger la nouvelle application pour Mac et Windows / la version CLI se télécharge séparément sur GitHub ». En vérifiant, ça ne donne pas vraiment une impression d’open source. En plus, ce n’est pas basé sur Chrome mais sur la webview système, donc cela ressemble plutôt à une appli tauri.
Il paraît que c’est basé sur Electron, et je trouve étrange de présenter cela comme du natif.
Les développeurs Linux et les power users peuvent déjà utiliser Ollama uniquement en CLI. L’appli Mac/Windows actuelle vise surtout le grand public.
Ollama semble vouloir devenir l’interface standard utilisée par les entreprises pour distribuer des modèles open models. Le focus sur le « local » semble secondaire, et probablement pas l’objectif de long terme. Je suis convaincu qu’ils annonceront bientôt, en s’appuyant sur cette appli comme passerelle, une stratégie « API cloud propriétaire + open models ».
Je suis fortement en désaccord avec l’idée que le « local » serait secondaire. Pour les entreprises qui ne peuvent pas utiliser de services cloud, par exemple dans la défense, le local est le choix par défaut. C’est la vraie raison d’utiliser des open models, même si leurs performances ne sont pas encore parfaites.
Si nous utilisons Ollama, c’est aussi parce que les données ne doivent absolument jamais quitter le réseau interne de l’entreprise. Au moindre soupçon de cloud, l’équipe juridique s’affole. C’est pour cela que nous faisons tourner Ollama directement sur des laptops (les puces de série M sont très puissantes) ainsi que sur des serveurs d’intranet internes. Comme LM Studio autorise désormais l’usage commercial sans tarification « contactez-nous », nous pensons aussi l’évaluer.
Si vous êtes un power user ou que vous savez coder, je recommande de créer vous-même une UI de chat personnalisée exactement comme vous le souhaitez. Il suffit de prendre un endpoint compatible OpenAI et un framework de composants front-end pour le chat, et le reste est presque facile. Avec l’aide de Gemini, j’en ai bricolé une en une semaine et je l’utilise tous les jours. Ce n’est pas prêt pour la prod, mais on peut la modifier comme on veut et ajouter rapidement des fonctionnalités soi-même.
C’est vraiment un commentaire du niveau « construisez votre propre Linux ». Ce n’est pas une approche facile d’accès pour tout le monde.
J’ai suivi la même voie en explorant l’IA et les LLM : j’ai créé mon propre chatbot en Python, puis j’ai même utilisé [Vercel AI SDK+un endpoint d’API compatible OpenAI]. Au final, j’en ai fait un produit. VT.ai - Python, VT Chat
J’ai la même approche. Ce qui compte vraiment, c’est le modèle utilisé ; tout le reste est presque secondaire. Vous pouvez aussi jeter un œil à mon script open source(lien Show HN). C’était facile à faire avec l’aide de ChatGPT et je l’utilise tous les jours. Je compte bientôt y ajouter DDG et la recherche GitHub.
Ou alors vous pouvez partir directement de Open WebUI comme base et le personnaliser autant que vous voulez.
Je suis en quête de ma propre interface de chat LLM parfaite. Mes critères indispensables sont la prise en charge simultanée des modèles locaux, distants et cloud (compatibles API OpenAI), ainsi qu’un changement de modèle simple ou des requêtes multi-modèles faciles. Mon ressenti actuel :
Msty : c’est mon préféré, possibilité d’interroger plusieurs modèles en même temps + design très réussi, inconvénients : ce n’est pas open source + ça freeze parfois sous Linux
Jan.ai : ne permet pas d’interroger plusieurs modèles en même temps
LM Studio : pas open source + pas de support des modèles distants/cloud (à moins qu’il existe un plugin, je ne suis pas sûr)
GPT4All : erreurs JSON avec les modèles openrouter, et il faut changer de modèle manuellement à chaque chat, ce qui est pénible Je n’ai pas encore testé Librechat, Open WebUI, AnythingLLM ni koboldcpp. Si vous avez d’autres recommandations, je suis preneur.
J’aime bien webUI, mais le fait de devoir configurer chaque modèle via des fichiers texte dans le navigateur est compliqué, et la documentation utilise un vocabulaire obscur. Librechat me déconnecte au bout de peu de temps, ce qui le rend pratiquement inutilisable. J’ai entendu dire qu’on pouvait conserver la connexion en HTTPS, mais comme j’utilise Tailscale, c’est pénible quand plusieurs services tournent sur un même hôte.
J’ai aussi une appli que j’ai créée moi-même : dinoki.ai. Elle fonctionne en local, donne la priorité absolue à la confidentialité, et elle est implémentée nativement en Swift sur macOS et en WPF sur Windows.
OpenWebUI me semble offrir exactement le niveau de qualité que je cherche pour discuter facilement avec différents modèles.
J’utilise AnythingLLM depuis plusieurs mois et j’en suis vraiment très satisfait. On peut y enregistrer des ensembles modèle/prompt dans plusieurs « workspaces », et ça prend en charge à la fois Ollama et d’autres LLM. Je l’ai déployé en Docker sur un Raspberry Pi, puis j’y accède de partout avec Tailscale. L’affichage mobile est aussi réussi, et avec l’extension Raycast Claude, cela couvre pratiquement toutes mes questions.
Je recommande d’essayer de construire le vôtre. Cela permet aussi d’étudier les tendances récentes et c’est amusant. J’ai créé mon interface en 2023 et j’y ai ajouté des fonctionnalités petit à petit, et récemment j’y ai aussi connecté des modèles locaux via MLX. Créer une interface est plus facile qu’on ne le pense, et les développeurs apprennent beaucoup en le faisant eux-mêmes.
J’ai essayé Ollama une fois il y a longtemps et je l’ai supprimé immédiatement. Je trouvais cela pénible si l’on ne pouvait pas simplement installer facilement les modèles officiellement pris en charge par Ollama. Depuis, j’ai le sentiment que LM Studio est le meilleur.