LM Studio Bionic : un agent IA pour les modèles open

 (lmstudio.ai)
1 points par GN⁺ 5 시간 전 | 1 commentaires | Partager sur WhatsApp
  • LM Studio Bionic est une application distincte qui permet de gérer le codage, la recherche et le travail documentaire avec des modèles open en local ou dans le cloud, afin de garder le contrôle direct sur la confidentialité et les coûts d’usage de l’IA
  • Les modèles peuvent être exécutés directement sur l’appareil ou connectés via LM Link ; pour les tâches complexes, il est possible de choisir de grands modèles open source dans LM Studio Secure Cloud
  • Le clavier vocal utilise Voxtral, le modèle de transcription multilingue en temps réel de Mistral AI, pour convertir la voix en texte sur l’appareil depuis n’importe quelle application
  • Pour le codage, l’application propose l’exploration, l’édition, le débogage de bases de code et des diff inline ; pour le travail documentaire, elle offre un traitement en sandbox, la recherche web, des checkpoints automatiques et un aperçu intégré à l’application
  • Une politique de Zero Data Retention s’applique à tous les utilisateurs, et les données utilisateur ne sont pas utilisées pour l’entraînement ; les requêtes cloud ne sont pas conservées après traitement

Codage, voix et travail documentaire

  • Les agents Bionic se concentrent sur le codage et le travail documentaire, avec la possibilité de choisir pour chaque tâche le modèle et l’environnement de calcul adaptés afin de maîtriser les coûts

  • Clavier vocal fonctionnant sur l’appareil

    • Avec un modèle audio local, les idées, prompts et corrections sont transcrits directement sur l’appareil
    • Au lancement, l’application propose Voxtral, le modèle multilingue haute performance de transcription en temps réel de Mistral AI
    • En lançant le clavier vocal depuis n’importe quelle application, le résultat de la transcription est saisi à la position actuelle du curseur

  • Projets Code pour travailler sur des bases de code locales

    • En connectant un dossier local, il est possible d’explorer la base de code, d’expliquer du code peu familier, ou encore de le modifier et le déboguer
    • Les diff inline permettent de passer en revue les modifications du code
    • Une recherche de code agentique permet de trouver les fichiers pertinents et de suivre le comportement du code
    • Les modèles pris en charge incluent GLM 5.2 et Kimi K2.7 Code

  • Projets Work pour les documents, présentations et feuilles de calcul

    • Ils permettent de traiter des documents, PDF, présentations, feuilles de calcul, etc., ou de créer de nouveaux contenus à partir de zéro
    • Les documents sont traités dans un environnement sandbox, isolé du reste de l’ordinateur et des fichiers
    • Prise en charge du rangement de répertoires locaux, de l’édition de fichiers, du résumé de contenus et de l’utilisation d’informations externes via la recherche web intégrée
    • Des checkpoints automatiques permettent de revoir ou d’annuler les modifications, et l’aperçu intégré à l’application aide à gérer à la fois les contenus et le flux de travail
    • La prise en charge de l’aperçu d’un plus grand nombre de formats de fichiers doit continuer à s’étendre

Exécution de modèles en local, connectés ou dans le cloud

  • Dans l’application Bionic, il est possible de télécharger les derniers LLM locaux pour aller du simple chat aux tâches agentiques avancées, l’exécution locale reposant sur le runtime LM Studio
  • Trois modes d’exécution peuvent être choisis selon la tâche
    • Exécuter un modèle local sur l’appareil
    • Connecter un modèle via LM Link
    • Utiliser de grands modèles open source de pointe dans LM Studio Secure Cloud
  • Secure Cloud fournit des modèles open récents performants pour le codage, le raisonnement, l’appel d’outils et les tâches à long contexte
    • Les requêtes cloud sont traitées temporairement et ne sont pas conservées une fois terminées
    • Une politique de Zero Data Retention s’applique à toutes les données utilisateur de Bionic, qui ne sont pas non plus utilisées pour l’entraînement

Installation et conditions d’utilisation

  • LM Studio Bionic est une nouvelle application distincte de LM Studio
    • Si des réglages avancés de bas niveau sont nécessaires, l’ancien LM Studio peut continuer à être utilisé avec Bionic
    • Pour utiliser les modèles cloud, il faut créer un compte LM Studio et configurer le paiement
    • Une fois le projet connecté et le modèle sélectionné, il est possible de commencer à travailler avec les agents Bionic
  • LM Studio prévoit de continuer à améliorer l’expérience Bionic en s’appuyant sur les progrès des modèles open et sur les usages constatés dans les projets réels

À lire aussi

1 commentaires

 
GN⁺ 5 시간 전
Commentaires Hacker News

  • Ici Yagil, fondateur de LM Studio. Si vous voulez tester GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 dans Bionic, envoyez votre nom d’utilisateur lmstudio.ai à hn-jul16@lmstudio.ai et je vous créditerai
    Pour le code, utilisez le projet « Code » ; pour la création et l’édition de documents, utilisez le projet « Work ». Le projet Work crée des checkpoints automatiques à chaque modification faite par l’agent, et j’aimerais recueillir vos retours après usage

    • C’est l’un des meilleurs frameworks d’exécution d’agents pour observer le processus de raisonnement. Parfois, lire le raisonnement est plus utile que la réponse finale, et j’apprécie le fait qu’il le rende plus transparent que Claude Code ou Codex
      Vous avez dit avoir négocié avec le « fournisseur » et le ZDR (zéro conservation des données) ; je me demande si les modèles sont hébergés directement par LM Studio ou par un autre prestataire. Si c’est un prestataire externe, j’aimerais aussi savoir lequel
    • J’aime beaucoup LM Studio et je vais aussi tester Bionic ce soir. J’attends avec impatience une application compagnon Android, au point d’envier les utilisateurs d’iPhone
    • Je me demande s’il sera possible d’utiliser une clé API du plan de code z.ai
    • J’aime vraiment LM Studio, mais cette nouvelle orientation davantage centrée sur le cloud et la confiance risque de faire perdre la confiance de beaucoup de gens. Les entreprises ont tellement répété les promesses de « zéro conservation des données » et de « nous n’entraînons pas sur les données utilisateurs » que cela ressemble encore à un simple « faites-nous confiance »
      Je n’ai même pas trouvé l’adresse de l’entreprise sur le site, et cela donne l’impression de revoir encore une fois l’approche américaine du « faites-nous simplement confiance » que je supporte depuis 20 ans, maintenant exportée ailleurs

  • C’est le premier framework d’exécution d’agents pour modèles locaux que j’essaie, mais comme j’aime LM Studio je l’ai testé immédiatement, et ma première impression est excellente. L’interface ressemble à celle de Codex, que j’utilise le plus souvent, donc j’ai vite pris mes repères, et en pointant la bibliothèque de modèles LM Studio existante pour lancer Qwen3.6 35B, j’ai obtenu le résultat attendu
    Cela dit, il y a aussi des points à améliorer. L’écran par défaut n’affiche que le nom du projet, sans montrer clairement le répertoire de travail actuel comme le fait Codex. Quand on appuie sur Entrée, le modèle se charge mais l’indication affichée est « Working » au lieu de « Loading model », et je n’ai pas trouvé de moyen de le précharger avant d’envoyer une requête, ni de le décharger sans quitter l’app, comme avec le bouton d’éjection de LM Studio. Quand j’ai indiqué le répertoire « GitHub & Projects », il a même créé un nouveau dossier portant le même nom

  • Si Apple finit par proposer des modèles locaux et un framework d’exécution suffisamment bons, la plupart des utilisateurs grand public utiliseront probablement cela. Je me demande si, au fond, les LLM sont en train de devenir une nouvelle interface de l’informatique

    • Le System Model d’Apple est plutôt bon, mais sa longueur de contexte est limitée à 4K. C’est acceptable pour de petits utilitaires Python traitant peu de données, mais globalement c’est une contrainte frustrante
      À part ça, Siri dans la dernière bêta iOS s’est amélioré de manière surprenante. Je lui ai demandé quel modèle il utilisait, et il a répondu qu’il utilisait Gemini pour les problèmes difficiles, puis un modèle Apple sécurisé dans le cloud, et enfin un modèle Apple local
    • Pour la plupart des tâches du grand public, je pense qu’un LLM du niveau de l’époque de ChatGPT 3.5 suffit largement. Si on y ajoute l’appel d’outils, etc., et qu’on embarque ce type de modèle directement sur l’appareil comme première option, les utilisateurs de l’IA pourraient se diviser entre ceux qui ne voudront pas payer et ceux qui paieront très cher pour les performances des modèles de pointe
    • La réponse dépend de la question suivante : les progrès des modèles vont-ils suffisamment ralentir pour que des modèles à l’échelle d’un appareil puissent rivaliser avec les performances des modèles de pointe ? Si oui, les LLM deviendront une nouvelle interface informatique ; sinon, ce sera difficile
    • Les machines à réseaux neuronaux étaient de toute façon destinées dès le départ à devenir un paradigme de calcul alternatif aux machines de von Neumann. Sans Minsky, on serait peut-être arrivé plus tôt à un niveau utile, donc je me demande pourquoi on présente cela comme un petit changement
    • Dans Computing 1.0, les humains devaient apprendre le langage des ordinateurs pour interagir pleinement avec eux ; dans Computing 2.0, c’est en quelque sorte l’ordinateur qui a appris le langage humain

  • Je me demande pourquoi choisir cela plutôt qu’un autre framework d’exécution d’agents. Cela semble particulièrement solide comme offre pour les entreprises qui veulent contrôler l’usage des modèles cloud de pointe, notamment pour des raisons de coût et de sécurité des données

    • Il n’existe en réalité pas tant de frameworks d’exécution indépendants du modèle qui ne soient pas juste un assemblage approximatif de code Python ou JavaScript. Et il est encore plus rare d’en trouver qui évitent les comportements absurdes consistant à gonfler le contexte ou à le compresser à l’excès
      Exécuter des agents Python ou JavaScript probablement bricolés en vibe coding pose un risque trop élevé en matière de sécurité et de supply chain, donc je préfère éviter

  • C’était amusant de tester quels modèles locaux font de meilleurs agents, mais il y a quelques limites
    On reste cantonné à un seul répertoire, sans accès à l’ensemble du système, et il n’y a pas de recherche web locale, même si on peut compenser avec ddg ou un MCP local. Il n’y a pas de SSH, donc impossible de le faire se connecter à un serveur pour y travailler, et le processus de chargement du modèle n’est pas affiché, alors qu’une barre de progression ou un pourcentage serait utile. Quand on place des documents dans le répertoire Work, je me demande s’il est possible de les ajouter autrement qu’avec le « + », par exemple en glisser-déposer. En local, j’utilise habituellement opencode avec LM Studio, donc je suis curieux de voir comment cela va évoluer

  • Il est indiqué que c’est une app séparée de LM Studio classique, mais je ne trouve pas comment la télécharger

  • Je suis content de voir LM Studio s’étendre vers des workflows agentiques. Alors que les outils pour modèles locaux continuent de s’améliorer, les options open source gardent une vraie valeur pour les développeurs qui veulent préserver la confidentialité de leurs données

  • J’aimerais que LM Studio prenne mieux en charge le matériel AMD. Il y a un vrai besoin d’une solution clé en main qui fonctionne directement sur Radeon, sans configuration particulière

  • L’une des raisons pour lesquelles j’ai quitté Ollama pour LM Studio tenait à son modèle économique, donc cette évolution vers « utiliser les plus grands modèles open source de pointe via LM Studio Secure Cloud » m’inquiète

    • Unsloth Studio est réellement open source, et comme je fais davantage confiance à Unsloth qu’à LM Studio même pour les modèles quantifiés, j’ai envie de le recommander
    • Pour être juste, Ollama a lui aussi poussé son propre service cloud avec la même insistance
      Certains grands modèles récents comme Minimax, GLM ou Kimi ne proposent pas de version téléchargeable officielle avant plusieurs mois, et ne sortent d’abord qu’en version cloud
    • Ollama était controversé dès le départ, alors que LM Studio, à ma connaissance, ne l’était pas. J’ai donc un peu plus confiance dans la capacité de LM Studio à réussir cette transition de manière globalement fluide

  • L’application LM Studio et la nouvelle application LM Studio Bionic sont toutes deux à source fermée. Beaucoup de gens semblent l’ignorer, donc cela mérite d’être rappelé

    • Unsloth Studio est open source, et comme il est maintenu par Unsloth, qui produit des modèles quantifiés parmi les meilleurs du secteur, je recommande de changer
    • Le fait que ce soit à source fermée est la principale raison pour laquelle je n’utilise pas souvent LM Studio. Après avoir simplement testé de nouveaux modèles ou de nouvelles quantifications, j’héberge ensuite directement avec llama.cpp
      LM Studio ne prend pas en charge certaines fonctions comme l’entrée audio, et il a parfois des bugs absents de llama.cpp pur, ce qui peut même en faire un moins bon choix selon les usages
    • Il existe déjà beaucoup de systèmes d’agents open source, et si l’on préfère une interface graphique, OpenCode a aussi une application desktop en bêta
      Je ne pense surtout pas avoir besoin d’outils de développement à source fermée qui pourraient plus tard devenir payants et restreindre l’accès
    • Je me demande quelle pile technologique a été utilisée, et si c’est une application native. Pour une application desktop, c’est plutôt bien conçu pour son usage
    • Je me demande si le fait même que ce soit à source fermée est vraiment sujet à controverse