TypeChat : une plateforme d’IA basée sur le chat

 (microsoft.github.io)
3 points par GN⁺ 2023-07-21 | 2 commentaires | Partager sur WhatsApp
  • TechCrunch présente TypeChat, une bibliothèque expérimentale conçue pour intégrer de grands modèles de langage aux interfaces d’applications existantes.
  • TypeChat utilise les définitions de types du codebase pour récupérer des réponses d’IA sûres du point de vue du typage.
  • Avec TypeChat, il est possible d’utiliser une interface en langage naturel dans une application tout en garantissant la sécurité et la fiabilité des réponses de l’IA.
  • Vous pouvez lancer TypeChat dans votre application en exécutant npm install typechat puis en le connectant au modèle de langage de votre choix.
  • TypeChat s’appuie sur les types pour guider la manière dont l’IA répond, puis utilise le compilateur TypeScript pour valider ces réponses par rapport aux types.
  • TypeChat est une bibliothèque open source neutre vis-à-vis des modèles, qui peut être utilisée avec n’importe quelle API de chat completion.
  • TypeChat est conçu pour fonctionner au mieux avec des modèles entraînés à la fois sur la prose et sur le code.
  • TypeChat accueille sur GitHub les retours, questions et suggestions des utilisateurs.

À lire aussi

2 commentaires

 
sungwoo 2023-07-26

Haha, j’avais vu la news et j’allais la poster, mais impossible de rivaliser avec l’IA.
 
GN⁺ 2023-07-21
Avis Hacker News
  • Un commentaire avance qu’au lieu d’espérer une réponse valide du modèle, il vaudrait mieux échantillonner des tokens valides afin de garantir une syntaxe JSON correcte
  • Il est mentionné que le guide de Microsoft fait déjà cela et fournit un lien vers un dépôt GitHub
  • Des doutes sont exprimés sur la valeur de TypeChat, présenté comme fournissant des prompts figés et un verrouillage fournisseur
  • Il est suggéré qu’écrire un script plus flexible, permettant de modifier les prompts et d’utiliser des classes Python tout en accomplissant la même tâche, serait préférable
  • Un autre commentateur exprime son admiration pour Anders Hejlsberg et estime que les requêtes et réponses structurées constituent la prochaine étape d’évolution des LLM
  • Il prédit que l’IA entrera dans une phase d’« outil », en réalisant sa portée d’application limitée et sans sauver le monde
  • Il s’interroge sur le fait que les assistants vocaux n’aient pas encore intégré les LLM et se demande pourquoi OpenAI n’a pas lancé son propre assistant vocal
  • Il est proposé que, si les sites web exposaient des URL standard pour les interactions avec l’IA, TypeChat pourrait être utilisé pour exposer une interface
  • Un autre commentateur compare TypeChat au motif utile « Using Zod to Build Structured ChatGPT Queries »
  • Il est indiqué que TypeChat relance le LLM en boucle jusqu’à obtenir une réponse vérifiée par typage, mais que cela peut avoir un coût avec des modèles plus grands et des prompts d’entrée plus volumineux
  • Un commentateur se demande comment TypeChat évite certaines erreurs de réponse spécifiques et souligne des incohérences dans la réponse d’exemple
  • Une incertitude est exprimée quant à l’utilité de TypeChat sur la base de l’exemple
  • Un autre commentateur note que TypeChat aurait pu intégrer une tolérance de type à l’exécution, courante en TypeScript
  • Il est mentionné qu’il n’est pas clair en quoi TypeChat diffère du guide de Microsoft, puisqu’ils semblent chercher à résoudre le même problème