Ask HN : qu’avez-vous créé avec des LLM ?

• Question sur ce que les gens créent en utilisant des LLM
• L’auteur de la question :
  • développe une extension Chrome : mise en place d’une fonctionnalité qui lit les sous-titres pour passer les sections sponsorisées dans les vidéos YouTube
  • expérimente l’explication de chaînes d’appels de fonctions dans différents langages de programmation : tentative d’explication via un LLM en utilisant MakeFile, Python et Bash
  • exploite un bot Telegram : configuration de prompts pour exécuter certaines commandes, notamment afin d’aider sur des questions fiscales

[GN⁺]

Commentaire Hacker News

• Un utilisateur, qui n’aime pas vendre, a mis en place un numéro de téléphone permettant d’appeler une IA pour s’entraîner au cold calling de façon réaliste.

  • Cette IA simule des appels de vente.
  • L’utilisateur a trouvé utile de pouvoir parler à l’IA en mains libres et l’utilise aussi à des fins plus générales.
  • Le service est actuellement hors ligne, mais le code avec les informations sur la stack et le déploiement est disponible sur GitHub.
  • Le tout fonctionne sur un Raspberry Pi à 35 $.

• Un autre utilisateur s’en est servi pour aider à « écrire » un livre de cuisine à partir des recettes de sa grand-mère.

  • Pour le 100e anniversaire de sa grand-mère, il a restauré plus de 250 pages de recettes que son père avait rassemblées pendant des années.
  • Certaines étaient dactylographiées, d’autres écrites à la main par sa grand-mère.
  • Son père a scanné les recettes tapées et a « dicté » les recettes manuscrites.
  • Il a utilisé Google OCR pour traiter les recettes scannées, puis GPT-4 pour transformer des recettes non structurées en un format Markdown bien organisé.
  • Cela a permis de corriger avec succès les fautes de frappe et les erreurs de Google OCR.
  • Tout le texte bien mis en forme a ensuite été collé dans Google Docs, avec des images ajoutées.
  • La génération d’images d’OpenAI a servi à produire des illustrations pour plus de 250 recettes.
  • Une partie a dû être sélectionnée manuellement, en particulier pour la cuisine mexicaine.
  • Au final, le livre avait très belle allure, et la distribution de copies numériques dans la famille a impressionné tout le monde.

• Un utilisateur a assemblé une « stack » sur MacOS avec Apple Shortcuts en faisant des appels API HTTP POST à OpenAI pour exécuter des tâches.

  • Chaque tâche est déclenchée par un raccourci ou par une saisie Spotlight via Alfred.
  • Parmi les fonctions, il y a le résumé d’URL YouTube, la correction de la grammaire et du style d’un texte, ou encore l’usage d’OpenAI Whisper à la place de la dictée vocale.
  • Chaque fois que l’utilisateur repère une tâche répétitive où un LLM peut servir, il en fait un Apple Shortcut et l’intègre à son workflow comme une fonctionnalité native de MacOS.

• Un autre utilisateur a mené plusieurs projets hardware + LLM.

  • Il a créé un Pokédex qui reconnaît de vrais Pokémon.
  • Il filtre et imprime les bons commentaires au bureau.
  • Il a construit un assistant de chat généraliste sur un vieil interphone.
  • Ces projets ne sont pas particulièrement utiles, mais ils sont tous amusants.

• Un utilisateur a créé un chatbot IA de CV interactif auquel on peut poser des questions sur son expérience et ses compétences.

  • Le backend utilise Python FastAPI et stocke le CV ainsi que les paires questions-réponses dans ChromaDB, tout en journalisant les requêtes et réponses avec OpenAI et Airtable.
  • L’interface utilise Sveltekit.
  • L’utilisateur construit actuellement d’autres outils et prévoit d’utiliser LangSmith à la place d’Airtable.
  • Il est en train d’écrire un article Substack, dans le cadre d’un effort de #buildinpublic pour développer sa marque.
  • Il est au chômage depuis septembre et espère, en se concentrant sur ce travail dans un marché difficile, décrocher un emploi ou un contrat.

• Un autre utilisateur veut automatiser le processus de création de visites guidées autonomes autour des villes et villages, ainsi que de chasses au trésor en ligne.

  • Il veut une marketplace complète où n’importe qui pourrait créer et vendre des visites.
  • Le processus de création d’une visite est très fastidieux.
  • Il fournit à GPT-4 des informations locales afin qu’il rédige des questions et des réponses à choix multiples.
  • Le frontend utilise React Typescript, et le backend Net Core Web API sur Linux, MySQL, EF Core, ainsi que des intégrations avec GPT4 et Stripe.
  • Le service est hébergé sur treasuretours.org.
  • À cause des coûts, seuls les super-utilisateurs ont actuellement accès aux outils IA, mais il est possible d’essayer des chasses préconçues partiellement générées par IA.

• Un utilisateur a commencé par créer un produit, mais a fini par construire une plateforme de développement pour les produits basés sur des LLM.

  • Au départ, il avait conçu un outil d’analyse boursière : l’utilisateur écrit en langage naturel les entreprises et la période qu’il veut comparer, puis les actions s’affichent sur un graphique.
  • Pendant le développement, il a découvert des défis spécifiques et a abandonné l’idée de lancer le produit pour se concentrer sur la plateforme de développement.
  • Il utilise des « tâches structurées LLM » pour effectuer des opérations à partir des entrées utilisateur et produire du JSON exploitable côté backend.
  • Les prompts sont fragiles et se cassent facilement au moindre changement dans le prompt ou la configuration du modèle.
  • Pour y remédier, il a développé une plateforme permettant de tester des versions de prompts et des configurations de modèles sur toute une collection d’entrées, afin d’éviter les problèmes pendant le développement.
  • On peut la découvrir sur promptotype.io.

• Une équipe construit divers outils de données basés sur des LLM et est en train de rebrander puis lancer son produit principal.

  • Elle développe différents outils et produits, comme sketch, datadm et julyp.
  • Elle utilise des stacks et outils variés, a aussi fabriqué ses propres outils, mais applique récemment une logique codée en direct dans ses produits.
  • Le produit principal a son code dans une app next et est déployé sur vercel.

• Un utilisateur a construit plusieurs choses, y compris des bots de génération de code.

  • En ce moment, il travaille sur un faux entretien technique IA. Il n’aime pas se préparer avec LeetCode et a le sentiment de mieux apprendre par l’interaction.
  • comp.lol propose des entretiens blancs de coding pilotés par IA. Il cherche des alpha-testeurs, et comme tout tourne sur le free tier, le chargement peut être lent.

• Un autre utilisateur a créé un assistant de recrutement IA qui effectue un premier tri, collecte les informations des candidats, répond aux questions sur le poste et pose plusieurs questions d’entretien comportemental.

  • Il l’a construit en une journée avec Vercel et OpenAI.
  • La configuration de la connexion Google a été la partie la plus difficile.
  • Des dizaines de candidats l’ont utilisé, ce qui a permis de gagner beaucoup de temps et d’aider à prioriser les conversations.
  • Il a écrit un court billet hier.