Lancement HN : Human Layer (YC F24) – une API de participation humaine pour les systèmes d’IA

• Présentation de HumanLayer

  • HumanLayer est une API qui permet aux agents IA d’interagir avec des humains pour obtenir des retours, des entrées ou des validations.
  • Elle facilite le déploiement de systèmes d’IA autonomes sûrs et permet de démarrer facilement via des SDK Python et TypeScript.
  • Elle propose un essai gratuit et une tarification transparente basée sur l’usage.

• Gestion des risques des systèmes d’IA

  • Elle prend en charge les cas où une intervention humaine est nécessaire pour réduire les risques liés aux systèmes d’IA.
  • Le projet a démarré lors du développement d’agents IA pour des équipes data, lorsque des clients se sont montrés réticents à laisser des agents IA accéder directement à des systèmes de production.
  • Un flux d’approbation de base a été mis en place pour que l’IA obtienne une validation humaine avant d’exécuter des actions importantes.

• Fonctionnalités de HumanLayer

  • En intégrant le SDK HumanLayer, un agent IA peut demander une validation humaine à tout moment pendant son exécution.
  • Le système transmet la demande à la bonne personne, gère l’état en attendant la réponse et fournit une piste d’audit complète.
  • Au-delà des « demandes d’approbation », HumanLayer prend aussi en charge une fonction de « humain comme outil » pouvant être exposée à un LLM ou à un framework d’agents.

• Cas d’usage de HumanLayer

  • Un SDR IA rédige des e-mails commerciaux personnalisés et obtient une validation humaine dans Slack avant l’envoi.
  • Une newsletter IA mène des échanges par e-mail avec les abonnés, tandis que HumanLayer achemine les e-mails entrants vers l’agent et lui fournit des outils de réponse.
  • Des équipes construisent un agent DevOps orienté client qui demande une validation humaine pour l’examen de PR, la planification de migrations de base de données et leur exécution.

• Tarification et support

  • Un niveau gratuit et une tarification flexible fondée sur des crédits sont proposés.
  • Pour les équipes qui construisent des agents destinés aux clients, HumanLayer propose du white-label, des fonctionnalités supplémentaires et un support prioritaire.

• Informations supplémentaires

  • Pour intégrer HumanLayer à votre système, consultez la documentation ou découvrez le produit en réservant une démo.
  • Le projet en est encore à ses débuts, et l’équipe accueille volontiers idées et retours d’expérience sur les agents, la fiabilité et l’équilibre des charges de travail humain+IA.

[GN⁺]

Commentaires sur Hacker News

• Certains estiment que les fondateurs de startup veulent utiliser l’IA pour créer eux-mêmes des services internes. Ils pensent qu’il vaudrait mieux utiliser un SaaS, mais que les prix sont élevés sans que ce soit particulièrement complexe. Avec l’arrivée de la concurrence, les prix devraient baisser.

• Des inquiétudes sont exprimées au sujet du coût élevé des services d’IA, avec l’idée qu’il faudrait proposer des crédits gratuits ou ajuster les tarifs.

• Des préoccupations existent autour du biais d’automatisation et de la complaisance face à l’automatisation : des humains pourraient valider sans esprit critique les décisions de l’IA.

• L’idée d’utiliser des mandataires humains pour prendre en charge ce que les agents IA ne peuvent pas faire est proposée.

• Les limites des frameworks pour gérer des appels d’outils asynchrones ou de longue durée sont soulignées. Des pistes existent pour y remédier, mais elles seront abordées dans un autre article.

• Certains estiment qu’il faut faire des efforts pour rester au niveau de l’API.

• Selon un avis, au début de l’IA, les humains exécutaient la logique, puis leur retrait a dégradé la qualité. Faire réintervenir des humains via une entreprise tierce serait, selon cette analogie, une solution temporaire.

• Dans les startup, l’intervention humaine est jugée importante, et il est estimé que contrôle et supervision sont nécessaires pour transformer le potentiel des LLM en valeur réelle. Pour cela, des workflows sur mesure et des processus manuels ont été mis en place.

• Certains remarquent que de nombreux systèmes permettent déjà d’offrir des fonctions d’entrée/sortie basiques. Cela vaudrait la peine d’essayer avant de le développer soi-même.

• Une entreprise de dispositifs médicaux envisage d’utiliser l’IA comme agent de workflow et prévoit de recourir aux LLM pour soutenir le processus d’assurance qualité ISO13485. Elle souhaite connaître l’avis des autres utilisateurs de HN.