Dans une petite équipe, à force de connecter et d’exploiter plusieurs agents IA dans un service en production,
nous continuons à nous heurter au même problème.
Quand un agent prend une mauvaise décision — déploie du code erroné,
fournit une mauvaise réponse ou modifie le mauvais fichier —
comment en suivez-vous et gérez-vous la responsabilité ?
De notre côté, nous essayons d’indiquer pour chaque agent son rôle, ses droits et ses limites, et d’ajouter à chaque action
un badge indiquant « qui l’a générée et qui l’a approuvée ».
Mais nous ne savons pas si c’est la bonne réponse.
J’aimerais poser la question à celles et ceux qui ont déjà branché des agents IA sur des services en production.
1. Avez-vous une méthode pour retracer les erreurs a posteriori ?
Logs ? Badges ? Audit Trail ? Ou bien est-ce qu’au final tout est vérifié par des humains ?
2. Respectez-vous réellement le principe « l’IA propose, l’humain décide au final » ?
N’arrive-t-il pas que, pour aller plus vite, vous laissiez simplement passer des décisions de l’IA ?
Je serais curieux de savoir où vous avez trouvé votre point d’équilibre.
3. Quand plusieurs agents collaborent, comment répartissez-vous la responsabilité des résultats intermédiaires ?
Si l’enchaînement est Agent A → Agent B → déploiement, à quel niveau faut-il couper quand un bug survient ?
Je ne cherche pas une réponse universelle, mais plutôt à entendre comment chacun gère cela sur le terrain.
Nous aussi, nous sommes encore en phase d’expérimentation.
Aucun commentaire pour le moment.