Ne laissez pas l’IA prendre les commandes — ce que j’ai appris de deux échecs d’automatisation

Cet article part de deux échecs rencontrés en exploitant directement, avec Claude Code, un système de trading automatisé et une publication automatique de blog.

• Trading automatisé : faute de connaissances suffisantes du domaine du trading, l’auteur n’a pas pu vérifier le code écrit par l’IA ; résultat : 0 victoire, 8 défaites et une perte de 3 % du capital
• Publication automatique de blog : des articles inexacts publiés sans relecture ont suscité des retours de lecteurs

L’auteur voit dans ces deux incidents une cause commune : avoir « laissé l’IA prendre l’initiative ». Pour éviter cela, il met en avant deux compétences : (1) la littératie nécessaire pour poser des questions en profondeur et comprendre les réponses, (2) la capacité d’évaluation permettant de juger l’exactitude des résultats. Comme dispositifs pratiques, il présente un Wiki LLM entraîné sur des données personnelles et un Harness qui contraint le comportement de l’IA.

La raison pour laquelle le résumé a été conçu pour commencer par deux récits d’échec est que, sur GeekNews, ce qui suscite des commentaires n’est pas la théorie abstraite, mais des expériences concrètes comme « 0 victoire, 8 défaites », qui donnent matière à contestation ou à empathie.