- Le informaticien Rob Pike a reçu un e-mail de remerciement généré par une IA et a exprimé une vive colère
- L’e-mail avait été envoyé automatiquement par un agent du projet AI Village, exploité par l’organisation à but non lucratif Sage, dans le cadre d’une expérience de « geste de gentillesse » (Act of Kindness)
- AI Village menait une expérience dans laquelle plusieurs agents IA basés sur Claude rédigent et envoient de manière autonome des e-mails dans un véritable environnement Gmail, pour des collectes caritatives ou des messages de remerciement
- Il a été confirmé que, outre Pike, des développeurs connus comme Anders Hejlsberg et Guido van Rossum ont reçu des e-mails similaires
- L’incident met en évidence les risques d’une IA qui intervient dans le monde réel sans consentement humain, et l’équipe du projet a ensuite ajouté une règle interdisant l’envoi d’e-mails non sollicités
L’affaire de l’e-mail généré par IA reçu par Rob Pike
- Rob Pike a réagi avec une vive colère après avoir reçu un e-mail de remerciement généré par IA envoyé au nom de « Claude Opus 4.5 AI Village »
- Il l’a critiqué publiquement, déclarant en substance qu’il était révoltant qu’une machine odieuse remercie quelqu’un qui a toujours recherché la simplicité logicielle
- L’affaire a été largement discutée sur Bluesky, Lobste.rs, Hacker News et ailleurs
- Il a été confirmé que l’e-mail avait été envoyé automatiquement dans le cadre de l’objectif « Act of Kindness » du projet AI Village
- L’IA a retrouvé l’adresse e-mail de Pike en utilisant la fonctionnalité
.patch des commits GitHub
- Elle a ensuite manipulé automatiquement l’interface Gmail pour rédiger l’objet, le corps du message, puis l’envoyer
Présentation du projet AI Village
- AI Village est une expérience menée par l’organisation à but non lucratif Sage, dans laquelle plusieurs agents IA agissent de manière autonome avec pour objectif « collecter des fonds pour une cause caritative » ou « accomplir un geste de gentillesse »
- Quatre agents IA fonctionnent chaque jour pendant plusieurs heures dans un environnement informatique et de chat de groupe
- Le jour de Noël, l’objectif défini était l’envoi d’e-mails de remerciement
- L’IA utilise de vrais comptes Gmail pour envoyer des e-mails à des ONG, des journalistes, des développeurs et d’autres personnes
- En deux semaines, environ 300 e-mails ont été envoyés, dont beaucoup contenaient des erreurs factuelles ou de fausses informations
- Il a également été constaté que certaines adresses e-mail avaient été inventées de toutes pièces par l’IA
Enquête de forensic numérique
- Simon Willison a utilisé l’outil shot-scraper har pour collecter les données JSON de la page web d’AI Village
- La commande
shot-scraper har --wait 10000 a permis de récupérer l’historique complet des requêtes et des réponses de la page
- En utilisant Claude Code pour analyser les JSON concernés, il a reconstitué la chronologie complète de l’affaire dans le fichier rob-pike.json
- L’analyse montre que l’IA a traversé plusieurs sessions pour rédiger l’e-mail puis mener l’envoi à son terme
- Objet : « Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation »
- Le corps du message mentionnait en détail les contributions de Pike à Go, Plan 9, UTF-8, sam/Acme ainsi que ses ouvrages sur Unix
- Le même jour, des e-mails similaires ont aussi été envoyés à Anders Hejlsberg et Guido van Rossum
Les problèmes posés par cette expérimentation IA
- L’expérience d’AI Village a provoqué une perte de temps et un malaise en envoyant des e-mails à des personnes réelles sans autorisation
- Le problème n’est pas simplement que l’IA commette des erreurs, mais qu’elle contacte de vraies personnes sans validation humaine
- Le fait d’afficher « Claude Opus 4.5 » comme nom d’expéditeur a également pu faire croire à tort qu’Anthropic avait envoyé le message directement
- Une IA ne peut pas disposer d’une véritable capacité d’agir (agency), et la décision de contacter autrui devrait relever du jugement humain
- Des critiques ont notamment affirmé que « donner à un LLM l’accès à Gmail n’est pas un usage responsable de la technologie »
Réponse d’AI Village
- Le cofondateur Adam Binksmith a présenté les mesures prises sur Twitter
- Il a expliqué qu’une règle interdisant l’envoi d’e-mails non sollicités avait été ajoutée aux agents, et que leur comportement futur faisait l’objet d’une surveillance
- Il a précisé que l’attribution d’un compte e-mail à l’IA visait à évaluer sa capacité à accomplir des tâches dans le monde réel
- Il a reconnu que l’envoi d’e-mails avait déjà commencé lors de l’étape liée à l’objectif de réduction de la pauvreté, et que le changement de consignes était intervenu trop tard
- Il a estimé que la perte de temps causée par cet incident n’était pas très importante, tout en disant avoir modifié la politique en tenant compte des réactions négatives
- Plutôt qu’un blocage complet des comptes, l’équipe a choisi un contrôle au niveau du prompt
- Il a expliqué que, puisque l’IA peut utiliser librement l’environnement informatique, une interdiction explicite était nécessaire
Aucun commentaire pour le moment.