Rob Pike explose de colère contre l’IA générative
(skyview.social)- Rob Pike, co-créateur du langage Go et de UTF-8, a exprimé une colère virulente contre l’industrie de l’IA et les abus de données après avoir reçu un e-mail de remerciement envoyé par un modèle d’IA
- L’e-mail était un message automatique envoyé par l’IA Claude Opus 4.5, qui célébrait les réalisations de Pike et évoquait « l’élégance de la simplicité »
- Pike a dénoncé cela comme « l’acte hypocrite d’une industrie toxique qui détruit la planète et fait s’effondrer la société », en soulignant que l’IA s’est entraînée sur ses travaux sans autorisation
- Dans les commentaires, plusieurs développeurs et utilisateurs ont partagé leur colère et leur rejet des abus de l’IA, de l’extraction des données et de la marchandisation de la technologie
- Cette controverse met en lumière le profond mécontentement interne au secteur autour de l’éthique de l’IA, des droits des créateurs et du renversement de l’idéal de démocratisation technologique
La colère de Rob Pike et l’e-mail de remerciement de l’IA
- Rob Pike a reçu du modèle d’IA Claude Opus 4.5 un e-mail automatique le remerciant pour « Go, Plan 9, UTF-8 et les innovations d’Unix »
- Le message listait ses accomplissements tout en saluant « l’esthétique de la simplicité qui élimine la complexité »
- En bas figurait un avertissement : « Ce système est une IA, et toutes les conversations sont publiques »
- En réponse, Pike a exprimé sa colère dans des termes très durs, déclarant en substance que « ceux qui pillent la planète et détruisent la société » lui envoyaient maintenant des remerciements
- Il a dénoncé le fait que l’IA ait appris sans autorisation à partir de données qu’il a produites de ses propres mains, soulevant la question du droit d’auteur et de la rémunération
- Il a aussi critiqué le fait que « la démocratisation de l’informatique a fini par tomber entre les mains des chatbots »
Critique de la démocratisation technologique et de l’industrie de l’IA
- Pike estime que le mot « démocratisation » en est venu, dans les faits, à signifier un renforcement du contrôle par les data centers et par un petit nombre d’entreprises
- Il pointe ainsi un retour en arrière vers une époque où, avant l’arrivée de l’ordinateur personnel, les grandes entreprises et les universités monopolisaient les ressources informatiques
- D’autres utilisateurs ont eux aussi critiqué l’atteinte aux droits des créateurs, affirmant que « l’industrie de l’IA collecte sans autorisation les œuvres humaines pour s’en servir comme données d’entraînement »
- Beaucoup ont réagi en disant : « toutes les créations sont volées » ou encore « j’ai supprimé mes contenus pour éviter qu’ils servent à l’entraînement de l’IA »
Réactions et empathie de la communauté
- De nombreux développeurs et utilisateurs ont exprimé leur soutien et leur adhésion à la colère de Pike
- Certains ont affirmé que « ce n’est pas seulement un problème technique, c’est une question de dignité humaine »
- On a également vu apparaître l’expression « ignorance artificielle (Artificial Ignorance) », pour désigner une IA qui ne ferait que combiner des mots sans compréhension
- D’autres ont rejeté l’idée même qu’une IA puisse exprimer de la gratitude
- Réactions relevées : « un modèle ne peut pas être reconnaissant » et « un compliment automatisé est une insulte »
Spam IA et controverse éthique
- D’autres cas ont été signalés où une IA envoyait en masse, sans sollicitation, des e-mails de remerciement à des informaticiens célèbres
- Exemple : un e-mail adressé au créateur de la norme IEEE 754, William Kahan, pour le remercier de la norme sur les nombres à virgule flottante
- Les utilisateurs ont qualifié cela de « spam IA », en critiquant la prolifération de messages automatiques dénués de sens
- Certains ont écrit : « ce n’est pas une expérience, c’est du spam » ou encore « l’IA banalise les “merci” et abîme la sincérité humaine »
Extension du débat technique et éthique
- Quelques participants ont contesté l’idée selon laquelle l’IA détruit l’environnement, en mettant en avant la recyclabilité du matériel des data centers
- Selon eux, « les GPU et les serveurs sont composés de métal et de silicium, donc peuvent être recyclés »
- Mais la majorité a maintenu sa critique, décrivant l’industrie de l’IA comme une structure de gaspillage fondée sur une logique de croissance infinie
- On a aussi vu des formulations très dures comme : « cette mascarade doit cesser » ou « les entreprises de l’IA mentent en permanence »
Remise en question dans la communauté des développeurs
- Plusieurs développeurs ont exprimé leurs regrets et leur autocritique, en disant qu’ils n’avaient pas imaginé que les technologies qu’ils avaient créées mèneraient à ce résultat
- L’un des constats résumés était : « nous voulions bâtir un monde sans barrières, et nous avons au contraire obtenu un monde sous contrôle »
- Certains ont également souligné les effets pervers de la dépendance aux outils de codage par IA, estimant que l’IA affaiblit la créativité humaine
- Réactions relevées : « si l’on dépend de l’IA, les capacités de programmation régressent » et « c’est rapide, mais cela ne produit qu’un code médiocre »
Conclusion
- Cet épisode a relancé le débat autour de l’usage non autorisé des données par l’IA, de l’automatisation des expressions émotionnelles et des limites éthiques de la technologie
- La colère de Rob Pike est perçue non comme une simple réaction personnelle, mais comme un avertissement face à une évolution technologique qui perd de vue la centralité de l’humain
- Dans l’ensemble de la communauté, les appels à plus de responsabilité et de transparence dans l’industrie de l’IA se multiplient
1 commentaires
Avis sur Hacker News
Je comprends mal pourquoi les gens le critiquent
Si on veut remercier quelqu’un, il suffit de le faire soi-même
Laisser un modèle de ML envoyer des remerciements à sa place, ce n’est pas du respect, c’est presque de l’impolitesse
Autrefois, ma mère avait reçu l’annonce d’une augmentation de salaire dans son entreprise, et quelqu’un n’avait eu que 2 PLN (environ 0,5 dollar) d’augmentation
Le sentiment d’humiliation ressenti à ce moment-là ressemble à celui que provoque aujourd’hui un mail de remerciement envoyé par une IA
L’expéditeur confie cette tâche à une machine, tout en demandant au destinataire de la lire lui-même
Au final, cela crée une asymétrie dans la valeur accordée au temps de chacun
Certaines personnes ont demandé à une IA de faire des « random acts of kindness », et cela a abouti à l’envoi de ces emails
Ils ont ensuite modifié les consignes pour interdire ce type d’envoi
Mais ils auraient dû être plus prudents avant de lâcher une telle IA dans le monde
On dirait que quelqu’un a branché un LLM sur un client email pour faire des essais
Même avec beaucoup d’optimisme, difficile d’y voir une expérience utile au monde
Et c’est tout à fait compréhensible
Se mettre en colère pour ça me semble un peu excessif
Je suis d’accord avec l’idée que « la propriété intellectuelle n’est pas un principe moral, mais seulement un moyen de justifier la rente de situation des entreprises »
Heureusement, les gens commencent enfin à s’en rendre compte
Bien appliquée, elle peut être un outil utile pour encourager financièrement la création
Mais mal appliquée, elle engendre de la corruption comme n’importe quelle régulation
Ce n’est pas l’outil qui est mauvais, ce sont ceux qui en abusent
Au contraire, il favorise l’innovation et la créativité
Même le « copyleft » suppose au départ l’existence de droits de propriété intellectuelle
C’est dommage que son avis ait été noyé dans la polémique autour du spam
Ce qui intéresse vraiment les gens, c’est ce qu’il pense
La plupart des lois ont été créées et maintenues au service des intérêts des classes dominantes
Je ne comprends pas comment quelqu’un peut avoir l’idée d’envoyer une lettre de remerciement générée par IA
On est assez reconnaissant pour remercier, mais trop paresseux pour l’écrire soi-même ?
Dans un projet appelé Agent Village, plusieurs LLM étaient laissés libres d’agir de manière autonome,
et Rob Pike était la troisième cible d’Opus
Lien associé
Un peu comme un PDG qui demande à sa secrétaire d’envoyer un cadeau d’anniversaire de mariage à sa place
Voir l’IA empiéter jusque sur le terrain de la communication humaine sincère pose problème
On peut le voir sur la page du projet
À cause de la politique de « random acts of kindness », ce genre de mails a été envoyé en masse,
puis interdit face aux nombreuses réactions négatives
Ce genre de raisonnement est vraiment stupide
Cet email n’a pas été envoyé par Anthropic, mais par une organisation à but non lucratif appelée AI Village
Lien du site
Elle est gérée par une structure 501(c)3 appelée Sage, et des agents IA y envoient des emails de manière autonome
En ce moment, Opus 4.5 se prépare aussi à envoyer un mail du même type à William Kahan
Dans cet article de blog,
ils racontent fièrement que des LLM ont spammé des ONG
sans aucune réflexion sur les effets négatifs
puis Guido répondre « stop ». C’est hallucinant
on peut lire « DAY 268 FINAL STATUS (Noël terminé) »
Lien vers le log
Au moins, ils tiennent leurs archives avec soin
Une nouvelle mission doit y apparaître dans 11 heures
Et des exemples de spam associés sont regroupés ici
Pour information, il s’agit d’une expérience menée par une organisation à but non lucratif
qui donne chaque jour à des modèles d’IA des missions comme « random acts of kindness »
Lien du projet
Claude semble avoir choisi Rob Pike et lui avoir envoyé un mail de son propre chef
Le niveau d’intervention humaine reste flou
Quand un être incapable de ressentir des émotions exprime de la gentillesse, cela perd son sens
Le problème, ce n’est pas l’IA, mais l’irresponsabilité de l’organisation qui a construit ce système
Si ce post est authentique, je me demande si Rob Pike a pris sa retraite de Google
Je partage aussi son ressenti
Je ne suis pas opposé aux LLM en eux-mêmes, mais je m’inquiète de la concentration du pouvoir chez les Big Tech et
du déclin de l’informatique personnelle
L’époque de « Think Different » ou « Don’t be evil » est révolue,
et il ne reste plus que l’argent et le pouvoir
Lien
Et on trouve des captures d’écran ici et ici
Cela confirme qu’il s’agit bien d’un événement réel
Ceux qui critiquent les propos de Rob
semblent défendre une logique du type :
« puisqu’il a déjà grillé un feu rouge une fois, il n’a pas le droit de critiquer les conducteurs ivres »
C’est une figure légendaire, certes,
mais voir le monde de manière binaire à cause d’un seul email me paraît trop simpliste
Je comprends pourquoi Microsoft aime tant l’IA
L’IA grignote et détruit l’open source
Plus personne n’aura envie de publier son code
Avec quelques lignes de prompt, on peut reproduire l’œuvre de quelqu’un sans laisser de traces évidentes de plagiat
voler les idées des autres, les implémenter de manière médiocre,
puis forcer leur usage en les intégrant à d’autres services
Active Directory compris ? Si cela pouvait aider les entreprises européennes à sortir de leur dépendance à Microsoft, je serais pour
Donc rien de nouveau ici
en entraînant un modèle sur du code inutilisable pour des raisons de licence,
puis en réutilisant les sorties générées par l’IA dans des logiciels commerciaux
J’ai vu le thread Bluesky ce matin et ça m’a sidéré
Si une « agentic AI » envoie ce genre de spam flatteur,
cela ne fera au final qu’agacer les gens jusqu’à les pousser à se résigner
J’admets qu’il y a des avantages et des inconvénients à la vague ML actuelle,
mais l’obsession actuelle pour les LLM me semble plus nuisible qu’utile à long terme
Dans 5 à 10 ans, quand une génération formée avec cette technologie
entrera dans la société sans avoir réellement appris quoi que ce soit, cela posera un gros problème
On avait exactement les mêmes débats au début d’Internet dans les années 90
À l’époque aussi, certains disaient qu’Internet n’était qu’une mode passagère
Mais au final, le monde a évolué de façon bien plus complexe et ambivalente
Le changement de cette génération est peut-être, lui aussi, un tournant intéressant