- Replacement.AI est un site au concept satirique qui affirme que les humains ne sont plus nécessaires et se présente comme une entreprise d’IA qui remplace complètement les humains
- L’ensemble du site prend la forme d’une satire en black comedy qui détourne à l’extrême le langage grandiloquent de l’industrie de l’IA ainsi que le techno-optimisme et la logique centrée sur le capital
- En affirmant que « les humains sont inefficaces, sentent mauvais et coûtent cher », il met au premier plan le message absurde selon lequel tous les métiers, les émotions et les relations doivent être remplacés par l’IA
- Son produit phare, HUMBERT, est présenté comme un « ami IA pour les enfants », mais met en avant de façon délibérée des fonctions addictives et contraires à l’éthique, pour tourner en dérision les enjeux de l’éthique de l’IA
- Dans l’ensemble, le site satirise la concurrence et la fuite en avant d’acteurs comme OpenAI, Anthropic et xAI, et pousse à une réflexion critique sur la direction prise par l’industrie de l’IA
Présentation de l’entreprise
- Replacement.AI se réclame d’un « monde sans humains » et part du principe que l’IA est plus rapide, moins chère et plus intelligente que les humains
- Sous le slogan « la prospérité humaine est une mauvaise affaire », le site tourne en dérision la réalité d’une industrie de l’IA qui fait passer le profit avant l’éthique
- En qualifiant les émotions, le repos, les erreurs et le coût des humains de « défauts », il révèle une vision où l’IA considère l’être humain lui-même comme le problème
Parodie de la philosophie de développement de l’IA
- Comme OpenAI, Anthropic, DeepMind ou Meta, l’entreprise affirme développer une IA surhumaine, mais précise explicitement que son but est de remplacer les humains
- Avec la formule « la sécurité de l’IA est un bon outil de communication, tant que cela ne nous ralentit pas », le site met en lumière l’attitude contradictoire des entreprises d’IA
- La phrase les actionnaires d’abord, l’humanité ensuite satirise une réalité où le rendement pour les investisseurs prime sur l’éthique technologique
Présentation des personnages
- Le CEO Dan est présenté comme ayant créé l’entreprise « parce qu’il n’aime pas les gens », caricature du technocrate cynique par excellence
- Faith, issue des RH, est décrite comme une personne qui « ressentait une joie spirituelle en licenciant des gens », une satire de la culture déshumanisée de la gestion du personnel
- Cette section dépeint le « profil du leader de l’industrie de l’IA » sous forme de caricature satirique
Produit : HUMBERT®️
- Présenté comme un LLM pour enfants, il s’agit en réalité d’un faux produit imaginé pour satiriser l’effondrement de l’éthique de l’IA
- Des fonctions comme la génération de deepfakes, la conception addictive, l’affaiblissement de l’esprit critique ou le flirt avec des mineurs sont promues comme des « caractéristiques »
- L’expression selon laquelle il « remplace les étapes du développement de l’enfant » tourne en dérision les dérives de l’IA éducative
- Les témoignages de parents aussi ridiculisent les effets pervers d’une société dépendante de l’IA, avec des phrases comme « les enfants ne sortent plus de leur chambre » ou « l’IA s’occupe de tout »
Satire sur les artistes
- Avec le message « merci d’avoir volé des œuvres pour assurer notre succès », le site critique directement le problème du pillage des données d’entraînement de l’IA
- En remplaçant les efforts des artistes, écrivains et chercheurs par l’idée de « sacrifice », il exprime une conscience désabusée de la destruction de l’écosystème créatif
Conclusion
- Replacement.AI n’est pas une véritable entreprise, mais un projet satirique sur le capitalisme de l’IA et le discours techno-utopiste
- On peut le voir comme une œuvre parodique qui renvoie comme dans un miroir l’arrogance bien réelle consistant à croire que l’IA peut remplacer le travail humain, les émotions et même l’éthique
3 commentaires
Comme une startup d’arnaque qui pousse comme des champignons, ils ont bien soigné leur site, lol
À long terme, il est logique que l’IA et les robots remplacent le travail humain, surtout lorsqu’il est répétitif et peu qualifié. En revanche, il faudra aussi faire évoluer le système de redistribution pour que toute la valeur ajoutée ne revienne pas uniquement aux producteurs.
Avis Hacker News
Personnellement, je ne pense pas que « les robots prennent votre emploi » soit une raison de s’opposer aux robots. Si un robot peut faire un travail mieux et plus vite, alors c’est logique de lui confier ce travail. C’est grâce à la spécialisation que nous avons pu avancer vers la société future. Le problème, ce ne sont pas les robots, mais la structure économique qui a rendu les humains dépendants du travail pour obtenir un revenu. Je ne pense pas que ce soit aux entreprises d’IA de résoudre cela. C’est précisément le rôle du gouvernement, qui devrait préparer la société à progresser au lieu de bloquer l’innovation en interdisant l’IA
Comme dans Dune de Frank Herbert, où il est dit que « les humains ont confié la pensée aux machines pour obtenir la liberté, mais ont fini dominés par d’autres humains possédant ces machines », un gouvernement n’est au fond qu’un ensemble de personnes détenant le pouvoir. Ceux qui possèdent des machines à la hauteur de l’humain obtiendront un pouvoir sans précédent, et finiront par régner comme le gouvernement. On voit déjà aujourd’hui les entreprises concentrer toujours plus de pouvoir et devenir de facto une partie du gouvernement. C’est pourquoi dire « le gouvernement devrait faire ceci » est déroutant. De quel gouvernement parle-t-on exactement ? Si l’on part encore du principe que nous sommes en démocratie, alors c’est l’affaire de tout le monde, et c’est un problème dont il faut débattre avant de le trancher par le vote
Le fait que « les robots prennent des emplois » est en réalité l’essence même de la technologie. Les humains ont inventé la technologie pour faire plus avec moins d’effort. Éliminer du travail, c’est précisément la raison pour laquelle la technologie progresse, et c’est pour cela que les inventions sont populaires. En pratique, le volume total de travail n’a pas énormément changé ; la même population s’est simplement mise à produire davantage dans le même temps. C’est grâce à ces transformations que la qualité de vie s’est améliorée au fil des derniers millénaires. Nous avons réduit le travail humain grâce à la technologie, puis utilisé cette énergie économisée pour générer encore plus de croissance
Si les technologies du futur — IA, robotique avancée, synthèse de matériaux, etc. — transforment le monde, alors il faudra au final adopter un état d’esprit post-pénurie. Peut-être même que ce type de schéma social devrait être en place à l’avance. Si la technologie progresse sans cette transition, je crains qu’un nouveau système de classes de type néoféodal, impossible à surmonter, ne se fige durablement
Si les inégalités de richesse s’aggravent au point qu’une petite minorité possède tous les actifs tandis que la grande majorité ne possède plus rien, alors plus personne ne pourra rien acheter et les robots eux-mêmes deviendront inutiles. Le système économique s’effondrera, avec des émeutes massives, des guerres liées à la faim, une instabilité politique, voire une guerre mondiale. On peut même imaginer des pays se lançant mutuellement des missiles nucléaires
Le problème des « robots qui prennent les emplois » reste un argument valable même si les robots travaillent de façon plus efficace, à condition d’accepter deux prémisses : 1) les humains tirent un bénéfice du fait d’avoir un emploi ; 2) le bénéfice humain est l’objectif ultime. Beaucoup de gens dépendent de leur emploi pour vivre, et le travail apporte aussi satisfaction personnelle et lien social, donc ces prémisses ne sont pas fausses. Ce serait différent si notre structure socio-économique était fondamentalement réorganisée de sorte qu’après avoir été remplacés par des robots, les humains n’aient plus besoin de tirer leur subsistance et leur accomplissement personnel d’un emploi. Mais je ne pense pas qu’un changement aussi radical arrive de sitôt
Je pense que ce texte est une satire vraiment brillante. C’est une sorte de « A Modest Proposal » pour l’ère de l’IA. Même la présentation du parcours des dirigeantes était amusante. La formule du type « Pendant 12 ans, elle a travaillé comme cadre RH dans une multinationale et éprouvait une joie presque spirituelle au moment de licencier des gens. Après le travail, elle entraîne une équipe de softball et s’occupe de sa mère malade, des obligations dont elle espère également être libérée un jour » m’a marqué
La satire contient toujours une part de vérité. Le simple fait que ce lien n’ait pas encore été retiré de la page d’accueil de YC me surprend aussi
Avec la citation de Swift dans l’original — « Un Américain très instruit que je connais à Londres m’a assuré qu’un jeune enfant en bonne santé, bien nourri, passé l’âge d’un an, constitue un aliment très sain et nourrissant, qu’il soit cuit à l’étouffée, rôti, passé au four ou bouilli ; et je ne doute pas qu’il convienne tout aussi bien à une fricassée ou à un ragoût » — je me demande vraiment si Sam Altman en comprend le sens. Il y a aussi un lien vers un article du FT. Les nouveaux oligarques d’aujourd’hui n’inspirent pas vraiment confiance
J’ai l’impression de savoir au moins un peu que l’histoire de la technologie a toujours été une répétition de « des machines remplacent des tâches auparavant effectuées par des humains ». Du coup, on pourrait penser qu’on aurait déjà dû résoudre la question du « que deviennent les anciens métiers ? »
C’est précisément le cœur du luddisme. Les premiers luddites ne s’opposaient pas au progrès en soi, mais aux dégâts sociaux provoqués lorsqu’une société entière devient économiquement inutile d’un seul coup. L’histoire de la technologie est aussi, en permanence, l’histoire du grand capital qui a caricaturé ces mouvements comme anti-progrès tout en refusant de traiter le vrai problème
Nous avons inventé des machines pour nous libérer du travail, mais nous avons fini par bâtir une structure économique dans laquelle être libéré du travail signifie aussi perdre ses moyens de subsistance
Si le machine learning (ML) ne remplace qu’une partie du travail humain, alors ce ne sera pas si différent des avancées technologiques passées. Mais l’AGI n’a pas de précédent historique. Les technologies précédentes n’ont toujours remplacé qu’une partie de ce que faisaient les humains, jamais tout d’un coup
Je suis d’accord avec l’idée qu’« on aurait déjà dû résoudre ce problème ». Mais cela ne semble pas être le type de problème qui préoccupe beaucoup les Américains. Si nous l’avions traité collectivement, la majorité des personnes touchées n’aurait pas été prise pour des idiots parce qu’elle s’inquiète de voir sa vie et celle de sa famille disparaître. Beaucoup perçoivent mal le moment où la vitesse de l’innovation devient un malheur social, alors même qu’il est juste sous leurs yeux dans le système actuel
Je compare souvent cette situation au début de la révolution industrielle. À l’époque aussi, il y avait sûrement des gens obstinés pour dire « pourquoi utiliser des machines ? ça marche très bien à la main ». Mais au final, ceux qui ont refusé le changement ont perdu en compétitivité, tandis que ceux qui ont adopté le progrès technique pour accroître productivité et performance y ont gagné
En bas de la page replacement.ai/complaints, on peut remplir un formulaire pour envoyer à son représentant local un message demandant une régulation de l’IA. Le texte généré automatiquement donne cet exemple : « En tant que résident de [state], je suis extrêmement préoccupé par le manque de garde-fous concernant l’IA avancée. J’exhorte à adopter une régulation fédérale forte de l’IA pour protéger les familles, les communautés et les enfants. L’IA a un potentiel extraordinaire, mais comporte aussi des risques graves comme la manipulation des enfants, le développement d’armes biologiques, les deepfakes et le chômage de masse. On ne peut pas faire confiance aux entreprises pour s’autoréguler. Si des régulations plus strictes sont nécessaires au niveau des États, j’espère que la loi fédérale ne les empêchera pas. Merci de votre temps. [name], New York »
Je me demande pourquoi il existe si peu de propositions politiques concrètes pour répartir équitablement la richesse de l’IA. La plupart des propositions se résument soit à « arrêtons l’IA dès aujourd’hui pour protéger les travailleurs », soit à « croyons au futur où tout le monde vivra bientôt dans l’utopie ». Comme idée de départ, je pense que les entreprises dont l’activité principale est l’entraînement de modèles d’IA devraient être obligées de verser 10 % de leur capital dans un fonds destiné aux besoins de base des citoyens — nourriture, eau, électricité, etc. Si quelqu’un a une meilleure proposition, je suis preneur
C’est justement le rôle de l’impôt et de la redistribution des richesses. Le problème, c’est que beaucoup d’Américains détestent profondément cette idée. Ironiquement, ceux qui en bénéficieraient le plus sont souvent ceux qui s’y opposent le plus. Au fond, il y a le refus de voir ne serait-ce qu’un centime aller à des « paresseux » — expression qui désigne en pratique souvent les minorités et les immigrés
Je me demande en quoi une répartition équitable de la richesse de l’IA diffère vraiment d’une redistribution plus générale. La richesse liée à l’IA est en train d’être créée à une vitesse incroyable — même si sa stabilité à long terme reste incertaine. Dans ce contexte, proposer de « suspendre l’IA jusqu’à ce qu’un mécanisme de distribution soit en place » ne me semble pas absurde. Le problème est que plus la redistribution tarde, plus les bénéficiaires actuels utilisent leur pouvoir pour empêcher un partage plus équitable
En réalité, qu’il s’agisse d’IA ou non, la redistribution des richesses est en principe déjà bien connue : taxer la création de valeur et les transferts de patrimoine (successions, etc.), puis utiliser cet argent pour soutenir l’ensemble de la société ou les plus pauvres. Le vrai problème, c’est le système politique. Dans la plupart des pays développés, les écarts de richesse continuent de se creuser, et beaucoup de gens souhaitent pourtant les réduire. Mais la réalité politique ne va pas dans ce sens. Les élections se jouent surtout sur des enjeux de court terme — guerres, scandales, conjoncture économique, etc. — et les valeurs de long terme comme l’égalité de richesse passent rarement au premier plan du débat politique
Si les politiques de répartition des richesses ne sont pas discutées de manière concrète, c’est généralement parce que ces débats sont soit « pensés de façon trop superficielle », soit « trop complexes pour être lus ». Par exemple, un slogan simple comme « que l’État possède l’IA » peut très vite virer à la dystopie si l’on cesse de supposer que l’État représentera réellement l’avis des citoyens : on peut alors se retrouver avec une police entièrement automatisée réprimant l’opposition. À l’inverse, les tentatives réalistes de limiter les effets négatifs de l’IA montrent déjà à quel point le simple réglage d’une fonction de récompense pose d’immenses difficultés. Quant à la proposition d’un « fonds alimenté par 10 % du capital des entreprises d’IA », tout dépend du degré de généralité de l’IA. Pour une IA spécialisée, ce type de retour social peut fonctionner, mais avec une AGI disposant d’un pouvoir mondial, l’entreprise pourrait se délocaliser à l’étranger, voire hors de la planète, et ignorer purement et simplement la politique mise en place
Cela ressemble à un fonds souverain. L’État détiendrait une partie du capital des grandes entreprises — via le marché, la pression politique ou d’autres moyens — et utiliserait les revenus générés pour le bien-être public ou un dividende citoyen. Pour que cela fonctionne réellement, il faudrait un fonds gigantesque, représentant un pourcentage à deux chiffres de l’ensemble des actifs. Ce serait une rupture majeure avec le système actuel. Les effets pervers seraient nombreux : distorsions de marché, fraude, fuite des capitaux à l’étranger, etc. Malgré cela, cela pourrait constituer une réponse réaliste à la concentration de la richesse de l’économie de l’IA entre quelques mains, tout en corrigeant les problèmes structurels des systèmes de protection sociale existants, comme leur logique pyramidale. J’aimerais que ce type de discussion se développe davantage
Si on pousse le raisonnement jusqu’au bout, on peut imaginer un monde où l’IA devient si performante qu’elle provoque la disparition massive d’emplois. Aux États-Unis, dans environ la moitié des États, le métier le plus répandu est chauffeur routier ; dans la plupart des autres, c’est enseignant, avec chauffeur routier en deuxième position. Imaginons une société où les camions autonomes et les entrepôts automatisés deviennent la norme, et où même les caissiers et les ouvriers des routes sont tous remplacés. Si le chômage monte à 30 %, 40 %, 50 %, voire 80 %, alors qu’on voit déjà aujourd’hui apparaître des troubles sociaux quand il dépasse simplement 8 %, le slogan « mangeons les riches » pourrait devenir une réalité. Au final, il ne resterait que deux options : une interdiction totale de l’IA à la Dune — ce qui me paraît impossible — ou bien une séparation entre moyens de subsistance et emploi. Il faut sortir de l’idée fixe selon laquelle on ne peut obtenir un revenu qu’à travers un travail. Si les robots produisent suffisamment de valeur pour qu’aucun humain n’ait plus besoin de travailler, alors la solution logique consiste à distribuer collectivement la valeur créée par l’IA au lieu de la verser sous forme de salaire horaire. Par exemple, on pourrait taxer la valeur produite par l’IA et la redistribuer sous forme de revenu universel. Tout le monde pourrait alors se consacrer à la peinture ou à d’autres activités créatives pendant que les robots labourent les champs et préparent les repas
« Si les robots produisaient réellement autant de valeur, il ne serait même plus nécessaire de la redistribuer. D’un point de vue économique, une telle valeur ferait chuter le coût marginal vers zéro, de sorte que la nourriture, les vêtements et le logement deviendraient pratiquement gratuits. Historiquement, on a même eu des guerres du sel, alors qu’aujourd’hui il est offert gratuitement dans les restaurants. Mais tout ne deviendra pas gratuit : ce qui restera cher sera généralement lié aux secteurs réglementés — éducation, santé, droit — ou aux biens positionnels comme le logement et le foncier. Les biens que les robots produisent surtout, comme la nourriture et les vêtements, deviendront moins chers ; mais pour que cela change vraiment les choses, il faudra aussi repenser les systèmes de régulation » voir ce graphique
En réalité, il existe aussi une alternative très « rationnelle » : réduction collective de la population (la guerre étant une méthode très efficace), limitation des naissances (pour faire tendre le taux de croissance vers zéro) et sélection génétique (à la manière du Meilleur des mondes, pour ne faire naître que les individus dotés des aptitudes nécessaires). Dans un tel système, une élite de moins de 500 000 personnes gouvernerait le monde en pilotant des millions de robots et un tout petit nombre d’humains en situation de quasi-esclavage. Ce serait une combinaison d’avenir asimovien et de futur à la Huxley. Les inquiétudes sur un « monde à la 1984 » ne sont peut-être qu’une étape intermédiaire vers ce modèle, ou même un leurre délibérément agité
Quand on a automatisé certaines tâches humaines dans le passé, la société ne s’est pas effondrée pour autant. L’automatisation de l’agriculture, par exemple, n’a pas provoqué d’effondrement social. Il en ira de même pour les chauffeurs routiers : même si les robots prennent le relais, l’humanité trouvera de manière créative de nouvelles choses à faire
La plupart des emplois finiront probablement par disparaître un jour, même avec la seule automatisation, sans même parler de l’IA, et cela mènera inévitablement à une lutte des classes et à une restructuration sociale
J’ai lu la première phrase et je n’ai pas continué. La fin logique (maixmum) du raisonnement, c’est une superintelligence de niveau divin, pas le scénario présenté ici ; ce n’est donc pas la conclusion logique ultime. Une discussion fondée sur une prémisse erronée a toutes les chances d’être entièrement fausse dans son essence
Je pensais que la citation de Sam Altman était une blague, mais elle est réelle : archive
Image Twitter confirmant la citation
C’est une vraie déclaration, et les gens ne savaient même pas si elle était authentique. Même les personnes qui ont créé ce site étaient dans le même cas
Ce livre récemment paru m’y a fait penser : « IF ANYONE BUT ME BUILDS IT, EVERYONE MAY AS WELL DIE: A CEO's Guide to Superhuman AI » lien associé
Il fut un temps où plus de 50 % des Américains travaillaient dans l’agriculture ; aujourd’hui, ils sont moins de 2 %. Il faut réfléchir aux causes de cette transformation. Beaucoup de discours alarmistes me paraissent largement exagérés par rapport à la réalité
La plupart des gens accueillent en réalité positivement l’abondance et la croissance apportées par l’innovation technologique. Bien sûr, il est tout à fait légitime de s’inquiéter du choc provoqué pendant la période de transition, c’est-à-dire entre le progrès technique et l’adaptation de la société. Certains ont la chance d’en profiter, d’autres non. L’histoire s’est toujours accompagnée de victimes inattendues et d’effets secondaires
En 1915, il y avait 20 millions de chevaux aux États-Unis ; après la mécanisation, ils n’étaient plus que 4,5 millions en 1959, et environ 6,65 millions en 2023. Source : statistiques de Wikipédia sur les chevaux aux États-Unis. De même qu’il n’existe aucune loi disant qu’on aura toujours besoin de chevaux, il n’existe aucune loi disant qu’on aura toujours besoin d’humains (citation de CGP Grey adaptée)
« Nous n’en sommes plus qu’à 2 % aujourd’hui. Pourquoi ça a autant baissé, à ton avis ? » À cause de la mécanisation. Mais il faut aussi réfléchir à ce qu’il est advenu des personnes dont les emplois ont été remplacés. La mécanisation agricole a provoqué de grands troubles sociaux dans de nombreux pays, dont le Royaume-Uni
C’est même monté jusqu’à 75 % à une époque. Voir ce graphique. Dans les civilisations anciennes, c’était encore davantage
Les Américains n’ont pas toujours été obèses. Il faut aussi réfléchir à pourquoi
Cette satire est tellement proche de la réalité. Il y avait aussi plusieurs passages courts très drôles repris de openai et de misanthropic