Le récit complet du coup de force inattendu du conseil d’administration qui a évincé Sam Altman, CEO d’OpenAI
(arstechnica.com)- Le conseil d’administration d’OpenAI a brutalement limogé vendredi le CEO Sam Altman, entraînant le départ du président Greg Brockman et de trois chercheurs seniors, tandis que Microsoft, investisseur clé, a lui aussi été pris de court sans en avoir été informé à l’avance
- Au cœur du conflit se trouvait le Chief Scientist Ilya Sutskever, avec un affrontement frontal entre la stratégie d’Altman, axée sur une commercialisation et une croissance rapides, et les responsabilités de sécurité fondées sur la mission non lucrative
- En raison d’une structure de gouvernance inhabituelle où une organisation à but non lucratif possède et contrôle une filiale à but lucratif, il ne restait plus au conseil, après la sortie d’Altman et de Brockman, que Sutskever, Adam D’Angelo, Tasha McCauley et Helen Toner
- Le conseil a invoqué des « communications qui n’étaient pas constamment franches » pour justifier le licenciement, mais une note interne du COO Brad Lightcap précise que cette décision n’était pas liée à une faute, ni à des pratiques financières, commerciales, de sûreté, de sécurité ou de protection de la vie privée
- Cette crise a mis en lumière la tension entre le rythme d’un développement sûr et la pression de la monétisation, tandis que la stabilisation des opérations sous la direction de l’interim CEO Mira Murati devient la priorité immédiate pour les employés, partenaires, utilisateurs et clients
Confusion immédiate après le renvoi d’Altman
- OpenAI a brusquement limogé vendredi son CEO Sam Altman, une décision qui a conduit à la démission du président Greg Brockman et au départ de trois scientifiques seniors
- Microsoft, investisseur clé et actionnaire minoritaire, n’a pas non plus été averti à l’avance et, selon Bloomberg, le CEO Satya Nadella aurait été furieux
- L’éviction d’Altman pourrait avoir été menée par le Chief Scientist Ilya Sutskever, sur fond d’inquiétudes concernant la sécurité et le rythme de déploiement des technologies d’OpenAI
- Lors d’une réunion d’urgence de l’ensemble des employés vendredi après-midi, Sutskever a déclaré que le conseil s’était acquitté de son devoir envers la mission non lucrative consistant à « garantir qu’OpenAI construise une AGI bénéfique à l’ensemble de l’humanité »
- L’AGI visée par OpenAI désigne une technologie hypothétique capable d’accomplir des tâches intellectuelles réalisables par des humains
Fracture autour du rythme de la commercialisation et de la sécurité
- Le conflit interne s’est aggravé autour du rythme de la commercialisation et de la croissance de l’entreprise poussé par Altman, tandis que Sutskever estimait qu’il fallait ralentir
- D’après une source relayée à Kara Swisher, l’OpenAI Dev Day du 6 novembre a été perçu comme un point de bascule, Altman ayant mis les produits grand public au premier plan en poussant « trop loin, trop vite »
- Dans une déclaration commune vendredi soir, Altman et Brockman ont dit être « choqués et attristés » par les actions du conseil
- L’investisseur providentiel Ron Conway a critiqué l’événement comme un coup de force du conseil comme on en avait peu vu depuis l’éviction de Steve Jobs par le conseil d’Apple en 1985, affirmant que c’était injuste pour Sam, Greg et les builders d’OpenAI
La gouvernance non lucrative et le conseil restant
- OpenAI possède une structure inhabituelle dans laquelle une organisation caritative d’intérêt public à but non lucratif 501(c)(3) détient et contrôle sa branche lucrative
- Avant le licenciement, le conseil de l’organisation non lucrative comprenait Altman, Brockman, Ilya Sutskever et trois membres non salariés d’OpenAI
- Adam D’Angelo : CEO de Quora
- Tasha McCauley : adjunct senior management scientist à la RAND corporation
- Helen Toner : strategy and foundational research grants director au Georgetown Center for Security and Emerging Technology
- Après le licenciement d’Altman et l’éviction de Brockman du conseil, il ne restait plus que Sutskever, D’Angelo, McCauley et Toner
Procédure de licenciement et communication interne
- Selon la déclaration commune de Brockman et Altman, le licenciement d’Altman a été une surprise totale pour eux deux
- Altman a été invité jeudi soir à participer à une réunion du conseil à distance le vendredi à midi, et a été licencié lors de cette réunion le lendemain
- Brockman, alors président du conseil d’OpenAI, n’avait pas été invité à cette réunion
- Environ 30 minutes plus tard, Sutskever a informé Brockman qu’il était écarté de son rôle au conseil mais pouvait rester dans l’entreprise, et lui a aussi annoncé le licenciement d’Altman
- Brockman a refusé de rester dans l’entreprise et a démissionné plus tard vendredi
- Selon Brockman, les dirigeants d’OpenAI n’ont appris la décision qu’après coup, mais Mira Murati, alors CTO et ensuite nommée interim CEO, avait été prévenue jeudi soir
« Communications pas franches » et démenti de faute
- Dans l’annonce du départ d’Altman, OpenAI a déclaré qu’Altman n’avait pas été « constamment franc » dans ses échanges avec le conseil, ce qui avait empêché ce dernier d’exercer ses responsabilités
- L’entreprise n’a pas encore expliqué précisément ce que cette formulation signifiait
- Des sources internes estiment que ce mouvement relevait surtout d’une lutte de pouvoir et d’une fracture culturelle entre Altman et Sutskever
- Parmi les facteurs de conflit figuraient le style de management d’Altman et son intensification de la communication externe
- Le 29 septembre, Sutskever avait écrit sur X : « Ego is the enemy of growth »
- Une note interne du COO Brad Lightcap obtenue par Axios indique que la décision du conseil n’était pas liée à une faute ni à des questions financières, commerciales, de sûreté, de sécurité ou de protection de la vie privée
- Lightcap a résumé l’affaire comme une « rupture de communication entre Sam et le conseil »
Départs de chercheurs et agitation interne
- Trois chercheurs en IA considérés comme proches d’Altman ont aussi quitté l’entreprise vendredi après l’annonce
- Jakub Pachocki : lead de GPT-4 et director of research chez OpenAI
- Aleksander Madry : responsable de l’équipe d’évaluation des risques IA
- Szymon Sidor : chercheur sur les baselines open source
- Leurs démissions montrent que le chaos provoqué par le renvoi d’Altman s’est propagé jusqu’à l’organisation de recherche
Superalignment, GPT-5 et débat sur le rythme
- Sutskever est co-responsable de l’équipe Superalignment, qui étudie comment contrôler une IA superintelligente hypothétique
- En raison de ce rôle, des rumeurs ont circulé selon lesquelles la fracture interne entre développement lent et développement rapide chez OpenAI pourrait être liée à une percée interne récente
- Jeudi, lors de l’APEC CEO Summit, Altman a déclaré avoir vécu quatre moments dans l’histoire d’OpenAI où l’entreprise avait « repoussé le voile de l’ignorance et avancé la frontière de la découverte », en précisant que le plus récent datait « des dernières semaines »
- Ces inquiétudes ne signifient pas qu’OpenAI a développé une superintelligence, et les experts jugent cette possibilité peu probable
- La nouvelle percée évoquée par Altman a pu accentuer la pression entre les exigences de progression sûre de l’organisation non lucrative et les exigences de monétisation de la filiale lucrative
- Altman a récemment indiqué qu’un GPT-5, supposé être un successeur puissant de GPT-4, était en cours de développement
Messages aux employés et défis de sortie de crise
- L’engineering manager d’OpenAI Evan Morikawa a déclaré sur X que l’entreprise continuerait à lancer des produits, et que Sam et Greg n’étaient pas des micromanagers
- Il a ajouté que de nombreux talents en recherche, produit, ingénierie et design produisaient des résultats, et qu’il existait entre les dirigeants un alignement interne autour d’une mission plus vaste
- Dans sa note interne, Lightcap a reconnu que les employés pouvaient ressentir de la confusion, de la tristesse et de la peur
- L’entreprise se concentre sur la gestion de la situation, sa résolution, le rétablissement de la clarté et le retour au travail, tout en soulignant sa responsabilité envers les employés, partenaires, utilisateurs, clients et le monde au sens large
- Il a estimé que la position de l’entreprise restait solide, a apporté son soutien à l’interim CEO Mira Murati, et a ajouté partager les inquiétudes sur la manière dont la procédure avait été menée tout en travaillant à résoudre la situation
1 commentaires
Réactions sur Hacker News
C’est regrettable pour Sam et Greg, mais le rôle du conseil d’administration n’est pas de faire ce qui arrange Sam & Greg, il est de prendre les bonnes décisions pour OpenAI
Quand la direction licencie 1000 employés, les investisseurs applaudissent en disant que « c’est le business », mais invoquer soudain la morale parce qu’un CEO proche d’eux se fait évincer, c’est malhonnête
Bien sûr, il faut aussi tenir compte de l’impact sur les employés, mais un CEO ressemble davantage à un commandant, avec une grande responsabilité et un grand pouvoir sur les résultats de l’entreprise, alors que les employés ordinaires sont plus proches de civils, pour qui un licenciement est bien plus difficile à encaisser
Ils ont pris Satya, un partenaire, à revers, ont scindé l’entreprise en deux camps, et ont poussé Sam et Greg, furieux, à chercher leur revanche
Résultat, cela crée même le risque qu’une version purement lucrative d’OpenAI, sans objectif supérieur, domine le marché, et il semble difficile de justifier une telle façon de procéder
Les investisseurs de la filiale commerciale OpenAI Global LLC devaient considérer leur apport comme une sorte de don, et il leur avait été explicitement indiqué que l’objectif de l’entreprise n’était pas de générer un rendement pour eux, mais de remplir la mission d’intérêt général de l’entité non lucrative
Il ne semblait pas du tout conscient de la manière dont ce propos pouvait sonner devant un public qui voulait bâtir une entreprise significative et influente
Avoir beaucoup d’argent ne rend pas pour autant le jugement d’une personne utile
Il est clairement pro-fondateurs, mais il ne m’a jamais semblé être le type d’investisseur impitoyable qui pousse aux réductions de coûts ou aux licenciements
Ce serait peut-être plus équitable si cela n’était possible qu’avec une très large majorité, et ce serait au minimum une structure intéressante
Tout le monde s’agite, mais d’après mon expérience personnelle auprès de plusieurs entreprises et de CEO « importants », je pense que je n’en aurais eu absolument rien à faire si ce CEO était parti
Les CEO s’attribuent, de l’extérieur, une part excessive du mérite des performances de l’entreprise, mais cela ne veut pas dire qu’ils sont réellement si importants
OpenAI est peut-être un cas différent, mais je ne partirais pas du principe qu’il s’agit d’une exception totale
Mais si une organisation à but non lucratif porteuse d’une mission d’intérêt public possède une entreprise à but lucratif, cette trajectoire peut prendre une mauvaise direction
Les annonces du Dev Day, et en particulier la marketplace, peuvent laisser penser que c’est précisément ce qui se passait chez OpenAI
Tout le monde n’a pas envie de vendre rapidement de jolis gadgets LLM selon la logique du build fast and break things, et eux semblent vouloir conduire une AGI responsable avant que d’autres ne le fassent de manière irresponsable
C’est un cercle si restreint que, tant que quelqu’un ne fait pas tout exploser, on le traite aussitôt de génie
Donnez à beaucoup de gens des milliards de dollars et des centaines d’excellents ingénieurs et chercheurs, et ils parviendront d’une manière ou d’une autre à faire tourner la machine, mais comme peu de personnes ont accès à une telle opportunité, on en arrive là
Souvent, ils ne font pas le vrai travail et se contentent d’en récolter le mérite
Il se pourrait qu’on découvre que Sam et d’autres étaient en réalité davantage de bons évangélistes techniques ou vendeurs que de véritables opérateurs, et c’est peut-être pour cela que tant de gens de la tech semblent aujourd’hui inquiets
L’orientation précédente était assez fortement centrée sur le fait de permettre aux gens de construire quelque chose sur cette technologie
On craint désormais un basculement vers un modèle où l’accès serait contrôlé et réservé uniquement à des chercheurs jugés « sûrs »
Quand on ne connaît pas très bien un processus de production donné, on a tendance à se fixer sur son aspect le plus visible publiquement et sur la personne qui semble détenir le plus haut niveau d’autorité
C’est vrai même si un réalisateur ou un CEO doit souvent lui-même rendre des comptes à d’autres ; bien sûr, l’influence individuelle peut être grande, mais une telle grandeur est rarement le fait d’une seule personne
Il est difficile de croire qu’un conseil d’administration incapable de se contrôler lui-même ou de contrôler ses employés puisse gérer l’IA de manière responsable, et on peut même douter que quiconque soit capable de gérer l’AGI
Les organisations à but non lucratif traînent de vieux problèmes de gouvernance, et des objectifs flous alimentent la politique interne
L’avantage d’un conseil d’administration à but lucratif est que ses objectifs se réduisent à des arbitrages de risques bien compris, comme croître maintenant ou plus tard, et que ses membres sont choisis parmi des personnes ayant un intérêt réel dans ces objectifs
Si les organisations religieuses ou les gouvernements idéologiques inspirent difficilement confiance, c’est aussi parce qu’ils se font capturer par la politique interne
Il semblerait plus raisonnable de laisser l’IA/AGI relever d’une activité entièrement lucrative, tout en inversant le principe de responsabilité afin que les développeurs assument tous les coûts externes produits par leurs produits
Le logiciel et Internet ont été des domaines où les consommateurs n’avaient pratiquement aucun recours face aux coûts qui leur étaient transférés, ce qui a permis une croissance énorme et une innovation de rupture
Si l’on veut contrôler l’IA/AGI, il faudrait en faire une activité lucrative tout en imposant aux développeurs la responsabilité des coûts externes ; les usages deviendraient alors très étroits et limités aux cas présentant un bénéfice social net
Suivre aveuglément la logique économique peut créer des problèmes, et c’est en grande partie pour cela que la culture d’entreprise américaine est passée de la priorité au bon produit à la maximisation de la valeur actionnariale
Cela dit, si l’on ne regarde que cette décision, le conseil d’administration d’OpenAI paraît capricieux et impulsif
C’est pourquoi la politique au sens humain du terme intervient inévitablement davantage dans les organisations à but non lucratif
Si l’on veut vivre avec le comportement des structures non lucratives, il faut accepter cet aspect
Dire qu’on ne peut pas leur faire confiance à cause de la politique, c’est un peu comme dire que dès que les affaires humaines interviennent, elles sont moins fiables qu’un ordinateur
Si l’on est incapable d’imaginer une politique efficace, on est aussi incapable d’imaginer une gestion humaine efficace, et il ne reste plus que le travail mécanique de systèmes d’optimisation simples comme les marchés capitalistes
Tout cela est arrivé pour des sommes dérisoires
Il ne manquerait plus qu’à trouver un moyen d’injecter les données actuelles dans le modèle en temps réel, et OpenAI semble probablement travailler activement dessus : https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
Le vrai danger n’est pas que des enfants demandent comment fabriquer des drogues illégales, mais qu’un gouvernement intègre ces résultats dans un système de défense nationale façon Skynet
Vu l’étrange silence autour des usages des LLM par le complexe militaro-industriel, on peut soupçonner que cela fasse peut-être partie de l’histoire d’OpenAI aussi bien
Sur HN, j’ai vu l’argument selon lequel même un ingénieur très important ne l’est jamais trop, et qu’Ilya aussi est remplaçable, en citant le cas d’Apple qui a continué à croître après le départ de Woz. Mais je pense qu’une meilleure comparaison serait le moment où, après la sortie de Quake, John Carmack a évincé Romero de chez id Software
Carmack a poussé pendant près de dix ans l’état de l’art technologique — du défilement horizontal fluide de Commander Keen à la fausse 3D de Doom, puis à la vraie 3D de Quake — et a provoqué une avancée graphique majeure. Entre 1991 et 1996, chaque nouveau moteur d’id créait pratiquement un nouveau genre
Chez id, tout le monde en était conscient à l’époque, et c’est ce qui a donné à Carmack assez de pouvoir pour licencier le cofondateur John Romero
Romero était la vitrine publique, flamboyante et omniprésente, d’id, mais après son licenciement, malgré beaucoup d’argent et une énorme couverture médiatique, il n’a rien produit d’aussi grand que Doom ou Quake, et sa nouvelle société a fini par fermer
En revanche, sous Carmack, id a continué à enchaîner les succès
Dans une situation où chaque petit gain de performance à la pointe fait fortement grimper le chiffre d’affaires, l’expertise d’ingénierie compte énormément, et c’est aussi vrai aujourd’hui pour la qualité de sortie des LLM que ça l’était pour les graphismes PC des années 1990
Donc, tout comme Carmack a été le moteur essentiel de la croissance d’id, il est tout à fait possible qu’Ilya joue le même rôle chez OpenAI
Après Quake 1, la production d’id a clairement baissé d’un cran : la technologie était excellente, mais les jeux étaient fades et manquaient d’inspiration ; au mieux, c’était du « bon », pas du « grand »
Il a fallu attendre Doom en 2016 pour qu’ils refassent quelque chose de vraiment intéressant, soit vingt ans plus tard
Après Romero, le plus grand succès d’id a davantage été d’être une entreprise de licence technologique faisant tourner des jeux comme Half Life, Medal of Honor et Call of Duty, plutôt qu’un studio de développement de jeux
À l’inverse, l’Ion Storm de Romero a certes fini par échouer, mais a donné des jeux intéressants comme Deus Ex et Anachronox, et même Daikatana me paraît plus intéressant que Quake 2 ou Quake III
Il faut absolument quelqu’un capable d’attirer en continu des capitaux via les revenus, les investisseurs et les partenaires, et d’obtenir l’accès aux GPU ainsi qu’à des jeux de données exclusifs
Carmack pouvait faire avancer les graphismes avec un seul ordinateur et sa seule tête, mais il faut bien davantage à Ilya pour continuer à faire progresser OpenAI
Un cerveau hors norme ne suffit pas
C’était une astuce qui existait déjà plus de dix ans avant qu’il ne l’utilise, et je me souviens avoir lu des bidouilles similaires dans une chronique de Jim Blinn dans IEEE bien avant que Carmack ne l’« invente »
https://en.wikipedia.org/wiki/Fast_inverse_square_root
Ilya n’est pas l’équivalent de Carmack dans cette histoire ; il s’est davantage concentré sur la sûreté et la recherche sur l’alignement que sur la création de GPT-[n]
D’après plusieurs récits, ces dernières années, Greg Brockman — qui a démissionné, excédé par cette décision — et les chercheurs seniors partis hier ont eu plus d’impact qu’Ilya
Il ne faut pas non plus sous-estimer id. Sans exploser de façon spectaculaire comme Ion Storm, id a progressivement perdu en importance ; même si ses graphismes restaient en avance, il n’a jamais retrouvé le sommet d’innovation de la période Carmack+Romero, et a fini par être vendu à Zenimax
Carmack seul a été bien meilleur que Romero seul, mais sans doute pas aussi fort qu’eux deux ensemble
Sam Altman n’est pas non plus l’équivalent de John Romero. Le problème d’Ion Storm sous Romero était de tourner en rond indéfiniment à la poursuite de la perfection sans jamais sortir de produit, alors que le problème qu’Ilya avait avec Altman semblait plutôt être qu’il sortait les choses trop vite
J’espère que Sam et Greg lanceront une nouvelle entreprise d’IA fondamentale ; dans ce cas, j’en attendrais bien plus qu’un OpenAI centré sur l’alignement et la régulation, comme semblent le souhaiter Ilya et Helen
Ensuite, comme le montre https://en.wikipedia.org/wiki/List_of_id_Software_games, on trouve surtout Quake 2, Quake 3 et Doom 3, et à part cela il y a peu de choses ayant une réelle valeur ou un véritable impact culturel
Les réussites techniques ont été nombreuses, mais pour qu’un jeu reste mémorable, il faut autre chose qu’une technologie intéressante
Pour les gens qui découvrent ces jeux aujourd’hui, Quake reste simplement Quake ; ils ne gardent pas en mémoire une distinction nette entre le 1, le 2 et le 3
Oui, id était une entreprise logicielle prospère, mais il est peu probable qu’avec les seules productions post-Romero, elle serait devenue un géant du secteur façonnant l’avenir du jeu vidéo
On peut dire que Carmack, seul, a accompli davantage que Romero, seul, mais dans le domaine du jeu vidéo, pour atteindre une véritable grandeur, ils avaient besoin l’un de l’autre
Quant à Altman et Sutskever, il reste à voir ce que l’histoire dira d’eux
Ce licenciement semble être un licenciement très personnel
À moins que des faits vraiment graves n’émergent en plus, un conseil d’administration responsable ne renverrait pas un CEO en nuisant avec autant de désinvolture à la réputation de l’entreprise et à ses partenaires, sauf s’il s’agissait d’une rancune personnelle liée à une lutte de pouvoir interne
C’est embarrassant pour toutes les personnes impliquées, et sama a de vraies raisons de se plaindre
Des retombées juridiques semblent aussi possibles
Bien sûr, s’ils ont réellement inventé l’AGI et que sama essayait de la monétiser, on peut imaginer qu’un conseil d’administration AGI-doomer ait agi sans prudence
Mais même dans ce cas, cela aurait dû être un débat réglé à huis clos
Tout le monde pensera à Jobs, mais Gary Gygax chez TSR dans les années 80 peut être un autre exemple
Pendant ce temps, TSR accumulait des pertes massives, et au début des années 80, l’entreprise peinait déjà à atteindre 30 millions de dollars de chiffre d’affaires annuel tout en portant 1,5 milliard de dollars de dette
En plus, la chute de Gygax était le résultat de son propre coup de force
Il a évincé Kevin Blume et fait venir Lorraine Williams ; après qu’elle a racheté toutes les parts de Blume, elle a retiré à Gygax le contrôle de l’entreprise environ un an plus tard et annulé la plupart des projets, avant qu’il ne démissionne un an après
Pour l’instant, il a l’avantage moral, tandis que le conseil paraît mesquin et immature ; faire quoi que ce soit qui inverse cette perception serait stupide
Il annoncera probablement une nouvelle aventure dans les prochaines semaines, et le fait qu’elle soit ou non liée à l’IA révélera comment il voit réellement les perspectives du secteur
Brockman et d’autres feront probablement aussi quelque chose de nouveau dans l’IA
Il était abusif et difficile à gérer, le Macintosh était alors un échec commercial, et il opposait les équipes entre elles via la politique interne de l’entreprise, comme Lisa contre Mac, au détriment de l’intégration et du succès
À son retour, son caractère restait difficile, mais ce genre d’autres problèmes ne s’est plus reproduit
Après son retour, Apple est devenue une entreprise extrêmement performante dans l’exécution d’une vision unique et collaborative
Le simple fait qu’il ait créé AD&D pour éviter de verser des royalties à Arneson en est un exemple
Cela a été, au sens propre, une expérience formatrice
Il y avait clairement des tensions entre le camp de la croissance lucrative et celui de la croissance non lucrative, mais je ne comprends pas pourquoi la Dev Day est présentée comme le coup final
C’était un événement de lancement produit
Ilya et le conseil auraient dû savoir depuis des mois ce qui allait y être dévoilé, et ils avaient probablement au minimum vu le plan, voire l’avaient approuvé
Si une limite devait être fixée, c’était avant le lancement ; on dirait qu’ils n’ont repris leurs esprits qu’après la présentation en se regardant dans le miroir
Le communiqué disait d’emblée que Sam n’avait pas été honnête d’une manière ou d’une autre, et Greg a aussi été touché
Ilya est peut-être le seul membre du conseil qui aurait pu le savoir naturellement dans le cadre de ses fonctions quotidiennes, mais depuis juillet environ, il travaillait dans le domaine de la superalignment, donc peut-être dans un autre périmètre
Le conseil a pu apprendre l’existence du projet via un tiers ou via Ilya, dire à Sam qu’il allait trop vite, et Sam a pu les ignorer puis lancer quand même
En réalité, personne ne sait
Cela peut au contraire très bien correspondre à l’affirmation du conseil selon laquelle Sam n’avait pas été franc
C’est mauvais pour OpenAI, mais il y a tellement de concurrents affamés qui cherchent à remplacer OpenAI que je ne pense pas que cela aura de grandes conséquences de long terme pour l’ensemble du secteur
Je me demande quels pouvoirs de supervision et quels recours ont les investisseurs, ou les donateurs
Beaucoup de gens qui ont mis beaucoup d’argent aujourd’hui ont dû être très en colère
Cela a très bien pu être un moment de prise de conscience soudaine
Ilya Sutskever est quelqu’un qui a la conviction sincère que les LLM sont l’AGI, et sur ce point il rejoint Geoff Hinton, son ancien directeur de thèse à l’Université de Toronto
Hinton a dit : « Si on entraîne un système à être vraiment bon pour prédire le mot suivant, on le force en réalité à comprendre. Oui, c’est de l’autocomplétion, mais les gens n’ont pas réfléchi à ce que signifie une autocomplétion vraiment excellente. »[1]
Altman, en revanche, aurait jugé que les LLM ne sont pas la voie à suivre[2]
C’est pourquoi Altman aurait cherché à faire des LLM un produit lucratif afin d’en extraire de la valeur, tandis que le camp Sutskever semblait les considérer comme de l’AGI et vouloir les maintenir dans un cadre non lucratif
Il y a aussi un désaccord sur le fait de savoir si l’AGI constitue un risque existentiel, ou si les risques actuels de l’IA relèvent plutôt des biais algorithmiques, des inégalités socio-économiques, de la désinformation et de la mésinformation, ainsi que du solutionnisme technologique
Il existe une autre hypothèse
selon laquelle l'éviction aurait très probablement été menée par le directeur scientifique en chef Ilya Sutskever en raison d'inquiétudes sur la sûreté et le rythme de déploiement des technologies d'OpenAI, mais ce n'est pas OpenAI qui a lancé en premier une marketplace GPT/agents, c'était Poe de Quora
Or, le CEO de Quora siège au conseil d'administration à but non lucratif d'OpenAI
On peut donc au moins savoir où se situait son intérêt lorsqu'il a voté contre Altman et Greg
ChatGPT a été le plus grand produit de l'histoire de l'entreprise et sa principale percée sur le marché grand public
Il est donc difficile d'y voir une simple ligne de partage du type « Sam voulait des revenus, Ilya/le conseil voulait de la recherche pure »
si l'organisation à but non lucratif au conseil de laquelle vous siégez lance un produit concurrent de celui de l'entreprise que vous dirigez, comment gérer ce conflit d'intérêts
Il semble qu'il aurait dû se retirer
Ce n'est pas un coup d'État
on parle de coup d'État quand le pouvoir est arraché par la force, pas quand les membres jugent que vous ne représentez plus correctement leurs intérêts
C'est comme qualifier de coup d'État la défaite d'un homme politique à une élection
Employer ce terme laisse entendre à tort qu'OpenAI appartenait d'une certaine manière à Sam Altman
Ce qui se rapproche davantage d'un coup d'État, c'est l'idée qu'un fondateur crée une entreprise, vend ses parts, puis continue malgré tout à la considérer comme sa propriété
Cela revient à retirer le contrôle aux véritables propriétaires pour le remettre à un dirigeant qui sert de visage public
un coup d'État au sens littéral consiste bien à prendre le contrôle d'un État par la force avec l'appui de l'armée, mais dans le business et plus largement ailleurs, le terme désigne métaphoriquement une prise de pouvoir préparée en secret et exécutée par surprise
De la même manière, quand une entreprise « déclare la guerre », cela ne veut pas dire qu'elle tire des missiles et tue des gens, mais qu'elle concentre ses ressources sur un objectif pour concurrencer quelqu'un
Ce qui s'est passé ici est clairement un coup d'État
une partie du conseil l'a préparé en secret et l'a exécuté lors d'un conseil secret où deux personnes, dont le président, étaient absentes, et même Microsoft, qui a investi dans 49 % de l'entité à but lucratif, n'avait ni information ni droit de regard
Il ne s'agit pas de dire si c'était bien ou mal, mais c'est l'un des coups d'État de conseil d'administration qui restera dans les livres d'histoire
Il y a une raison pour laquelle cela a fait la une non seulement sur HN mais aussi du NYT et du WSJ
Dans la Révolution française aussi, des événements comme la chute de Robespierre ou l'annulation d'élections par le Directoire sont souvent décrits comme des coups d'État
Le dernier a même été, dans une certaine mesure, sans effusion de sang
on serait plus proche d'une défense de l'ordre constitutionnel d'OpenAI
l'entreprise a été délibérément conçue, comme Mozilla, autour d'une organisation à but non lucratif centrale, la branche lucrative n'existant que pour lever les capitaux nécessaires à cette mission
Il faut regarder ce qu'ils ont écrit directement sur la structure : https://openai.com/our-structure
en particulier cette partie : https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
L'aspect commercial de la marque OpenAI semble avoir disparu
si le conseil à but non lucratif agit à l'encontre des intérêts des clients en ralentissant le développement et en livrant des produits inférieurs, comment les clients pourraient-ils continuer à dépendre d'OpenAI
En revanche, l'aspect AGI d'OpenAI devrait aller bien
le développement responsable de l'AGI mené par Ilya Sutskever va se poursuivre, et j'espère qu'il réussira
Microsoft va probablement lancer quelques poursuites et entraver OpenAI en interne
c'est une entreprise pesant près de 3 000 milliards de dollars avec une armée d'avocats, donc elle peut faire beaucoup de dégâts, surtout s'il n'y a pas beaucoup de sympathie pour OpenAI du côté des VC de la Silicon Valley
il aurait toujours pu faire faillite, s'effondrer à cause de procès ou être racheté par Microsoft
Le simple fait d'avoir licencié le CEO oblige à se demander si le succès venait de GPT ou du CEO
le premier est toujours là et n'est pas devenu inférieur
un ralentissement de la croissance ne signifie pas forcément un déclin
dans ce domaine, les concurrents rattrapent vite leur retard
si c'était vraiment à cause d'événements comme le Dev Day, cela pourrait avoir une certaine logique, mais si une IA utile qui aide réellement les gens est traitée comme quelque chose de vulgaire, on peut se demander si OpenAI ne devient pas de plus en plus une secte fermée
une sorte de ClosedAI qu'on ne peut même pas utiliser en payant
Message de Jeremy Howard de fast.ai : https://x.com/jeremyphoward/status/1725712220955586899
il n'est pas exactement un initié, mais il est globalement proche d'Ilya et du camp des chercheurs, ou en tout cas empathique à leur égard, et semble aussi avoir des liens
Ce tweet et ce point de vue étaient un indicateur indirect utile pour estimer à quoi pouvait ressembler la sensation de fracture en interne
les développeurs, moi y compris, ont aimé le Dev Day