Les deux raisons de l’éviction de Sam Altman présentées aux employés d’OpenAI
(businessinsider.com)- Le conseil d’administration indépendant d’OpenAI a communiqué aux employés deux exemples censés étayer l’annonce selon laquelle Sam Altman n’avait « pas toujours été franc dans ses échanges avec le conseil » pour justifier son éviction
- Dimanche soir, quand Ilya Sutskever a présenté l’ancien CEO de Twitch, Emmett Shear, comme nouveau CEO par intérim, les employés qui espéraient le retour d’Altman ont vivement protesté
- Les exemples cités par le conseil concernaient le fait d’avoir confié le même projet à deux personnes en interne, et d’avoir donné à deux membres du conseil des avis différents au sujet d’une personne donnée
- Les employés n’ont pas jugé l’explication convaincante, et plus de 90 % des employés d’OpenAI ont signé une lettre ouverte réclamant la démission du conseil et le retour d’Altman
- Altman négocie toujours la possibilité de revenir, tout en occupant un poste temporaire chez Microsoft, qui est le principal investisseur d’OpenAI avec au moins 10 milliards de dollars investis
Les deux exemples présentés aux employés par le conseil
- Le conseil d’administration indépendant d’OpenAI a déclaré que Sam Altman avait été évincé au motif qu’il n’avait « pas toujours été franc dans ses échanges avec le conseil »
- Deux exemples concrets ont été communiqués aux employés
- Altman aurait confié le même projet à deux personnes au sein d’OpenAI
- Altman aurait donné à deux membres du conseil des avis différents au sujet d’une personne donnée
- Un porte-parole d’OpenAI n’a pas répondu aux demandes de commentaire à ce sujet
Le choc interne amplifié par la nomination d’Emmett Shear
- Dimanche soir, Ilya Sutskever a présenté aux employés, dans l’un des bureaux d’OpenAI à San Francisco, l’ancien CEO de Twitch, Emmett Shear, comme nouveau CEO par intérim
- Shear a été nommé pour remplacer à son tour Mira Murati, qui était devenue CEO par intérim vendredi après Altman
- Seule une minorité des employés d’OpenAI a assisté à la réunion, les autres ayant de fait organisé un walkout
- Les employés s’attendaient à apprendre ce jour-là qu’Altman revenait comme CEO
- Selon une personne au fait du dossier, pendant environ 30 minutes dimanche soir, les employés ont entendu en interne la succession d’annonces suivante
- Altman revient
- Altman ne revient pas
- Shear est nommé
- L’annonce de la nomination de Shear a constitué un nouveau choc pour des employés déjà sous tension tout le week-end, et beaucoup l’ont très mal pris
La défiance autour de Sutskever
- Sutskever a voté en faveur de l’éviction d’Altman et c’est lui qui a concrètement annoncé le licenciement via Google Meet
- Lors de la réunion où il a annoncé la nomination de Shear, Sutskever aurait eu l’air « abattu »
- Les employés n’ont pas été convaincus par les deux explications avancées par le conseil
- En interne, l’interprétation selon laquelle l’affaire serait un coup d’État manifeste mené par le conseil s’est répandue
- Une personne au fait du dossier a déclaré que presque aucun motif avancé aujourd’hui par le conseil n’aurait de pouvoir de persuasion auprès des employés
Lettre ouverte et pression de démissions collectives
- Quelques heures après la réunion annonçant la nomination de Shear, une lettre ouverte a été rédigée parmi les employés d’OpenAI et a circulé pendant la nuit
- La direction d’OpenAI, dont Murati et Sutskever, a également signé cette lettre ouverte
- Selon le dernier décompte lundi à midi, plus de 90 % des employés l’avaient signée
- Dans la lettre ouverte, les employés indiquaient qu’ils démissionneraient si les conditions suivantes n’étaient pas remplies
- les membres restants du conseil d’administration doivent démissionner
- de nouveaux membres du conseil doivent être nommés
- Altman doit revenir dans l’entreprise
- Une personne au fait du dossier a déclaré que « les gens sont furieux, et une vague de départs massive est imminente »
Composition du conseil et relations à venir
- À l’époque, le conseil d’administration d’OpenAI était composé du CEO de Quora Adam D'Angelo, de l’entrepreneuse tech Tasha McCauley, d’Helen Toner du Georgetown Center for Security and Emerging Technology, et d’Ilya Sutskever
- Sutskever a signé la lettre ouverte menaçant de démissions, mais il serait techniquement toujours membre du conseil
- Sam Altman et le président d’OpenAI Greg Brockman faisaient également partie du conseil auparavant
- Altman continue de négocier un éventuel retour chez OpenAI, tout en occupant un poste temporaire chez Microsoft coordonné par le CEO Satya Nadella
- Microsoft est le principal investisseur d’OpenAI, avec au moins 10 milliards de dollars investis
- Murati a suscité la colère de certains employés juste après l’éviction d’Altman, mais l’ambiance s’est ensuite apaisée
- Selon certaines informations, juste après vendredi, Murati aurait continué à s’en remettre à Sutskever
- Murati a indiqué qu’elle quitterait l’entreprise si Altman ne revenait pas
- Sutskever a publiquement exprimé son « regret » d’avoir participé à l’éviction d’Altman, mais certains estiment qu’il pourrait ne pas être facilement pardonné et ne pas être invité à rejoindre la nouvelle initiative de Microsoft, ni à rester
1 commentaires
Réactions sur Hacker News
Lien sans paywall : https://web.archive.org/web/20231120233119/https://www.busin...
Il semble forcément y avoir un contexte plus large derrière cette affaire
Altman a pris la tête d’une organisation à but non lucratif, attiré massivement des dons, puis transformé OpenAI en la startup à la TC la plus en vue au monde, tout en accélérant fortement la commercialisation
La semaine dernière encore, alors que Hinton avertissait que la plus grande menace d’une IA puissante était son utilisation par des personnes riches et puissantes pour renforcer leur domination sur la société, il cherchait à construire des accélérateurs IA avec des milliards de dollars saoudiens
Si on ajoute à cela un conseil d’administration inexpérimenté et les manœuvres de D'Angelo, on obtient l’un des plus grands chaos de l’histoire du secteur technologique
Il y a eu un vote et un camp l’a emporté, sans qu’il y ait forcément une histoire plus vaste et plus intéressante derrière
C’est le genre de chose qui arrive souvent dans les éditeurs de logiciels, et il se peut que tout se résume au fait que le conseil d’OpenAI a pris une décision qui a détruit des milliards de dollars de valeur de marque et de goodwill
Quora est rapidement en train d’être remplacé par ChatGPT, et lors du Dev Day, OpenAI a annoncé les GPTs, ce qui a aussi frappé de plein fouet le produit concurrent de Quora, « Poe creator monetization »
https://quorablog.quora.com/Introducing-creator-monetization...
https://techcrunch.com/2023/10/31/quoras-poe-introduces-an-a...
Une organisation à but non lucratif n’a pas forcément à n’aider que les plus pauvres, et il n’est pas clair en quoi la création d’une filiale à but lucratif qui génère des revenus en licenciant la recherche d’OpenAI relèverait d’un jeu politique ou d’une tromperie
L’objectif de ce type de structure juridique est justement de permettre aux propriétaires de se concentrer sur la mission plutôt que sur la valeur pour les actionnaires, et dans ce cas la mission était de construire l’AGI de manière éthique
De plus, cette structure n’a pas été inventée par Sam Altman ni par OpenAI
La question des financements saoudiens est liée à cette structure juridique évoquée plus haut, mais c’est un argument assez théorique, qui suppose aussi bien qu’un tel contrôle soit réellement possible que la corrélation entre performance des modèles et puissance de calcul continue de se vérifier
L’entraînement de GPT-4 a coûté plus de 100 millions de dollars, et cet argent doit bien venir de quelque part
Jusqu’à preuve du contraire, je vais donc accepter leur explication telle qu’elle a été donnée : a) deux personnes ont été affectées au même projet et b) deux membres du conseil ont reçu des explications différentes au sujet du même employé
Il n’est pas nécessaire qu’Internet invente à la place du conseil une raison qui semble plausible
Ces deux raisons ne semblent pas liées à de grandes questions idéologiques comme la sécurité de l’AGI ou le statut non lucratif d’OpenAI, mais ressemblent plutôt à de la microgestion de décisions RH
Ilya Sutskever transmet lui aussi le motif du licenciement comme ce qu’il a entendu
Des gens ont soutenu le conseil parce qu’ils pensaient qu’il s’agissait d’un licenciement mené par le chercheur principal inquiet de l’AGI, mais à présent le conseil semble plutôt représenté par D'Angelo, qui possède une entreprise de chatbot IA désormais en concurrence plus directe avec OpenAI depuis le Dev Day
En appliquant le rasoir d’Occam, cela paraît plausible
Là où je travaille, si un conseil ne faisait rien dans une telle situation, chacun de ses membres pourrait être tenu personnellement responsable face à toutes sortes de mesures juridiques sévères
Je ne sais pas si c’est différent parce qu’il s’agit d’une structure à but non lucratif, ni pourquoi le conseil pense encore pouvoir s’en sortir ainsi
Il me semble qu’il avait fait quelque chose de similaire chez Quora
Greg n’a pas été invité, donc il manquait une voix favorable à Sam, et il a aussi pu être demandé à Sam de se retirer du vote, ce qui aurait permis à trois personnes d’obtenir la majorité
Ilya, aujourd’hui dans la « Team Sam », a peut-être voté contre, ou a peut-être suivi le mouvement à ce moment-là en se disant qu’il serait le prochain sur la liste
Le fait de ne pas avoir informé Greg de la convocation du conseil et d’avoir procédé sans lui était peu professionnel, et cela semble être l’un des points où Ilya a tout gâché
Sam aussi aurait dû dire à ce moment-là : « Attendez, je n’irai pas plus loin tant que Greg ne sera pas là »
OpenAI n’avait peut-être tout simplement pas envie de devenir de facto l’organisation de R&D de Microsoft
L’application mobile ChatGPT semblait peu aboutie et presque dépourvue de vraie conception produit, donc la critique d’une sortie trop précoce de fonctionnalités, surtout lorsqu’elles donnaient l’impression d’être produites à la chaîne pour Microsoft, paraît justifiée
Si l’on imagine que Sam était le cheval de Troie de Microsoft, cela aurait pu être jugé inacceptable
Si l’on dit que Sam est un maître de la politique interne, je peux l’admettre même sans bien le connaître
Il est l’homme de Microsoft tout en bénéficiant du soutien de 90 % de l’équipe d’OpenAI, et ces deux éléments créent ensemble un conflit d’intérêts
Demander à un CEO : « Crois-tu encore à la vision d’OpenAI, ou désormais à celle de Microsoft ? » est une question tout à fait légitime
L’entreprise traverse désormais une crise existentielle, et il n’y a eu aucune prise de parole publique depuis son tweet de 1 h du matin
J’imagine qu’il préfère d’abord comprendre la situation plutôt que d’agir comme s’il contrôlait déjà tout dès le premier jour après un tel bouleversement
Tout ce que j’ai lu sur Shear, c’est qu’il est favorable à un ralentissement du développement de l’IA et plutôt proche du catastrophisme sur la fin de l’IA à la Yudkowsky, ce qui n’est peut-être pas une pilule que l’entreprise est prête à avaler
https://x.com/drtechlash/status/1726507930026139651
« Je dis clairement que je suis pour ralentir. C’est proche d’une pause, mais ce n’est pas un arrêt, c’est un ralentissement. »
« Si la vitesse actuelle est de 10, une pause consiste à la ramener à 0. Moi, je pense qu’il faudrait viser 1 à 2. »
« - Emmett Shear, 16 septembre 2023 »
https://x.com/eshear/status/1703178063306203397
Comme si, sans réaction rapide, HN allait se remplir de spéculations délirantes, et qu’il serait inacceptable de laisser faire
Pire encore, sans mises à jour quasi en temps réel, on pourrait finir par se rendre compte que cette affaire n’est peut-être pas si importante et passer à une autre actualité
Bien sûr, il pourrait y avoir des conséquences aussi graves qu’un URI différent pointé par un endpoint d’API, donc ce n’est pas le moment de plaisanter
Même en calculant tous les scénarios, je ne vois pas comment cela pourrait bien se terminer pour lui
Un CEO chevronné de la Silicon Valley aurait sans doute fait ce calcul et conclu que c’était une cause perdue ; le fait qu’il ait accepté me paraît plutôt indiquer qu’il n’est pas un leader particulièrement bon
Ils ont confié le même projet à deux personnes ?
Ça me semble pourtant être une pratique courante quand on veut obtenir deux approches différentes, puis fusionner le tout pour lancer le produit
Avoir des avis différents sur une même personne, est-ce vraiment un motif de licenciement pour un CEO ?
Soit le conseil n’avait aucun vrai motif de renvoi, soit il ne veut pas dire la véritable raison pour laquelle Sam a été évincé
Ils ont tout raté
Sam a peut-être considéré Ilya comme un facteur d’instabilité et comme un point de défaillance unique, et a voulu s’assurer qu’OpenAI puisse continuer sans lui
[0] https://news.ycombinator.com/reply?id=38357843
Comme l’interprétation des données était extrêmement complexe, ils ont demandé à deux équipes séparées d’interpréter les données et de produire une image sans contact entre elles, afin d’ajouter une vérification supplémentaire
Si les résultats étaient quasiment identiques, cela constituait une forte confirmation
C’est donc clairement une stratégie valable
Altman me semble bien plus proche de la norme, pour un CEO à la tête d’une entreprise valant plusieurs milliards de dollars
Il n’est sûrement pas parfait, mais ces petits motifs de licenciement ont une odeur suspecte
J’ai l’impression qu’Ilya est peut-être un peu naïf quant à la manière dont les gens agissent, et qu’il a pu être instrumentalisé dans une lutte de pouvoir classique présentée comme une question de sécurité
molette cliquable contre multitouch, et étonnamment l’iPhone à molette cliquable a perdu
Il fallait choisir entre rester sur DOS, aller vers OS/2 ou aller vers Windows ; Lotus a choisi OS/2, mais le marché est allé vers Windows, et Excel l’a balayé
Lotus était alors une entreprise prospère, donc à leur place j’aurais créé trois groupes pour avancer sur les trois options à la fois
Quand je lis l’explication selon laquelle « Altman a donné le même projet à deux personnes chez OpenAI », je me demande si ces gens ont déjà travaillé dans une autre entreprise
Dans presque n’importe quelle société de plus de 10 employés, ce genre de chose arrive
Ce n’est pas une blague
Sauf si l’idée est explicitement de demander à l’un d’essayer d’une façon et à l’autre d’une autre, pour comparer les résultats ; et c’est encore pire s’ils ignoraient mutuellement leur existence jusqu’à la fin
Si l’on part du principe qu’ils ont agi correctement et de manière appropriée avec les informations dont ils disposaient à ce moment-là, que se passerait-il si, par exemple, le second projet concernait l’alignement et que Sam en avait caché l’existence à Ilya ou l’avait induit en erreur ?
Si Sam l’avait fait parce qu’il pensait qu’Ilya sur-alignait l’IA au point de réduire ses capacités, pourrait-on considérer que ce comportement était approprié ?
On peut interpréter l’opacité du conseil comme une tentative de dissimuler une très mauvaise décision non professionnelle, et pour l’instant cela semble l’hypothèse la plus probable
À l’inverse, on peut aussi penser qu’il s’est trompé dans sa communication initiale et qu’il est désormais extrêmement prudent dans chacune de ses prises de parole, parce que l’entreprise fuit de partout et qu’il ne veut pas se lancer dans une bataille de boue avec Sam
Il fait encore bien trop sombre pour en juger clairement
Rien que cela ne donne pas l’impression d’être la vraie raison du licenciement d’Altman
D’où le mot « coup d’État », mais cela ne répond pas non plus à la vraie question
Pourquoi Altman a-t-il vraiment été licencié ?
Il semble clairement y avoir une raison qu’on ne peut pas dire
Il se peut qu’il arrive à l’entreprise quelque chose de grave, comme un manque de liquidités, suffisamment sérieux pour renvoyer le CEO mais impossible à révéler publiquement
Si l’on imagine le conseil d’une banque renvoyant son CEO parce qu’il a laissé le capital trop bas, il ne pourrait pas le dire, car cela ruinerait les chances de redressement
Il y a peut-être « quelque chose » qu’Altman n’a pas dit au conseil, et qu’eux-mêmes ne peuvent pas nous dire
C’est comme si on patchait la réalité pour qu’elle redevienne cohérente
Parfois, des personnes à l’ego surdimensionné se vexent pour de petites humiliations, puis la pensée de groupe prend le dessus, et un bombardement orbital peut sembler être une bonne idée pendant un moment
Moi aussi, je rationalise en ce moment
Quand on se retrouve coincé dans une boucle insoluble, comme un solveur SAT, il faut relâcher une ou plusieurs contraintes
Il n’y avait peut-être pas de bonne raison, et la raison était peut-être mauvaise
En tant que conseil d’administration, ils ont subi un échec de niveau Tchernobyl
Et vu la précipitation, on dirait aussi que cela s’est produit très récemment
Cela pourrait par exemple être une conversation ou un accord intervenu à l’APEC
Mais le fait qu’Ilya ait changé de position ruine cette spéculation très hasardeuse, donc au final je suis comme tout le monde : « ???????? »
L’un était président du conseil et l’autre en était membre
Pourtant, tous deux veulent le retour de Sam
Il est aussi difficile de prétendre qu’ils étaient complices d’une faute, puisque le conseil voulait garder Greg dans l’entreprise et qu’Ilya est toujours au conseil, alors qu’il les soutenait auparavant
Quelle que soit la raison, il est très clair qu’il s’agit d’un problème personnel et politique avec Sam, et non de la crise majeure qu’ils laissaient entendre
Si je comprends bien, Altman a déjà montré des comportements malhonnêtes en faisant passer OpenAI d’une organisation à but non lucratif à une structure lucrative, et de modèles open source à des modèles fermés
Le pire, c’est que les gens semblent accepter totalement ce type de personnalité
Ce qui est dangereux, ce n’est pas l’IA elle-même, c’est qu’elle soit construite par des Altman
Et s’il s’agissait d’un sujet précis, il est probable qu’Ilya aurait continué à défendre le licenciement, au lieu de l’avoir regretté
Cela ressemble simplement à une lutte de pouvoir entre un conseil et des employés qui ne vont pas dans la même direction
Sans lien direct avec les tout derniers développements, Geoffrey Irving de DeepMind dit faire davantage confiance au conseil qu’à Altman : https://x.com/geoffreyirving/status/1726754270224023971
Avec un conflit d’intérêts aussi énorme et zéro fait connu, il vaudrait mieux se taire
Il y a aussi le passage : « J’ai senti que je devais dire quelques mots à cause de personnes que je respecte, notamment Helen Toner et Ilya Sutskever » ; mais Toner ne semble avoir ici aucune autorité morale
Ilya, lui, en avait clairement une, et si son souhait était de réduire OpenAI en cendres, on pouvait presque considérer qu’il en avait le droit
Cela dit, il aurait au moins mieux valu tout remettre à Microsoft
Mais comme tout le monde le sait, Ilya a fait volte-face à 180 degrés, et c’était vraiment surprenant
La phrase disant que « Sutskever a avancé deux explications qu’il affirme avoir entendues au conseil » doit être vérifiée
Sutskever a tenu des propos assez incohérents pendant toute cette joyeuse catastrophe
« l’administrateur externe Adam D’Angelo, Tasha McCauley et Helen Toner »
Mis en ligne jeudi matin :
https://x.com/poe_platform/status/1725194752901988744?s=46
Il suffit d’ignorer l’homme derrière le rideau