Une ancienne membre du conseil d’administration d’OpenAI révèle les raisons de l’éviction temporaire de Sam Altman

• L’ancienne membre du conseil d’administration d’OpenAI Helen Toner affirme que Sam Altman a menti à plusieurs reprises au conseil, et que cette rupture de confiance a conduit à son éviction temporaire en novembre 2023
• Selon Toner, le conseil a appris le lancement de ChatGPT sur Twitter, et Altman aurait pendant des années dissimulé ou présenté de façon erronée ce qui se passait au sein de l’entreprise
• Le fait qu’Altman n’ait pas informé le conseil qu’il possédait l’OpenAI startup fund est présenté comme un exemple clé, en contradiction avec son affirmation selon laquelle il était un membre indépendant du conseil
• Toner estime qu’Altman a aussi fourni des informations inexactes sur le nombre de processus de sécurité officiels d’OpenAI, ce qui a rendu difficile pour le conseil d’évaluer si les mesures de sécurité étaient suffisantes
• Le conseil discutait sérieusement de son éviction depuis octobre 2023, mais l’a réintégré comme CEO en moins d’une semaine après des menaces de départs d’employés et l’évocation de la possibilité que Microsoft recrute l’équipe d’Altman

---

Les raisons de l’éviction selon Helen Toner

• L’ancienne membre du conseil d’administration d’OpenAI Helen Toner a révélé les coulisses de l’éviction temporaire de Sam Altman en novembre 2023 lors d’une interview dans “The TED AI Show” de Bilawal Sidhu
• Selon Toner, Altman a menti « plusieurs fois » au conseil, qui a même appris le lancement de ChatGPT via Twitter
• Altman aurait pendant des années caché des informations et présenté de manière erronée ce qui se passait dans l’entreprise
• Il n’a pas non plus informé le conseil qu’il possédait l’OpenAI startup fund, tout en continuant à affirmer qu’il était un membre indépendant du conseil sans intérêt financier dans l’entreprise
• Cet épisode a fortement entamé la confiance du conseil envers Altman, et dès octobre 2023, la nécessité de l’évincer faisait déjà l’objet de discussions assez sérieuses
• OpenAI n’a pas répondu immédiatement à la demande de commentaire de Business Insider

Processus de sécurité et problème de confiance dans le leadership

• Altman aurait également fourni au conseil des informations inexactes sur le petit nombre de processus de sécurité officiels en place chez OpenAI
  • Cela a rendu presque impossible pour le conseil de comprendre si les mesures de sécurité étaient suffisantes ou si des changements étaient nécessaires
• Toner estime qu’il y a eu d’autres cas individuels, mais qu’au final le conseil en est arrivé à ne plus pouvoir croire ce qu’Altman disait
• Il est également souligné que le rôle du conseil était d’assurer une supervision indépendante d’OpenAI, et pas seulement d’aider le CEO à lever davantage de fonds
• En octobre 2023, deux dirigeants ont eu plusieurs échanges avec le conseil pour décrire leur expérience avec Altman et ont utilisé l’expression “psychological abuse”
  • Ces dirigeants estimaient qu’Altman n’était pas la bonne personne pour mener l’entreprise vers l’AGI
  • Ils ont également indiqué ne pas croire qu’il puisse ou veuille changer, et qu’il était inutile de lui faire des retours ou d’essayer de résoudre les problèmes avec lui
• Selon Toner, lorsque le conseil a pris conscience de la nécessité de remplacer Altman, il était évident que, s’il l’apprenait, Altman « utiliserait tous les moyens » pour empêcher le conseil d’agir
  • D’après Toner, Altman a commencé à mentir à d’autres membres du conseil pour tenter d’écarter Toner du conseil
  • Le conseil a mené la procédure jusqu’au 17 novembre 2023 en n’en informant presque personne à l’avance, à l’exception de l’équipe juridique
• L’éviction d’Altman n’a pas duré longtemps : après des menaces de démission d’employés et des spéculations selon lesquelles Microsoft pourrait faire venir l’équipe d’Altman depuis OpenAI pour l’employer directement, le conseil l’a réintégré comme CEO en moins d’une semaine
• Toner a démissionné du conseil d’administration d’OpenAI moins de deux semaines après le retour d’Altman au poste de CEO

[GN⁺]

Avis sur Hacker News

• https://archive.is/LpDuJ

• Toute cette affaire est une étude de cas intéressante sur le pouvoir nominal et le pouvoir réel.
  Sur le papier, le conseil d’administration détient l’autorité, surveille la direction et a pour rôle de recruter et de révoquer les dirigeants, mais en pratique il dépend de la direction pour l’information.
  Le pouvoir réel se trouve là où un investisseur détient la moitié, où les fondateurs pilotent la roadmap et où ils ont aussi une influence sur le départ ou non des talents clés.

  • Dans ce cas, la position du conseil d’administration d’OpenAI était encore bien pire.
    L’entreprise étant en fait une combinaison de chercheurs, d’ingénieurs et de crédits Microsoft Azure, on peut remplacer le CEO, mais si cela ne leur plaît pas, toute la valeur de l’entreprise peut sortir par la porte.
  • Le conseil a tout simplement plié.
    Ce n’étaient pas les bonnes personnes pour cette mission, et s’ils avaient tenu un peu plus longtemps et mieux préparé leur stratégie de communication, ils auraient gagné.
  • Plus précisément, c’est la différence entre pouvoir fondé sur le statut et pouvoir fondé sur les relations.
  • Cela me rappelle une réplique de A Song of Ice and Fire.

    Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”
    
    “So power is a mummer’s trick?”
    
    “A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”  
    

• Ce récit semble assez vraisemblable, mais il donne aussi l’image d’un conseil incompétent et incapable de gérer un affrontement.
  Il existait des options comme une contestation formelle, un renforcement de la supervision, le transfert de certaines responsabilités de Sam à quelqu’un d’autre, ou des avertissements sur des actions en justice ; à la place, ils ont tenté un coup de force secret, ce qui a fini par donner à Sam l’apparence de la partie vulnérable.

  • Il me semble qu’il y a là une incompréhension fondamentale du rôle d’un conseil d’administration.
    On dit souvent qu’un conseil d’administration d’entreprise a en réalité une seule mission : nommer et révoquer le CEO.
    C’est peut-être un peu exagéré, mais l’idée centrale est que les choses tournent mal quand le conseil s’immisce dans les décisions de la direction.
    Si les décisions ne lui plaisent pas, il doit remplacer le CEO, et c’est là que se situe son autorité.
    Je ne vois pas à qui serait adressée une « contestation formelle ».
    Le conseil est l’autorité finale, donc on ne voit pas bien auprès de qui il déposerait une réclamation.
    « Transférer les responsabilités de Sam à quelqu’un d’autre » serait aussi considéré par n’importe quel spécialiste de la gouvernance d’entreprise comme une recette pour le désastre, et ce n’est même pas possible dans la hiérarchie de l’entreprise.
    J’ai dit à plusieurs reprises que la manière dont le licenciement d’Altman a été géré était très naïve et que la communication à l’époque était catastrophique, mais je ne vois pas non plus en quoi c’était une sorte de « coup d’État », et les réponses proposées n’ont aucun sens.
  • J’ai souvent vu l’expression « coup d’État », mais elle est difficile à justifier.
    Ce sont le conseil d’administration, et recruter ou révoquer le CEO fait partie de ses missions essentielles.
    Dans une organisation à but non lucratif, maintenir l’alignement avec la mission en fait tout autant partie.
  • Une « contestation formelle » auprès de qui ?
    Le conseil lui-même est l’autorité finale qui a le pouvoir d’enquêter et d’agir.
    Si ses membres ont des inquiétudes, ils agissent ou n’agissent pas ; il n’y a personne d’autre à qui transférer la responsabilité.
  • Si vous vous méfiez à ce point de quelqu’un au point de devoir lui passer une camisole de force métaphorique pour qu’il se comporte correctement, je ne vois pas l’intérêt de le garder comme CEO.
    Et s’il a une tendance à la vengeance, il peut faire bien plus facilement des dégâts en conservant du pouvoir en interne.
  • Dans les relations personnelles, le conseil standard face à une personne abusive est de partir.
    En général, il est irréaliste d’espérer pouvoir la changer.
    Pourquoi la même logique ne s’appliquerait-elle pas à une relation d’affaires qui suppose la confiance ?

• Le fait de n’avoir presque prévenu personne à l’avance visait à protéger le conseil des manœuvres d’Altman, mais cela l’a finalement placé dans une position indéfendable.
  Ils se sont retrouvés à se battre seuls contre des personnes très riches et très bien connectées, sans même disposer d’un récit à présenter.

  • J’ai l’impression qu’un simple communiqué de presse aurait peut-être complètement changé l’issue.
    Un conseil d’administration devrait quand même être capable de se mettre d’accord en interne sur un communiqué, non ?
  • Le point essentiel, c’est qu’après avoir fait cela, ils n’ont pas été capables d’expliquer publiquement pourquoi.
    Si l’on entreprend une telle action, il faut avoir tout préparé et être prêt à la défendre.

• Il est dit qu’ils ont « choisi très prudemment et avec beaucoup de soin qui informer, et qu’à l’exception de l’équipe juridique, ils n’ont en fait presque prévenu personne à l’avance » ; mais si le risque de fuite les inquiétait à ce point, n’auraient-ils pas dû au moins préparer, pour le jour J, des éléments de briefing destinés aux principaux investisseurs, à savoir Microsoft ?
  C’était d’autant plus nécessaire s’ils n’avaient pas réussi à convaincre à l’avance les principaux investisseurs, en pratique leurs supérieurs.

  • Dans ce cas, les principaux investisseurs ne sont pas les supérieurs du conseil.
    C’est parce qu’OpenAI est une organisation à but non lucratif.
    Microsoft a intérêt à agir contre les objectifs de la charte à but non lucratif, et c’est bien ce qu’elle a fait cette fois aussi.

• Tous les éléments indiquent qu’Altman a menti et joué double jeu.
  À leur place, je l’aurais licencié aussi.

  • Vous parlez de celui qui a refusé des ordres gouvernementaux et n’a pas arrêté de scanner les yeux des gens en échange de shitcoins, au point de se faire expulser de deux pays ?
    Lui, menteur et double ?

• Ce qui reste étrange, c’est la façon dont le conseil l’a fait revenir
  Sous aucun angle ça ne se comprend
  Il est très clair qu’il a menti et manigancé, et je ne vois pas pourquoi cela a posé problème
  Une fois limogé, il n’avait plus d’autorité
  Si une autre entreprise voulait l’embaucher, qu’elle le fasse ; et s’il se contentait de débiter des choses plausibles sur Twitter, il n’y avait pas à s’en soucier
  Si les employés menaçaient de partir, il fallait les laisser partir
  Je pense qu’une bonne partie d’entre eux ne seraient pas réellement partis, et même s’ils l’avaient fait, il aurait suffi de recruter de nouveau et de trouver un vrai CEO
  Les employés qui seraient restés étaient très probablement ceux qu’il fallait retenir
  Alors pourquoi l’avoir réembauché, puis avoir démissionné ? N’aurait-il pas suffi de démissionner en le laissant licencié ?
  Je ne comprends pas non plus pourquoi Microsoft se souciait autant d’Altman
  Ils n’avaient même pas de siège au conseil, donc c’était comme ça, et ils n’auraient pas dû avoir d’influence
  S’ils veulent OpenAI, qu’ils l’achètent
  Je ne vois pas non plus quelle valeur Microsoft pouvait tirer du fait de faire venir Altman chez eux
  Rien n’a de sens
  Ce qui est le plus évident, au contraire, c’est le mode de comportement négatif d’Altman
  Je me souviens de lui proclamant haut et fort, en jouant les innocents, qu’il n’avait pas de participation dans OpenAI
  Bien sûr, il faudrait donc croire qu’un investisseur en capital-risque expérimenté a structuré sa nouvelle entreprise de façon à n’en tirer absolument aucun avantage financier
  Dans une autre ligne temporelle, OpenAI l’aurait limogé, aurait nommé un CEO par intérim, puis aurait ignoré tout le bruit ambiant et recruté un nouveau CEO, et tout aurait très bien fonctionné
  Je ne comprends pas pourquoi Microsoft et les autres ont fait un tel vacarme, ni pourquoi le conseil a publié un communiqué de presse aussi mystérieux alors qu’il aurait pu fournir des détails
  Même en envisageant les possibilités conspirationnistes, ça ne se comprend pas
  On a l’impression qu’aucune des personnes impliquées, Satya Nadella compris, ne savait ce qu’elle faisait

  • Tu as déjà donné la réponse, tout en l’écartant
    Le conseil a accepté le retour de Sam Altman à cause d’une énorme épreuve de force : plus de 90 % des employés menaçaient de démissionner, et Microsoft, qui détenait la propriété intellectuelle d’OpenAI, proposait de les embaucher tous immédiatement
    Cela incluait aussi les principaux dirigeants de l’entreprise
    L’organisation était en train de se défaire du jour au lendemain, et on était très au-delà du seuil de “quelques employés mécontents pourraient partir”
    Il n’y aurait plus eu d’OpenAI à gérer
  • Dans quel état cela laisse-t-il le conseil actuel, alors ?
    Le CEO n’a présenté ni excuses ni reconnaissance de responsabilité, et même s’il l’avait fait, entraver activement la supervision du conseil est clairement une ligne rouge
    Comment le conseil peut-il remplir son rôle avec un CEO qui a montré qu’il ne fournirait même pas les informations nécessaires à l’exercice de ses fonctions ?
    Tant que ce CEO reste en position de bloquer l’accès à l’information, le conseil n’a aucune crédibilité
  • Entièrement d’accord
    Je ne m’intéresse pas du tout à OpenAI ni aux membres de son conseil, mais j’ai vu trop d’incompétence dans la seule chose que le conseil devait au minimum faire correctement : embaucher et licencier
    Rien que pour ça, je pense que la refonte du conseil était une bonne chose
    Peu importe qui l’on soutient dans cette affaire
  • Microsoft a besoin d’une version vendue d’OpenAI
    Parce que cela permettrait de gagner autant d’argent que possible, sans personnes agaçantes pour parler d’éthique et de sécurité
  • Selon Helen Toner, les avocats d’OpenAI lui auraient dit que si l’entreprise perdait beaucoup d’argent parce qu’ils continuaient à l’exclure, Toner et les autres membres du conseil pourraient en être tenus personnellement responsables

• C’est amusant que le CEO de l’entreprise la plus proche de l’AGI soit très intelligent, mais présente clairement un problème d’alignement

• L’explication de Toner sur les raisons de l’éviction de Sam a quelque chose qui sonne vrai
  Ça se tient
  Quoi qu’on pense de Sam personnellement, à sa place j’aurais probablement pris la même décision
  Le fait qu’un CEO mente au conseil à plusieurs reprises et le trompe est une ligne rouge assez sérieuse

  • Cela ressemble aussi aux raisons pour lesquelles Sam a été écarté de Y Combinator
    Ce n’est pas nouveau ; quand de l’argent est en jeu, la mémoire des gens devient aussi floue que leur sens moral

• C’est ironique de voir des gens se précipiter pour défendre Sam Altman sur le forum de Y Combinator
  YC l’a aussi écarté d’un rôle de direction exécutive pour des raisons similaires

  • Mon avis sur Altman est le même que lors de la publication progressive de GPT-2 pour des raisons de sécurité
    Quelle que soit la réalité, le mieux est de supposer le pire et de disposer de systèmes et procédures capables de gérer la possibilité que ce pire soit réel
  • Pour ceux qui sont là depuis assez longtemps pour avoir vu à la fois le début et la fin de Loopt, c’est du bon sens parfaitement banal
    Altman est un sociopathe de type triade noire dont la seule compétence monnayable est, comme l’a dit pg, de devenir “powerful”
    Il ne sait pas coder, ne sait pas concevoir, ne publie pas d’articles, ne peut pas gravir l’échelle hiérarchique d’une entreprise traditionnelle dotée du moindre dispositif antifraude, et ne peut pas non plus retirer la main du pot à biscuits
    En revanche, il sait mentir, menacer, amadouer, manipuler et corrompre sans hésitation ni remords
    Cela fait dix ans que je parie contre cette absurdité, ce qui ne m’a pas aidé à rester solvable, mais quand le marché redevient rationnel, il le fait généralement d’un seul coup
    Karpathy, Ilya, Yoon me viennent immédiatement à l’esprit, et il y en a d’innombrables autres
    LeCun s’est récemment montré franchement agressif sur X
    On a l’impression que des insiders prennent des positions short comme Goldman face à Burry
    Il a neuf vies : il a déjà été viré environ trois fois pour des problèmes relevant de la fraude, et il continue pourtant à vivre ainsi ; peut-être tiendra-t-il finalement assez longtemps pour mettre de l’Ice Nine dans mon verre
    Mais ce genre de chose ne peut pas se répéter indéfiniment
  • Ce n’est pas vrai : https://twitter.com/paulg/status/1796107666265108940
  • L’affaire concernant sa sœur a-t-elle été résolue ?
  • Tu as écrit “a été limogé”, mais j’ai essayé de trouver sur Google une source précise et fiable, sans succès
    Le mieux que j’aie trouvé, c’est quelque chose du genre : “Altman aurait été écarté de la présidence de YCombinator parce qu’il privilégiait ses propres intérêts”
    Le point clé ici est le mot “allegedly”
    Existe-t-il un communiqué de presse de YC ou l’explication d’un insider sur son licenciement ? Sinon, ce n’est qu’une rumeur
    Pour être clair, je n’écris pas cela pour défendre Altman ou YC