Sam Altman revient comme CEO d’OpenAI et un nouveau conseil d’administration initial est constitué
(openai.com)- OpenAI comble son vide de leadership en faisant revenir Sam Altman comme CEO et en réinstallant Mira Murati au poste de CTO et Greg Brockman à celui de President
- Le nouveau conseil d’administration initial démarre avec Bret Taylor comme président, Larry Summers et Adam D’Angelo, tandis qu’Ilya Sutskever quitte le conseil
- Les priorités à court terme de l’entreprise portent sur l’avancement de la feuille de route de recherche, l’investissement dans la sécurité full-stack, l’amélioration et le déploiement des produits, le support client, l’élargissement du conseil et l’amélioration de la gouvernance
- Microsoft rejoindra le nouveau conseil comme observateur sans droit de vote, et un comité indépendant sera aussi mis en place pour examiner les récents événements
- Dans la mise à jour du 8 décembre 2023, Bret Taylor et Larry Summers prennent en charge le comité de supervision de l’examen et choisissent Anjan Sahni et Hallie B. Levin de WilmerHale
Retour de la direction et conseil d’administration initial
- Sam Altman revient comme CEO d’OpenAI
- Mira Murati reprend son rôle de CTO
- Greg Brockman revient comme President
- Le nouveau conseil d’administration initial est composé de 3 personnes
- Bret Taylor, président
- Larry Summers
- Adam D’Angelo
Ancien conseil d’administration et principales personnes concernées
- Ilya Sutskever ne siège plus au conseil d’administration
- Altman souhaite continuer à travailler avec Ilya et discute d’une manière pour lui de poursuivre ses travaux chez OpenAI
- Adam D’Angelo fait partie du nouveau conseil d’administration initial
- Tasha McCauley et Helen Toner sont citées comme des personnes ayant fourni d’importants efforts dans le processus ayant mené à une solution
- Emmett Shear est décrit comme ayant joué un rôle essentiel et constructif pour parvenir à ce résultat, avec un engagement évident en faveur de la sécurité de l’IA et de l’équilibre entre les parties prenantes
Message aux employés, partenaires et clients
- Altman déclare que l’équipe d’OpenAI a fait preuve de résilience et de force d’esprit dans une situation floue et sans précédent
- Il indique qu’il n’y a eu aucun départ d’employé pendant cette période
- OpenAI indique n’avoir perdu aucun client
- Satya, Kevin, Amy et Brad de Microsoft sont mentionnés comme des partenaires restés aux côtés d’OpenAI avec les bonnes priorités
- Altman déclare que le partenariat avec Microsoft était le bon choix
- Microsoft devrait rejoindre le nouveau conseil comme observateur sans droit de vote
Priorités immédiates d’OpenAI
- La première priorité est de faire avancer le programme de recherche et d’investir davantage dans les efforts de sécurité full-stack
- Altman affirme que la feuille de route de recherche est claire
- Ce travail sera mené avec Mira Murati
- La deuxième priorité est de continuer à améliorer et déployer les produits, et à accompagner les clients
- OpenAI juge important que les gens aient l’occasion de découvrir et de façonner les bénéfices et les possibilités de l’IA
- Altman indique qu’il clarifiera, avec Brad, Jason et Anna, les engagements envers les utilisateurs, les clients, les partenaires et les gouvernements du monde entier
- La troisième priorité est d’élargir le conseil, d’améliorer la structure de gouvernance et de mener un examen indépendant des événements récents
- Bret Taylor, Larry Summers et Adam D’Angelo seront chargés de constituer un conseil d’administration aux points de vue variés
- Il s’agit d’une étape destinée à garantir la confiance dans la stabilité d’OpenAI
Plan de gouvernance de Bret Taylor, président du conseil d’administration
- Le conseil d’administration d’OpenAI se concentre sur le renforcement de la gouvernance d’entreprise de la société
- Il prévoit de constituer un conseil qualifié et diversifié, doté d’expériences représentatives de l’étendue de la mission
- Le périmètre inclut la technologie, la sécurité et les politiques publiques
- Un observateur sans droit de vote de Microsoft devrait en faire partie
- La stabilisation de l’organisation fait également partie du plan
- Un comité indépendant du conseil est convoqué pour superviser l’examen des récents événements
- Le conseil prévoit d’améliorer la structure de gouvernance afin que les utilisateurs, clients, employés, partenaires et membres de la communauté puissent avoir confiance dans la croissance continue d’OpenAI
Rôle de ChatGPT et d’OpenAI
- Bret Taylor déclare qu’OpenAI est devenue une institution plus importante qu’auparavant
- ChatGPT joue un rôle en intégrant l’intelligence artificielle dans le quotidien de centaines de millions de personnes
- La popularité de ChatGPT place les bénéfices et les risques de l’IA au cœur des discussions sur l’avenir des gouvernements, des entreprises et de la société
- Le conseil d’administration d’OpenAI reconnaît le poids de ces discussions et le rôle central d’OpenAI dans le développement et la sécurité des nouvelles technologies
Mise à jour du 8 décembre 2023
- Le conseil d’administration d’OpenAI a convoqué un comité composé de Bret Taylor et Larry Summers pour superviser l’examen des récents événements
- Ce comité a interviewé plusieurs grands cabinets d’avocats susceptibles de mener l’examen
- Il a finalement retenu Anjan Sahni et Hallie B. Levin de WilmerHale
- Le conseil poursuit les travaux suivants pendant que l’examen est en cours
- Renforcer la gouvernance d’entreprise d’OpenAI
- Constituer un conseil qualifié et diversifié
- Superviser la mission d’OpenAI visant à faire en sorte que l’intelligence artificielle générale bénéficie à toute l’humanité
1 commentaires
Avis de Hacker News
On ne sait toujours pas à quoi Sam faisait réellement référence, mais je pense que ce qu’il a dit la veille de son licenciement a pu être la cause des tensions.
Il a dit s’être retrouvé plusieurs fois dans l’histoire d’OpenAI à « repousser le voile de l’ignorance et faire avancer la frontière de la découverte », et a présenté le travail actuel comme s’il s’agissait du plus grand bond technologique.
À la question de savoir quelle chose surprenante l’entreprise annoncerait l’an prochain, il a aussi répondu que les « capacités des modèles feraient un bond à un niveau que personne n’avait anticipé », et que l’écart serait important entre l’amélioration des modèles à laquelle les gens s’attendent l’an prochain et le changement réel.
En même temps, je peux l’imaginer. Ce serait quelque chose de similaire à l’usage actuel de ChatGPT, mais qui mène réellement le travail jusqu’au bout. Aujourd’hui, avec ChatGPT, il faut refaire presque tout le travail produit, donc le gain de temps est limité, mais cela élargit la perspective.
Le conseil devait déjà être au courant des progrès réalisés, donc ces déclarations publiques ne collent pas vraiment non plus avec l’idée qu’il n’aurait pas été « franc ».
https://www.theverge.com/2023/11/29/23982046/sam-altman-inte...
C’était une interview assez intéressante. C’est amusant de voir qu’il utilise la méthode des politiques qui refusent de répondre aux questions sous prétexte d’une enquête ; comme le conseil d’administration a dit qu’il n’avait « pas toujours été franc » et qu’il n’y a toujours pas de réponse claire à la première question, « pourquoi a-t-il été licencié ? », on ne peut qu’être d’accord avec le jugement initial.
Personnellement, je ne sais pas trop si l’on peut faire confiance à quelqu’un qui voulait créer une cryptomonnaie intégrant un scan des yeux de tout le monde.
On ne sait toujours pas clairement quelles étaient les accusations contre Altman. Était-il question d’avoir pris les questions de sécurité à la légère ? Si c’est bien l’accusation et qu’elle est fondée, je ne comprends pas pourquoi son renvoi aurait été une erreur, ni pourquoi les employés demandent son retour.
Là où ils se sont vraiment plantés, c’est qu’ils n’ont pas su, ou pas voulu, présenter cet argument de façon convaincante.
Il a révélé jusqu’où allaient réellement son pouvoir et sa capacité de persuasion face à Altman, à l’attrait des gains, à la force d’une organisation qui fait tourner le quotidien de manière stable et claire sans conseil d’administration militant et opaque, etc.
Ou alors il savait déjà que les employés n’étaient pas de son côté et, faute d’autre option, espérait qu’une éviction soudaine et spectaculaire du CEO forcerait tout le monde à suivre.
Si un CEO semble bien faire son travail et qu’il est brutalement licencié sans raison claire, moi aussi je serais assez inquiet. Si le conseil avait expliqué ses motifs et ses preuves, certains employés l’auraient peut-être écouté, mais il ne l’a pas fait, et jusqu’à présent on ne sait toujours pas quelles étaient les accusations réelles.
Vu de l’extérieur, cela ressemble à un coup d’État raté, et ceux qui l’ont tenté ne donnent aucune explication.
https://nitter.net/hlntnr/status/1730034022737125782#m
Il y a aussi un contexte intéressant qui donne une idée de ce qui s’est passé : https://nitter.net/labenz/status/1727327424244023482#m
Je trouve vraiment déroutant que les gens aient réagi comme si on avait viré Michael Jordan des Bulls.
J’échangeais des emails avec Bret Taylor quand il était encore chez Google. Il avait créé Notable, une application Windows que j’utilisais tous les jours pour prendre des notes, et j’ai fini par y contribuer moi aussi.
C’est intéressant de voir son parcours, de chef de produit chez Google à co-CEO de Salesforce, puis aujourd’hui président du conseil d’administration d’OpenAI. Il a aussi été président du conseil de Twitter avant Elon.
Je ne sais pas comment interpréter le fait qu’Ilya ne soit plus au conseil d’administration, ni le fait qu’il ne soit pas inclus dans le « Leadership group » du communiqué.
« Je suis vraiment impatient de finir avec vous le travail consistant à créer une AGI bénéfique — la meilleure équipe du monde, la meilleure mission du monde. »
Sam Altman vit dans un monde très différent du mien.
A-t-on appris davantage sur la raison pour laquelle il a été licencié au départ ?
Comme plusieurs options peuvent être choisies comme bonnes réponses, la somme des probabilités ne semble pas faire 100 %
Sans vouloir critiquer Sam, j’ai l’impression que peu de gens savent que la personne qui a réellement créé la vision d’OpenAI était en fait Greg. Il suffit de lire son blog
Greg est quelqu’un de posé, qui ne crée pas de drame, et il a probablement recruté Sam en sachant que c’était un excellent communicant et dirigeant. Cela dit, la personne de l’équipe qui semble vraiment posséder le génie et l’acharnement les plus rares est Greg, et il est un peu regrettable de le voir réussir à rester continuellement hors des projecteurs
Ce qui rend cette affaire difficile à lire et à suivre, c’est la grande vision morale et les différents degrés de foi naïve qu’elle suscite
Qu’il s’agisse d’Ilya, de Sam ou du conseil, leur discours est rempli de notions comme l’alignement et le bénéfice pour l’humanité
Dans le même temps, toutes les parties impliquées sont de sérieux poids lourds qui surfent sur la vague de l’IA et cherchent à construire des douves, un monopole, le prochain AdWords ou le prochain Azure
Ces deux vocabulaires sont si radicalement différents qu’il est difficile de les relier, et on a l’impression que deux conversations aux prémisses totalement différentes se déroulent en même temps. Résultat, tout le monde finit par supposer qu’au moins quelqu’un est complètement de mauvaise foi
« L’alignement de l’IA » est un sujet très séduisant, mais le problème d’alignement moins futuriste et plus concret est celui de l’alignement entre Microsoft, OpenAI, les autres investisseurs et les membres du consortium
Si Ilya, Sam et les autres s’inquiètent réellement de l’alignement d’une superintelligence, ils devraient au minimum accorder du poids à l’idée que nous nous inquiétions tous de leur alignement humain
Et en fait, il est difficile de croire qu’il existe de vrais altruistes. Surtout s’ils sont riches. S’ils étaient vraiment altruistes, ils auraient déjà donné toute leur fortune avant de mourir. Même l’argent placé dans une « fondation caritative » après leur mort, je doute qu’on puisse vraiment le considérer comme tel
À cause de cette affaire, notre petite équipe a essayé une instance GPT-3.5 d’Azure, et, étonnamment, c’est 20 fois plus rapide
Il n’y a pas non plus les requêtes serveur sans réponse que nous rencontrions trop souvent avec l’API OpenAI. Nous avons enfin quelque chose d’assez rapide et stable pour être réellement utilisable. Le prix est plus élevé, mais bon sang, ça fonctionne vraiment
Pour être honnête, l’API Azure était aussi instable hier
Il y a aussi les coûts d’entrée et de sortie de données, mais de toute façon, pour la plupart des gens, les coûts liés à l’IA seront sans doute bien plus élevés