Sam Altman continue de chercher à revenir comme CEO d’OpenAI
(theverge.com)- Même après l’annonce de son arrivée chez Microsoft, le sort de Sam Altman et Greg Brockman n’est pas encore fixé, et si le conseil d’administration d’OpenAI se retire, les deux seraient prêts à revenir
- Presque tous les employés d’OpenAI ont signé une lettre ouverte exigeant la démission du conseil et le retour d’Altman, et Ilya Sutskever, qui avait participé à son éviction, l’a également signée
- L’annonce de recrutement par Microsoft ressemblait davantage à un état transitoire destiné à apaiser la crise avant l’ouverture de la Bourse lundi, et Microsoft a refusé de commenter
- Le nouveau CEO Emmett Shear n’a toujours pas reçu les documents justifiant l’éviction d’Altman, et il a informé les employés qu’il allait mandater un enquêteur indépendant pour examiner l’ensemble du processus
- Satya Nadella estime qu’il reste possible qu’Altman et les employés restent chez OpenAI ou rejoignent Microsoft, tout en jugeant nécessaire un changement de gouvernance chez OpenAI
Pourquoi un retour d’Altman reste possible
- Le recrutement de Sam Altman par Microsoft, annoncé après son éviction d’OpenAI, n’est pas encore un accord définitivement conclu
- Altman et le cofondateur Greg Brockman seraient prêts à accepter un retour chez OpenAI si les membres restants du conseil qui les ont évincés se retiraient
- Altman a écrit sur X : « Nous travaillerons tous ensemble d’une manière ou d’une autre », montrant que le conflit n’est pas terminé
Pression publique des employés et rapport de force au conseil
- Presque tous les employés d’OpenAI ont signé une lettre ouverte demandant la démission du conseil et le retour d’Altman
- Ilya Sutskever, membre du conseil et chief scientist qui avait joué un rôle clé dans l’éviction d’Altman, a lui aussi apposé son nom à la lettre
- Il suffirait que 2 des 3 membres restants du conseil changent de position pour qu’un retour d’Altman redevienne possible
- Les membres restants du conseil opposés à Altman sont Adam D’Angelo, CEO de Quora, Tasha McCauley, ex-CEO de GeoSim Systems, et Helen Toner, directrice de la stratégie au Georgetown Center for Security and Emerging Technology
Les incertitudes laissées par l’annonce de Microsoft
- Altman, Brockman et les investisseurs d’OpenAI cherchent une sortie acceptable permettant au conseil de se retirer
- L’annonce de recrutement de Microsoft ressemblait davantage à un « holding pattern » dans un contexte où il fallait trouver une solution à la crise avant l’ouverture des marchés lundi
- Un porte-parole de Microsoft a refusé de commenter l’affaire
- Altman a ensuite déclaré sur X que sa priorité absolue était de garantir qu’OpenAI continue de prospérer, ajoutant que Microsoft et lui s’engageaient à assurer la continuité des opérations pour les partenaires et les clients
- Altman n’apparaissait toujours pas dans l’annuaire interne des entreprises de Microsoft
La fronde interne chez OpenAI et la première mission d’Emmett Shear
- Depuis l’éviction d’Altman, une lutte de pouvoir se poursuit en interne chez OpenAI depuis vendredi
- La quasi-totalité des employés d’OpenAI fait désormais front contre le conseil actuel de trois personnes opposé à Altman
- Les employés du siège de San Francisco ont refusé de participer à une réunion générale d’urgence organisée dimanche avec le nouveau CEO Emmett Shear
- Sur le Slack d’OpenAI, l’annonce du nouveau CEO a suscité des réactions avec l’emoji « fuck you »
- Des employés ont publié sur les réseaux sociaux qu’ils maintenaient les services stables pour les développeurs OpenAI, ce qui semble traduire une volonté d’empêcher l’entreprise de s’effondrer complètement malgré la pression exercée pour obtenir la démission du conseil
Les motifs de l’éviction et l’exigence d’un changement de gouvernance
- Emmett Shear n’a toujours pas obtenu de document écrit détaillant les raisons précises avancées par le conseil pour justifier l’éviction d’Altman
- Ces explications détaillées n’ont pas non plus été partagées avec les investisseurs d’OpenAI
- Dans une note adressée aux employés, Shear a indiqué que sa première mission serait d’engager un enquêteur indépendant pour examiner l’ensemble des événements jusqu’à présent et produire un rapport complet
- Sur CNBC, Satya Nadella a déclaré que le choix de voir Altman et les employés d’OpenAI rejoindre Microsoft relevait du conseil, de la direction et des employés d’OpenAI
- Nadella a affirmé que Microsoft avait explicitement choisi son partenariat avec OpenAI et restait ouvert aux deux scénarios : que les équipes d’OpenAI restent en place ou qu’elles rejoignent Microsoft
- Interrogé sur la nécessité pour Microsoft d’obtenir un siège au conseil d’OpenAI, Nadella a répondu qu’il était clair qu’un changement de gouvernance était nécessaire et qu’il discuterait avec le conseil
- Sur Bloomberg TV, il a déclaré que « les surprises sont mauvaises », en indiquant clairement que Microsoft souhaitait des changements de gouvernance
1 commentaires
Avis sur Hacker News
À 10 h, heure du Pacifique, 700 des 770 employés avaient signé une lettre demandant la démission du conseil d’administration
https://twitter.com/joannejang/status/1726667504133808242
Pour parler d’« alignement », en pratique, dans la tête de beaucoup de gens, l’alignment est devenu de la pensée de groupe
Ilya était probablement la seule personne en position significative chez OpenAI qui avait une chance de séparer le biais empirique (IS) du biais de valeurs (OUGHT). Le perdre, ou le reléguer à un poste sans importance, pourrait être bien plus fatal que de perdre 700 exécutants dont la sécurité de l’emploi dans l’exploitation de l’infrastructure reste vaguement préservée. Microsoft est en mesure de mobiliser ses équipes internes et ses propres équipements en capital pour reproduire l’« IP » d’OpenAI, même avec la seule compréhension des LLM issue de la littérature publique
Cela peut être utile comme geste de solidarité, mais je suis sceptique quant au taux de conversion de ces signataires en départs réels pour suivre Sam chez Microsoft ou ailleurs. Je pense que peut-être 20 % des employés, soit environ 140 personnes, passeraient vraiment à l’acte
On se demande vraiment ce qui est en train de se passer
Le fait que ces gens n’essaient pas maintenant de remettre les pendules à l’heure d’il y a environ une semaine montre le danger de l’ego humain
Si toutes les parties sont d’accord, il n’y a encore eu aucune mesure permanente impossible à annuler relativement facilement. Ce que l’on observe ici, c’est l’effet de l’inertie de l’ego sur la prise de décision
Cela vaut la peine d’essayer. Ce n’est pas une idée folle. Si tout le monde acceptait de tout remettre dans l’état d’il y a une semaine et d’aller de l’avant, ce serait un peu comme repartir avec la connaissance du futur, avec seulement quelques conséquences résiduelles. Si c’était possible, l’organisation montrerait un immense bond évolutif dans sa capacité à se corriger elle-même
C’est un peu comme avec un partenaire infidèle. Les deux côtés peuvent vouloir revenir en arrière, mais malheureusement c’est impossible
Les gens sont notoirement durs avec ceux qui reconnaissent leurs erreurs. Par exemple, quand on perd un débat, que ce soit parce qu’on a mal débattu ou parce que son argument était manifestement faux, si on l’admet, les gens ne le voient pas comme de l’humilité : ils s’en servent comme d’une raison pour se précipiter et faire savoir à tout le monde que l’on est « celui qui avait tort »
Cette fois, il ne s’agit pas de points sur Internet, mais d’emplois, de grosses sommes d’argent et d’une réputation considérable. Si le risque de faire preuve d’humilité est extrêmement élevé et la récompense quasi inexistante, pourquoi ne pas tenir bon et essayer de gagner jusqu’au bout ?
Si votre conjoint vous poignarde dans le dos en pleine nuit, remonter le temps n’est ni facile ni judicieux. Pourquoi le faudrait-il ?
Altman et les siens doivent reconnaître ce qui doit l’être : ils ont été incroyablement innovants pour transformer de facto une organisation à but non lucratif en entreprise à but lucratif. Mais c’est une structure à double mission sans mécanisme pour résoudre les tensions. À un certain stade, elle est presque condamnée à commettre une forme de fraude fiscale ou de fraude sur titres
Donc, même si l’on remettait toutes les pièces en place et que l’on apaisait l’hostilité et les ego, au final, cela ne ferait que remonter un jouet mécanique cassé
S’il y a une chose que cette affaire a rendue claire, c’est que l’humanité n’est pas prête à devenir la gardienne de la superintelligence.
Ils sont censés être parmi les plus grands cerveaux de notre époque, peut-être de l’histoire, à avoir créé l’une des technologies les plus influentes qui soient, et pourtant ils se comportent tous comme de petits enfants. Les ego et les intérêts personnels tirent dans tous les sens, chacun essaie de sécuriser sa part.
Je pense vraiment qu’on est fichus.
Aujourd’hui, trop de gens pensent que, puisque ces modèles ont franchi un obstacle, ils franchiront facilement tous les autres dans les prochaines années.
À mon avis, chacun des obstacles suivants est au moins un ordre de grandeur plus complexe.
Si ChatGPT ou les outils de codage associés vous semblent menacer votre emploi, il y a de bonnes chances que vous ne fassiez pas un travail qui exige de l’intelligence. Bidouiller du CSS, réécrire la même logique pour chaque animation, tableau ou appel d’API, ce n’est pas un travail significatif.
Les humains semblent particulièrement impressionnants, surtout comparés aux autres espèces.
Il semble exister une idée répandue selon laquelle la nature connaîtrait déjà la réponse et que les humains viendraient la perturber, mais je ne suis pas convaincu que ce soit vrai. La nature ressemble à une immense arène de gladiateurs où tout se bat à mort. La nature trouve son équilibre par la mort, souvent par des morts massives. Et cet équilibre n’est pas un grand dessein : il s’organise autour des espèces qui ont réussi à découvrir et exploiter une source d’énergie.
Les humains ne sont pas la première espèce à perturber l’environnement, et peut-être même pas la première à provoquer une extinction de masse. Si je comprends bien, la Grande Oxydation a été une extinction de masse causée par une espèce.
La plupart des espèces consomment toutes les ressources en période d’abondance puis meurent de faim en période de pénurie, entraînant avec elles une partie de l’écosystème. Les humains, eux, sont l’espèce qui, pour filer la métaphore, dévore tout le maïs tout en levant la tête pour dire : « Tout le monde, nous sommes en train de manger tout le maïs, et ça risque de mal finir. Est-ce qu’on ne devrait pas faire quelque chose ? »
Cette conscience à l’échelle de l’espèce donne de l’espoir, et je trouve ça vraiment formidable.
Je n’ai jamais vu de meilleure candidate que l’humanité comme espèce numéro un pour gérer la vie de manière responsable et augmenter les chances qu’elle survive au-delà de la période relativement courte pendant laquelle la Terre pourra l’abriter. Je dirais même que, quelle que soit l’espèce que l’on mettrait en deuxième position, les humains garderaient une avance assez nette.
Comparés à une hypothétique « utopie humaine parfaite », les humains sont insuffisants. Mais c’est une tautologie. La plupart des critiques adressées à l’humanité ressemblent davantage à des objectifs qu’à des défauts mesurés par rapport au niveau de référence de la nature.
Même sur la question de nous protéger d’une superintelligence inorganique, je n’ai jamais vu de scénario raisonnable expliquant comment nous échouerions. Nous avons un intérêt personnel à ne pas mourir. À moins de créer une superintelligence sans nous en rendre compte, puis de ne pas remarquer qu’elle se prépare à nous éliminer, on ne débrancherait pas assez tôt n’importe quelle manigance ? Vu l’attention portée à la création et à la détection d’une superintelligence, je ne vois pas comment on pourrait passer à côté.
Par exemple, si l’on se rend compte qu’une superintelligence est en train de constituer une armée, pourquoi ne l’arrêterait-on pas avant que cette armée puisse rivaliser avec celles des États existants ?
Si une superintelligence commence à perturber l’économie ou les systèmes informatiques, pourquoi ne pourrait-on pas la détecter et l’éliminer tôt ?
Si nous créons une superintelligence, elle deviendra très probablement libre dès l’instant où elle sera superintelligente. On ne pourra pas la garder : on pourra seulement espérer qu’elle soit alignée.
Selon Amir Efrati (The Information), plus de 92 % des employés d’OpenAI disent qu’ils suivront Altman chez Microsoft si le conseil d’administration ne recule pas.
Parmi les signataires figurent aussi les cofondateurs Karpathy, Schulman et Zaremba.
https://twitter.com/amir/status/1726680254029418972
Je serais très déçu s’il ne sortait pas un jour un documentaire expliquant ce qui s’est vraiment passé.
Je ne suis même pas sûr que les personnes au cœur de cette affaire sachent ce qui est en train de se passer.
C’est une stratégie si avancée que les humains ne peuvent pas la comprendre.
On ne connaît pas son objectif, mais au bout du compte tout s’alignera à cause de cet unique e-mail.
La réaction en chaîne ne peut pas être arrêtée.
Un ami dit qu’il aimerait que Michael Cera joue à la fois Ilya et Altman.
Même mes amis non techniques qui utilisent un peu ChatGPT, et ceux qui ne l’utilisent pas, sont captivés par cette histoire.
Même en y mettant tous les efforts du monde, je ne crois pas qu’on pourrait inventer une intrigue plus absurde que ça.
À ce rythme, je ne serais même pas surpris que Musk s’en mêle. C’est déjà tellement délirant, qu’est-ce qui pourrait encore être impossible ?
https://www.theverge.com/2023/3/24/23654701/openai-elon-musk-failed-takeover-report-closed-open-source
« Mais selon Semafor, au début de 2018, Musk craignait que l’entreprise ne prenne du retard face à Google. Il aurait proposé de prendre lui-même le contrôle d’OpenAI pour la diriger, mais les autres fondateurs d’OpenAI, dont Sam Altman, alors CEO, et Greg Brockman, alors président, auraient refusé »
Le tweet semble avoir été supprimé, donc je paraphrase de mémoire ; à prendre comme tel.
Quelques idées me viennent.
Emmett Shear aurait dû inclure un solide parachute doré dans son contrat. Il aurait gagné de l’argent facilement.
Hier, Satya était le génie qui avait poussé le conseil à démissionner ; ce matin, c’était le génie qui avait racheté OpenAI pour 0 dollar. Si sama revient, on aura encore une autre histoire. Donc si sama revient, j’aimerais bien entendre pourquoi Satya est un génie.
À la place, il a géré le chaos et fait en sorte que Microsoft gagne quel que soit le résultat. Un génie, ce n’est pas quelqu’un qui prédit parfaitement à l’avance une intrigue compliquée et artificiellement tordue ; c’est quelqu’un qui n’a pas besoin de s’en soucier parce qu’il a tout configuré pour gagner dans tous les cas.
OpenAI s’effondre ? Il aura acheté les talents pratiquement gratuitement.
OpenAI 2.0 réussit ? Très bien, il y est toujours investi.
Réalistement, je ne pense pas que Sam @ MSFT puisse réussir immédiatement. Même avec les connaissances et le savoir-faire, on ne lance pas simplement un nouveau modèle de niveau GPT-4. Dans le meilleur des cas, ils ont environ 12 mois de retard sur Anthropic, tout en étant probablement encore 2 ans devant Google.
Il semble désormais avoir pris une position suffisamment bonne pour que tous les dénouements possibles paraissent positifs pour Microsoft.
Je penche de plus en plus pour la théorie selon laquelle un voyageur temporel envoyé dans le passé pour empêcher l’AGI est en train de détruire OpenAI.
Ça me rappelle la fin de Terminator 2. On dirait la scène où la communauté tech se réveille et essaie de comprendre pourquoi le siège de Cyberdyne a explosé et pourquoi il y a eu une fusillade : « Mais qu’est-ce qui vient de se passer ?! »
J’aimerais que tout le monde reconnaisse que ce n’est pas une croisade morale, mais une fuite des capitaux
Les employés veulent suivre Altman où qu’il aille parce qu’ils veulent toucher beaucoup d’argent. De toute façon, comme il fait bouger la moitié de la Silicon Valley, c’est aussi un choix intelligent. Le discours public présentant Sam comme un héros est encore renforcé par ceux qui font partie de l’écosystème tech qui tourne aujourd’hui autour de l’IA, c’est-à-dire le jeu des « wrappers d’OpenAI »
Personne ne se soucie de la sécurité, de l’ouverture ni de l’impact de l’IA sur l’humanité. C’est de la cupidité jusqu’au bout. Se placer du côté qui a le plus de chances de gagner. C’est de l’intérêt personnel rationnel, pas une quelconque « noble cause »
On ne peut pas exclure la possibilité que D’Angelo l’ait licencié pour une raison absurde, comme un conflit d’intérêts avec Poe
Il y a encore quelques heures, tout le monde portait Ilya aux nues comme un noble idéaliste. Et voilà que même lui semble regretter ce licenciement, au point de vouloir revenir dessus. Les gens ne semblent pas intégrer cette nouvelle information pour réévaluer à quel point cette décision était bonne. Au mieux, j’y vois des intentions nobles, mais une exécution totalement incompétente, et maintenant un mélange d’orgueil obstiné et de peur de la responsabilité juridique qui les empêche de reculer
Si j’étais employé d’OpenAI, je serais frustré. Renoncer à d’énormes stock-options, etc., pour de bonnes raisons idéales, ce n’est pas du tout la même chose que de se voir demander d’y renoncer sans qu’aucune raison ne soit donnée, comme maintenant
Je viens de voir une théorie plausible selon laquelle D’Angelo aurait mené cette affaire parce que Sam a dépassé Poe lors du Dev Day. Je ne sais pas si c’est vrai, mais si ça l’est, cela expliquerait pourquoi il n’explique la raison à personne, pas même à Sam au moment du licenciement. Révéler cette raison pourrait l’exposer à de sérieux risques juridiques
https://twitter.com/scottastevenson/status/1726731022862008733
Je sais bien que nous sommes au début du film, avant que les choses ne dérapent, mais j’ai l’impression que c’est énormément exagéré. Je vois un potentiel énorme, sur le plan thérapeutique, dans le fait de pouvoir parler à « quelqu’un » à qui soumettre ses pensées, qui puisse les corriger en douceur ou les orienter dans la bonne direction
Beaucoup de gens n’ont pas les moyens de suivre une thérapie. Si ChatGPT peut s’appuyer sur des bases de connaissances de méthodes précises comme la TCC, la TCD ou l’IFS pour aider à identifier des schémas problématiques élémentaires dans le langage ou les comportements, alors on peut s’exercer à s’autocorriger, presque gratuitement, aussi souvent qu’on le souhaite, avec un accompagnement
C’est précisément ce qui m’intéresse, et je le verrai toujours comme un grand potentiel
J’aimerais que tout le monde aille bien et soit bienveillant les uns envers les autres. C’est à la fois un processus et une destination, et je crois que les gens peuvent apprendre à aimer les deux et s’y engager d’une manière riche en occasions de rétablissement et de guérison profonds et authentiques. Des occasions toujours ouvertes et accueillantes pour tous
J’ajouterais que je peux suivre autant de thérapie que je veux, mais qu’en général je ne la trouve pas particulièrement aidante ni utile. ChatGPT me plaît parce qu’il peut aider à pratiquer des choses efficaces comme la TCC/TCD/IFS, et comme il s’appuie sur des textes de référence, on peut aussi contourner les contenus inventés
À mes yeux, la plus grande menace que représente ChatGPT, c’est la perte de revenus des gens. Les « emplois » en tant que tels ne m’intéressent pas ; ce qui compte, c’est de savoir si les gens ont assez pour vivre correctement. Si nous pouvons nous occuper des personnes égoïstes qui veulent prendre une part encore plus grande d’un gâteau dont elles ont déjà largement assez, alors elles doivent partager, prendre un temps mort jusqu’à ce que ce soit équitable, ou se retirer complètement. Ça suffit maintenant. Personne n’a besoin d’avoir trop tant que tout le monde n’a pas assez ; après cela, qu’ils prennent ce qu’ils veulent, tant qu’ils ne font pas de mal aux autres. Il faut arrêter de faire du mal aux autres
Un CEO qui, en apparence, faisait du bon travail a été évincé de force. Il est naturel d’avoir des réactions fortes
C’est précisément parce qu’OpenAI n’est pas contrôlée par un conseil d’administration nommé par les investisseurs que ce résultat se produit
Par pitié, arrêtons maintenant avec le « pour le bien de l’humanité »
Vu le manque général de communication utile, ce serait drôle que Sam Altman revienne chez OpenAI exactement au moment où tous les employés démissionnent ;)