Cela n’a rien à voir avec de la malhonnêteté, ce n’est que la raison officielle
Peu de gens en parlent, mais si l’on regarde les deux personnes clés ici, on dirait que cela se résume forcément à un conflit entre Altman et Sutskever
Le tweet publié par Sutskever il y a un mois et demi est aussi intéressant
Le communiqué évoquant des échanges francs avec le conseil d’administration sert très probablement à masquer un désaccord philosophique profondément enraciné
Ils ont trouvé un motif utilisable pour justifier le licenciement, mais ce motif ne reflète pas forcément la véritable raison
Sam et Ilya ne regardaient plus dans la même direction, et cela a probablement culminé avec GPT-4 Turbo
On peut donc supposer que Sutskever détenait tous les leviers grâce à ses compétences techniques
Sam étant un homme d’affaires classique, les deux ont fini par s’affronter fortement, et Sutskever, arrivé à son point de rupture, semble avoir utilisé ce levier
Après longtemps passé dans la tech, j’ai vu ce genre de scénario plusieurs fois
Il ne faut pas mettre en colère un ingénieur irremplaçable. Sinon, il peut vous faire licencier. Je ne prends parti pour personne
PS : la plupart des ingénieurs, moi compris, sont remplaçables. Ilya ne l’est probablement pas
Ça n’a aucun sens. S’il s’agissait d’un simple désaccord, ils auraient pu gérer ça par une voie discrète, sans véritable mention dans le communiqué
Or ils ont inclus dans leur déclaration officielle une accusation assez précise pour engager leur responsabilité juridique si elle était fausse
S’ils n’ont pas des éléments sûrs à 100 %, ils viennent pratiquement d’offrir à Sam un procès qu’il gagnerait presque à coup sûr
Swisher a publié de nouvelles informations
"More scoopage: sources tell me chief scientist Ilya Sutskever was at the center of this. Increasing tensions with Sam Altman and Greg Brockman over role and influence and he got the board on his side."
"The developer day and how the store was introduced was in inflection moment of Altman pushing too far, too fast. My bet: He’ll have a new company up by Monday."
Je pense que c’est exactement l’inverse. Un conseil d’administration ne fait pas ce genre de chose sans y être vraiment obligé
Il suffit de repenser au passé. Chez Uber, par exemple, le conseil n’a bougé qu’après l’explosion publique d’énormes problèmes
Il est impossible que ce soit un simple désaccord ; pour traiter l’affaire aussi vite au risque de mettre en danger une entreprise valorisée à plusieurs dizaines de milliards de dollars, il faut qu’il y ait eu de graves manquements financiers, éthiques ou sociaux
Si c’était vraiment simplement une question de ne plus regarder dans la même direction, pourquoi le communiqué aurait-il dit que Sam n’avait “pas toujours été franc dans ses communications” ?
Si le problème de fond était un désaccord philosophique, cette formulation est assez inutile. Ils auraient plutôt parlé de différences de vision pour l’avenir
C’est le vieux mythe de l’ingénieur irremplaçable face aux crétins en costume. Il suffit de demander à Wozniak
Je ne pense pas qu’il croie qu’Apple aurait existé sans Steve Jobs
Sam et Ilya ont récemment pris publiquement la parole au sujet de l’AGI, et cela semble révéler un désaccord fondamental entre eux
Sam affirme que les grands modèles de langage ne suffisent pas à eux seuls pour atteindre l’AGI. Cela semble juste
Ilya affirme que l’architecture transformer, avec quelques modifications d’efficacité, est en fait suffisante pour l’AGI
Bien sûr, les transformers sont aujourd’hui un composant central des grands modèles de langage, et les détails comptent
Les futurs modèles pourraient ressembler aux transformers actuels tout en étant dynamiques du point de vue des données d’entraînement ou de l’expérience. Mais la question n’est pas encore tranchée
Dans tous les cas, le fait qu’ils divergent publiquement sur l’orientation future d’OpenAI pourrait être le signe de problèmes internes plus profonds
Ce n’est qu’un désaccord technique, et dans une entreprise qui fonctionne correctement, il devrait toujours y en avoir un niveau sain au sein de la direction
Le communiqué disait littéralement qu’il avait été licencié parce qu’il avait menti. Cela faisait vraiment longtemps que je n’avais pas vu le conseil d’une grande entreprise s’exprimer ainsi
Cette question a des implications énormes à cause de la charte à but non lucratif d’OpenAI
Si Altman a omis des faits pour empêcher le conseil de déterminer si OpenAI avait atteint le stade de l’AGI, ou s’il a cherché à empêcher toute évaluation équitable, alors il a clairement induit gravement le conseil en erreur et l’a empêché de faire son travail
“Cela semble juste” ?
Personne ne le sait. Mais je ferais davantage confiance au scientifique qui dirige ces travaux qu’à un homme d’affaires qui a intérêt à soutenir la position opposée pour éviter une régulation immédiate
Ilya claims the transformer architecture, with some modification for efficiency, is actually sufficient for AGI.
Cette personne n’était-elle pas censée savoir de quoi elle parle ? Il y a eu un article montrant que les grands modèles de langage ne peuvent pas généraliser[0]
Quiconque a utilisé ChatGPT peut voir qu’il a des défauts
Je ne comprends pas comment les gens peuvent être aussi sûrs d’eux
Alors même qu’ils viennent d’expliquer que deux personnes intelligentes peuvent raisonnablement diverger sur un sujet complexe
Comment ce genre de chose peut-il arriver ? Est-ce qu’une personne très calée côté business peut l’expliquer à cet ingénieur ?
Si le conseil d’administration compte 6 membres et que la situation consiste à en « faire tomber » 2, ces 2 personnes ne devraient-elles pas être exclues de la participation ?
Ou au minimum être récusées lors d’un vote les concernant ?
Les 4 autres doivent-ils s’organiser et communiquer « en secret » ?
Y a-t-il une raison pour laquelle 3 personnes ne pourraient pas organiser un vote pour évincer 1 personne, obtenir une majorité de 3/5, puis, à partir de là, expulser tout le monde tour à tour par vote ?
C’est peut-être une question idiote, mais je suis curieux
Les détails dépendent de ce qui est écrit dans les statuts et documents constitutifs de l’organisation à but non lucratif
En tant que 501(c)3, elle est soumise à certaines exigences et restrictions, mais le reste dépend de ce que le conseil fondateur a prévu dans les documents pour créer et gouverner la personne morale
En général, ce type de documents contient des clauses sur la manière de gérer les votes, la succession, les récusations, l’éligibilité, etc.
D’après mon expérience au sein de conseils d’administration à but lucratif et non lucratif, il est très probable que les administrateurs externes aient fait appel à un conseil juridique externe pour les conseiller
Les administrateurs ont des obligations précises qu’ils doivent impérativement remplir, et s’ils ne s’en acquittent pas suffisamment de bonne foi, ils s’exposent à une responsabilité juridique sérieuse
Je me posais la même question, et je comprends maintenant que la gouvernance des organisations à but non lucratif fonctionne en fait comme ça
C’est donc une mauvaise idée pour une organisation comme OpenAI. Dans une société à but lucratif, les actionnaires pourraient simplement remplacer le conseil d’administration
Le vote ne visait que Sam ; Greg a peut-être voté en sa faveur, puis a été forcé de partir lors d’un second vote ultérieur ou d’un processus similaire
Can a super smart business-y person educate this engineer on how this even happens.
Ça n’a absolument rien à voir avec le business. OpenAI est une organisation à but non lucratif, donc elle peut faire ce qu’elle veut
C’est drôle, j’ai commencé Succession la semaine dernière
On a l’impression de voir une version réelle de Succession se dérouler. Tous les membres du conseil cherchent comment optimiser leur position
À lire cela, Greg Brockman n’était pas présent à la réunion du conseil qui a pris la décision, et il semble avoir appris la « nouvelle » de son départ du conseil de la même manière que nous
J’ai mis « appris la nouvelle » entre guillemets, mais l’expression employée par Greg Brockman était « sur la base des nouvelles d’aujourd’hui »
Cela peut simplement signifier qu’il n’était pas d’accord avec le résultat et qu’il a exprimé ce désaccord en démissionnant
Édition : bêtement, je lisais le mémo envoyé aux employés d’OpenAI. Le tweet lui-même dit « après avoir appris la nouvelle d’aujourd’hui ». Cela dit, où et quand il l’a apprise reste ambigu
Le conseil ne peut pas se réunir ni agir sans notifier les administrateurs et leur donner la possibilité de participer
C’est vrai. Il n’aurait probablement pas pu participer aux délibérations concernant sa propre révocation
N’était-il pas président du conseil ? Il devait évidemment être présent à la réunion, non ?
L’hypothèse la plus plausible est plutôt qu’il y a eu une sorte de scission et qu’il s’est rangé du côté de Sam
Puisqu’il était président du conseil, je me demande comment le reste du conseil a réussi à exécuter ça
Greg était-il au courant de la décision à l’avance ? Je ne pense pas
Une heure avant la publication du billet d’OpenAI, Greg Brockman a publié quelque chose qui ressemblait tout à fait à du travail habituel : https://x.com/gdb/status/1725595967045398920 https://x.com/openai/status/1725611900262588813
Je ne sais pas comment mesurer à quel point cette situation est folle
« Greg Brockman, cofondateur et président d’OpenAI, travaille entre 60 et 100 heures par semaine et consacre environ 80 % de son temps à coder. D’anciens collègues l’ont décrit comme la personne qui travaille le plus dur chez OpenAI. »
Quelles sont les chances que ce soit dû à une acquisition par Microsoft ? Pure spéculation, mais Sam était peut-être un obstacle
Édition : cette explication est peut-être plus plausible : https://news.ycombinator.com/item?id=38312868
Un autre point qui n’a pas été pris en compte, c’est que Microsoft adore vraiment apposer sa marque un peu partout
Axios dit que MS n’était pas au courant à l’avance
Cela semble indiquer qu’une véritable scission est en cours chez OpenAI
J’imagine qu’on va apprendre que deux philosophies différentes étaient à l’œuvre
Si l’on suppose qu’Altman et Brockman veulent accélérer le développement, il serait intéressant de les voir rejoindre des postes de haut niveau chez Microsoft
OpenAI suivrait une nouvelle direction, Microsoft et Google construiraient rapidement du neuf, et les partisans des modèles ouverts pourraient continuer leur bon travail : cela ressemble à un gain pour tout le monde
À part le communiqué de presse maladroit et précipité, cette affaire n’a pas nécessairement besoin de mal finir pour qui que ce soit
Je suis fan depuis que j’ai utilisé la toute première API publique d’OpenAI, mais je suis aussi très heureux qu’il existe un écosystème riche
Il y a d’autres acteurs commerciaux comme Anthropic, le soutien de Meta et Hugging Face aux modèles ouverts, et des petits modèles de plus en plus excellents comme Mistral, faciles à faire tourner chez soi
Sam et ceux qui continuent à voler de la propriété intellectuelle en détruisant toute l’industrie au passage partiront, et les scientifiques du machine learning éthiques resteront
Pour revenir au bon sens, quand Hinton a quitté Google, nous nous en sommes réjouis en disant qu’il ne fallait pas que des structures d’entreprise sans visage pilotent le rythme du développement, mais que ce soient les pionniers de l’IA qui comprennent les risques
S’il y avait réellement un désaccord similaire chez OpenAI et que, cette fois, c’est Ilya qui correspond à Hinton et qui a gagné, alors c’est une chose à saluer
1 commentaires
Avis sur Hacker News
Mise à jour : j’avais vu juste
https://twitter.com/karaswisher/status/1725682088639119857
Cela n’a rien à voir avec de la malhonnêteté, ce n’est que la raison officielle
Peu de gens en parlent, mais si l’on regarde les deux personnes clés ici, on dirait que cela se résume forcément à un conflit entre Altman et Sutskever
Le tweet publié par Sutskever il y a un mois et demi est aussi intéressant
https://twitter.com/ilyasut/status/1707752576077176907
Le communiqué évoquant des échanges francs avec le conseil d’administration sert très probablement à masquer un désaccord philosophique profondément enraciné
Ils ont trouvé un motif utilisable pour justifier le licenciement, mais ce motif ne reflète pas forcément la véritable raison
Sam et Ilya ne regardaient plus dans la même direction, et cela a probablement culminé avec GPT-4 Turbo
On peut donc supposer que Sutskever détenait tous les leviers grâce à ses compétences techniques
Sam étant un homme d’affaires classique, les deux ont fini par s’affronter fortement, et Sutskever, arrivé à son point de rupture, semble avoir utilisé ce levier
Après longtemps passé dans la tech, j’ai vu ce genre de scénario plusieurs fois
Il ne faut pas mettre en colère un ingénieur irremplaçable. Sinon, il peut vous faire licencier. Je ne prends parti pour personne
PS : la plupart des ingénieurs, moi compris, sont remplaçables. Ilya ne l’est probablement pas
Ça n’a aucun sens. S’il s’agissait d’un simple désaccord, ils auraient pu gérer ça par une voie discrète, sans véritable mention dans le communiqué
Or ils ont inclus dans leur déclaration officielle une accusation assez précise pour engager leur responsabilité juridique si elle était fausse
S’ils n’ont pas des éléments sûrs à 100 %, ils viennent pratiquement d’offrir à Sam un procès qu’il gagnerait presque à coup sûr
Swisher a publié de nouvelles informations
[Source : https://twitter.com/karaswisher/status/1725702501435941294]
On dirait une prédiction presque exacte
Je pense que c’est exactement l’inverse. Un conseil d’administration ne fait pas ce genre de chose sans y être vraiment obligé
Il suffit de repenser au passé. Chez Uber, par exemple, le conseil n’a bougé qu’après l’explosion publique d’énormes problèmes
Il est impossible que ce soit un simple désaccord ; pour traiter l’affaire aussi vite au risque de mettre en danger une entreprise valorisée à plusieurs dizaines de milliards de dollars, il faut qu’il y ait eu de graves manquements financiers, éthiques ou sociaux
Si c’était vraiment simplement une question de ne plus regarder dans la même direction, pourquoi le communiqué aurait-il dit que Sam n’avait “pas toujours été franc dans ses communications” ?
Si le problème de fond était un désaccord philosophique, cette formulation est assez inutile. Ils auraient plutôt parlé de différences de vision pour l’avenir
C’est le vieux mythe de l’ingénieur irremplaçable face aux crétins en costume. Il suffit de demander à Wozniak
Je ne pense pas qu’il croie qu’Apple aurait existé sans Steve Jobs
https://twitter.com/gdb/status/1725736242137182594
Mise à jour de Greg
Sam et Ilya ont récemment pris publiquement la parole au sujet de l’AGI, et cela semble révéler un désaccord fondamental entre eux
Sam affirme que les grands modèles de langage ne suffisent pas à eux seuls pour atteindre l’AGI. Cela semble juste
Ilya affirme que l’architecture transformer, avec quelques modifications d’efficacité, est en fait suffisante pour l’AGI
Bien sûr, les transformers sont aujourd’hui un composant central des grands modèles de langage, et les détails comptent
Les futurs modèles pourraient ressembler aux transformers actuels tout en étant dynamiques du point de vue des données d’entraînement ou de l’expérience. Mais la question n’est pas encore tranchée
Dans tous les cas, le fait qu’ils divergent publiquement sur l’orientation future d’OpenAI pourrait être le signe de problèmes internes plus profonds
Ce n’est qu’un désaccord technique, et dans une entreprise qui fonctionne correctement, il devrait toujours y en avoir un niveau sain au sein de la direction
Le communiqué disait littéralement qu’il avait été licencié parce qu’il avait menti. Cela faisait vraiment longtemps que je n’avais pas vu le conseil d’une grande entreprise s’exprimer ainsi
Cette question a des implications énormes à cause de la charte à but non lucratif d’OpenAI
Si Altman a omis des faits pour empêcher le conseil de déterminer si OpenAI avait atteint le stade de l’AGI, ou s’il a cherché à empêcher toute évaluation équitable, alors il a clairement induit gravement le conseil en erreur et l’a empêché de faire son travail
“Cela semble juste” ?
Personne ne le sait. Mais je ferais davantage confiance au scientifique qui dirige ces travaux qu’à un homme d’affaires qui a intérêt à soutenir la position opposée pour éviter une régulation immédiate
Cette personne n’était-elle pas censée savoir de quoi elle parle ? Il y a eu un article montrant que les grands modèles de langage ne peuvent pas généraliser[0]
Quiconque a utilisé ChatGPT peut voir qu’il a des défauts
[0] https://arxiv.org/abs/2309.12288
Je ne comprends pas comment les gens peuvent être aussi sûrs d’eux
Alors même qu’ils viennent d’expliquer que deux personnes intelligentes peuvent raisonnablement diverger sur un sujet complexe
Comment ce genre de chose peut-il arriver ? Est-ce qu’une personne très calée côté business peut l’expliquer à cet ingénieur ?
Si le conseil d’administration compte 6 membres et que la situation consiste à en « faire tomber » 2, ces 2 personnes ne devraient-elles pas être exclues de la participation ?
Ou au minimum être récusées lors d’un vote les concernant ?
Les 4 autres doivent-ils s’organiser et communiquer « en secret » ?
Y a-t-il une raison pour laquelle 3 personnes ne pourraient pas organiser un vote pour évincer 1 personne, obtenir une majorité de 3/5, puis, à partir de là, expulser tout le monde tour à tour par vote ?
C’est peut-être une question idiote, mais je suis curieux
Les détails dépendent de ce qui est écrit dans les statuts et documents constitutifs de l’organisation à but non lucratif
En tant que 501(c)3, elle est soumise à certaines exigences et restrictions, mais le reste dépend de ce que le conseil fondateur a prévu dans les documents pour créer et gouverner la personne morale
En général, ce type de documents contient des clauses sur la manière de gérer les votes, la succession, les récusations, l’éligibilité, etc.
D’après mon expérience au sein de conseils d’administration à but lucratif et non lucratif, il est très probable que les administrateurs externes aient fait appel à un conseil juridique externe pour les conseiller
Les administrateurs ont des obligations précises qu’ils doivent impérativement remplir, et s’ils ne s’en acquittent pas suffisamment de bonne foi, ils s’exposent à une responsabilité juridique sérieuse
Je me posais la même question, et je comprends maintenant que la gouvernance des organisations à but non lucratif fonctionne en fait comme ça
C’est donc une mauvaise idée pour une organisation comme OpenAI. Dans une société à but lucratif, les actionnaires pourraient simplement remplacer le conseil d’administration
Le vote ne visait que Sam ; Greg a peut-être voté en sa faveur, puis a été forcé de partir lors d’un second vote ultérieur ou d’un processus similaire
Ça n’a absolument rien à voir avec le business. OpenAI est une organisation à but non lucratif, donc elle peut faire ce qu’elle veut
C’est drôle, j’ai commencé Succession la semaine dernière
On a l’impression de voir une version réelle de Succession se dérouler. Tous les membres du conseil cherchent comment optimiser leur position
À lire cela, Greg Brockman n’était pas présent à la réunion du conseil qui a pris la décision, et il semble avoir appris la « nouvelle » de son départ du conseil de la même manière que nous
J’ai mis « appris la nouvelle » entre guillemets, mais l’expression employée par Greg Brockman était « sur la base des nouvelles d’aujourd’hui »
Cela peut simplement signifier qu’il n’était pas d’accord avec le résultat et qu’il a exprimé ce désaccord en démissionnant
Édition : bêtement, je lisais le mémo envoyé aux employés d’OpenAI. Le tweet lui-même dit « après avoir appris la nouvelle d’aujourd’hui ». Cela dit, où et quand il l’a apprise reste ambigu
Le conseil ne peut pas se réunir ni agir sans notifier les administrateurs et leur donner la possibilité de participer
C’est vrai. Il n’aurait probablement pas pu participer aux délibérations concernant sa propre révocation
N’était-il pas président du conseil ? Il devait évidemment être présent à la réunion, non ?
L’hypothèse la plus plausible est plutôt qu’il y a eu une sorte de scission et qu’il s’est rangé du côté de Sam
Puisqu’il était président du conseil, je me demande comment le reste du conseil a réussi à exécuter ça
Greg était-il au courant de la décision à l’avance ? Je ne pense pas
Une heure avant la publication du billet d’OpenAI, Greg Brockman a publié quelque chose qui ressemblait tout à fait à du travail habituel : https://x.com/gdb/status/1725595967045398920
https://x.com/openai/status/1725611900262588813
Je ne sais pas comment mesurer à quel point cette situation est folle
« Greg Brockman, cofondateur et président d’OpenAI, travaille entre 60 et 100 heures par semaine et consacre environ 80 % de son temps à coder. D’anciens collègues l’ont décrit comme la personne qui travaille le plus dur chez OpenAI. »
https://time.com/collection/time100-ai/6309033/greg-brockman...
Quelles sont les chances que ce soit dû à une acquisition par Microsoft ? Pure spéculation, mais Sam était peut-être un obstacle
Édition : cette explication est peut-être plus plausible : https://news.ycombinator.com/item?id=38312868
Un autre point qui n’a pas été pris en compte, c’est que Microsoft adore vraiment apposer sa marque un peu partout
Cela semble indiquer qu’une véritable scission est en cours chez OpenAI
J’imagine qu’on va apprendre que deux philosophies différentes étaient à l’œuvre
Si l’on suppose qu’Altman et Brockman veulent accélérer le développement, il serait intéressant de les voir rejoindre des postes de haut niveau chez Microsoft
OpenAI suivrait une nouvelle direction, Microsoft et Google construiraient rapidement du neuf, et les partisans des modèles ouverts pourraient continuer leur bon travail : cela ressemble à un gain pour tout le monde
À part le communiqué de presse maladroit et précipité, cette affaire n’a pas nécessairement besoin de mal finir pour qui que ce soit
Je suis fan depuis que j’ai utilisé la toute première API publique d’OpenAI, mais je suis aussi très heureux qu’il existe un écosystème riche
Il y a d’autres acteurs commerciaux comme Anthropic, le soutien de Meta et Hugging Face aux modèles ouverts, et des petits modèles de plus en plus excellents comme Mistral, faciles à faire tourner chez soi
Sam et ceux qui continuent à voler de la propriété intellectuelle en détruisant toute l’industrie au passage partiront, et les scientifiques du machine learning éthiques resteront
Pour revenir au bon sens, quand Hinton a quitté Google, nous nous en sommes réjouis en disant qu’il ne fallait pas que des structures d’entreprise sans visage pilotent le rythme du développement, mais que ce soient les pionniers de l’IA qui comprennent les risques
S’il y avait réellement un désaccord similaire chez OpenAI et que, cette fois, c’est Ilya qui correspond à Hinton et qui a gagné, alors c’est une chose à saluer