Elon Musk porte plainte contre Sam Altman, Greg Brockman et OpenAI [PDF]
(courthousenews.com)- Elon Musk a déposé cinq chefs de demande, dont une rupture de contrat, contre Sam Altman, Greg Brockman et les entités liées à OpenAI, et demande un procès avec jury
- Le cœur de la plainte est l’affirmation selon laquelle OpenAI a démarré en 2015 comme laboratoire de recherche AGI à but non lucratif, avec un Founding Agreement prévoyant de rendre sa technologie publique au bénéfice de « l’humanité »
- Selon Musk, GPT-4 est devenu une technologie fermée, dont l’architecture interne et les informations d’entraînement ne sont pas publiées, appartient de fait à Microsoft et s’écarte de la mission initiale d’OpenAI
- En s’appuyant sur des déclarations publiques de chercheurs de Microsoft selon lesquelles GPT-4 pourrait être une AGI précoce, il affirme que la licence exclusive accordée à Microsoft en 2020 ne s’applique qu’aux technologies pré-AGI
- Après la crise du conseil d’administration de novembre 2023, le nouveau conseil pencherait en faveur d’Altman et de Microsoft, ce qui rendrait difficile une évaluation indépendante de l’AGI ; l’action vise donc à contraindre OpenAI à respecter le Founding Agreement
Parties à la plainte et portée des demandes
- Elon Musk a déposé plainte devant la California Superior Court du comté de San Francisco contre Sam Altman, Greg Brockman, OpenAI, Inc. et plusieurs entités liées à OpenAI
- Les causes d’action sont les cinq suivantes
-
Rupture de contrat
- Estoppel promissoire
- Violation du devoir fiduciaire
- Concurrence déloyale au titre du Cal. Bus. & Prof. Code §§ 17200 et suivants
- Comptabilité
- Les défendeurs comprennent OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC et Does 1 through 100
- Dans les documents de procédure, OpenAI, Inc. est distinguée comme l’entité à but non lucratif ou la branche non lucrative, tandis que « OpenAI » désigne l’ensemble des entités OpenAI concernées
-
Perception des risques liés à l’AGI et contexte de création d’OpenAI
- L’AGI y est traitée comme un système d’intelligence artificielle générale capable de faire preuve d’intelligence sur des tâches variées, à la manière d’un humain
- Musk affirme avoir reconnu depuis longtemps que l’AGI pouvait constituer une menace existentielle majeure pour l’humanité, dans la même lignée que les inquiétudes de Stephen Hawking et Bill Joy
- Le raisonnement est qu’avec l’acquisition de DeepMind par Google en 2014, Google a pris la tête de la course à l’AGI, et Musk jugeait particulièrement dangereux qu’une entreprise fermée à but lucratif comme Google contrôle l’AGI
- Des annonces de Google/DeepMind sont également citées
- AlphaZero a atteint un niveau surhumain aux échecs, au shōgi et au go en 24 heures grâce à l’apprentissage par renforcement
- Il est présenté comme ayant battu les programmes champions du monde dans chaque discipline
Founding Agreement et premiers temps d’OpenAI
- Selon Musk, Altman lui aurait proposé en 2015 de créer ensemble un laboratoire de recherche IA à but non lucratif conçu comme l’opposé de Google
- Musk, Altman et Brockman auraient convenu que le nouveau laboratoire respecterait les conditions suivantes
- Développer l’AGI au bénéfice de l’humanité, et non des intérêts des actionnaires d’une entreprise à but lucratif
- Rendre la technologie publique sauf motifs de sécurité contraires, et ne pas la fermer ni la garder secrète pour des raisons commerciales exclusives
- Il est indiqué que le certificat de constitution d’OpenAI, Inc. du 8 décembre 2015 mentionne que les technologies issues de l’organisation doivent bénéficier au public, être rendues open source lorsque cela s’applique dans l’intérêt général, et que l’organisation n’a pas été constituée au bénéfice privé d’une personne
- Musk affirme avoir fait confiance au Founding Agreement, fourni plus de la moitié du financement d’OpenAI durant ses premières années, conseillé l’orientation de la recherche et joué un rôle clé dans le recrutement de scientifiques et d’ingénieurs, dont Ilya Sutskever
- Les premières recherches d’OpenAI auraient été menées en donnant un accès public gratuit aux architectures, modèles et codes ; après la publication de modèles de langage naturel fondés sur les Transformers, les communautés open source et commerciales se seraient développées
Licence Microsoft et point litigieux autour de GPT-4
- Altman est devenu CEO d’OpenAI, Inc. en 2019, et OpenAI a conclu le 22 septembre 2020 avec Microsoft un contrat de licence exclusive portant sur GPT-3
- Concernant GPT-3, Musk affirme qu’un article détaillé décrivant sa structure interne et ses données d’entraînement a été publié, permettant à la communauté de créer des modèles similaires
- L’interprétation centrale de la plainte est que la licence accordée à Microsoft ne s’applique qu’aux technologies pré-AGI d’OpenAI, et que Microsoft n’a obtenu aucun droit sur l’AGI
- Pour GPT-4, rendu public en mars 2023, les performances suivantes sont avancées
- 90e percentile à l’Uniform Bar Exam
- 99e percentile au GRE Verbal Assessment
- 77 % à l’examen Advanced Sommelier
- Selon Musk, l’architecture interne de GPT-4 est gardée totalement secrète, à l’exception d’OpenAI et, d’après les informations et convictions disponibles, de Microsoft
- La plainte souligne aussi qu’il n’existe aucun article scientifique décrivant l’architecture de GPT-4, seulement des communiqués de presse mettant en avant ses performances
- GPT-4 aurait été fermé au profit des intérêts commerciaux exclusifs d’OpenAI et de Microsoft, et serait devenu de fait un algorithme propriétaire de Microsoft intégré à la suite logicielle Office
Crise du conseil d’administration de 2023 et objectif de la plainte
- Selon Musk, GPT-4 est un algorithme d’AGI et se situe hors du champ de la licence exclusive accordée à Microsoft en 2020
- Il cite des chercheurs de Microsoft qui ont déclaré publiquement qu’au vu de l’étendue et de la profondeur des capacités de GPT-4, celui-ci pouvait raisonnablement être considéré comme « un système d’AGI précoce mais encore incomplet »
- La plainte mentionne aussi qu’OpenAI développe un modèle connu sous le nom de Q* ou Q star, et que ce modèle fournirait des arguments plus solides en faveur de l’existence d’une AGI
- Le 17 novembre 2023, le conseil d’administration d’OpenAI, Inc. a révoqué Altman au motif qu’il « n’avait pas toujours été franc avec le conseil »
- Selon Musk, dans les jours qui ont suivi, Altman et Brockman, avec Microsoft, ont utilisé l’influence de Microsoft sur OpenAI pour forcer la démission d’une majorité du conseil
- Altman est redevenu CEO d’OpenAI, Inc. le 21 novembre 2023
- Les nouveaux membres du conseil auraient été choisis directement par Altman et approuvés par Microsoft, et manqueraient de l’expertise en IA nécessaire pour déterminer de manière indépendante si l’AGI a été atteinte
- Selon Musk, OpenAI, Inc. s’est transformée en filiale fermée de fait de Microsoft, la plus grande entreprise technologique au monde, et développe et améliore l’AGI sous le nouveau conseil afin de maximiser les intérêts de Microsoft
- L’objectif de la plainte est de contraindre OpenAI à respecter le Founding Agreement et à revenir à sa mission consistant à développer l’AGI au bénéfice de l’humanité, et non des défendeurs individuels ni de Microsoft
1 commentaires
Avis sur Hacker News
Si, en se transformant en organisation à but non lucratif, OpenAI a écrit dans ses statuts que « les technologies résultantes bénéficieront au bien public et, le cas échéant, chercheront à être publiées en open source dans l’intérêt public, et l’organisation ne sera pas constituée au profit privé d’une quelconque personne », il ne semble pas difficile de montrer que ce qu’elle fait aujourd’hui est très différent de ce qu’elle disait vouloir faire à l’origine.
On a investi dans une entreprise open source, mais l’entreprise n’a pas publié son code source ; au lieu d’une technologie dont tout le monde pouvait profiter, elle a tout gardé fermé et vendu un accès exclusif. OpenAI aura sans doute du mal à défendre ce comportement, et il semble possible de réclamer des dommages-intérêts importants pour l’argent dépensé par les investisseurs afin de la rattraper.
Rien qu’avec cette formulation, il est très difficile de conclure qu’OpenAI fait quelque chose de totalement différent de ce qu’elle avait annoncé. L’objectif déclaré est de financer la R&D en technologies d’IA ; il est dit que la technologie « bénéficie au bien public », et non qu’elle « appartient » au public, et l’ouverture est limitée par la mention « le cas échéant ».
Il n’est pas non plus illégal pour une organisation à but non lucratif d’avoir une filiale commerciale et de générer des revenus. Beaucoup d’organisations à but non lucratif tirent une part importante de leurs revenus annuels d’activités commerciales, et ces filiales ou activités commerciales sont soumises à l’impôt sur les revenus. Il suffit que ces revenus remontent à la maison mère à but non lucratif et soient utilisés pour sa mission non lucrative, ce qui semble être le cas ici aussi. La question de l’intérêt privé ne se pose vraiment que lorsque des administrateurs ou employés reçoivent des avantages excessifs, comme des salaires ou avantages sociaux dépassant les standards du marché.
Pour éviter toute confusion, je parle des paragraphes 126, 132 et 135, pas du 127. La plainte dit que, du fait des violations des défendeurs, le demandeur a subi des dommages dont le montant exact est actuellement inconnu, mais qui dépassent largement le seuil minimal de compétence du tribunal, soit 35 000 dollars, et qu’il les prouvera au procès si nécessaire.
Même si cette action n’est pas rejetée, l’issue finale pourrait se limiter à un accord dans lequel OpenAI verse aux demandeurs l’équivalent de leur investissement. D’après cette plainte, nous serions tous des bénéficiaires tiers de l’accord fondateur, mais il est difficile de croire que nous serons indemnisés dans un éventuel accord réel. Les demandeurs veulent clairement récupérer leur argent et ne semblent pas hésiter à présenter le « public » comme bénéficiaire tiers pour obtenir un remboursement. Dans les faits, leur intérêt pour le « public » paraît douteux.
S’il existe des résultats d’une enquête de la SEC sur de fausses déclarations faites par Altman aux investisseurs, cela pourrait aider ces demandeurs.
Quelle qu’en soit la raison — rancœur d’avoir quitté le navire trop tôt et raté l’occasion, ou volonté de représenter l’humanité — il y a là des éléments qui devraient être traités publiquement, et un tribunal semble être le meilleur endroit pour le faire.
Microsoft donne l’impression d’utiliser abusivement la collaboration uniquement pour empêcher d’autres entreprises d’accéder à la propriété intellectuelle. Puisqu’elle a déjà obtenu tout ce dont elle avait besoin et a même dit ne plus avoir besoin de la collaboration, il ne semble plus y avoir de raison de la maintenir.
Si Microsoft exploite la collaboration de cette manière, sa nouvelle collaboration avec Mistral ne paraît pas non plus très engageante. Même si Mistral obtient des ressources de calcul illimitées et conserve la liberté de publier ses modèles en open source.
Le fait que Mistral Large ne soit pas un modèle open source laisse désormais un goût amer. Je me demande aussi si cette action en justice est la raison pour laquelle il a examiné Windows 11.
Au vu de ses déclarations publiques sur l’IA, cela semble être quelque chose d’annoncé depuis longtemps. L’objectif de son investissement dans OpenAI était de surveiller de près le développement de l’IA ; qu’on croie ou non ses déclarations publiques, il me semble qu’il y a une certaine sincérité dans les propos d’Elon sur l’IA.
On peut publier le modèle et vendre l’API, mais il est difficile de proposer un service aussi bon marché que des entreprises comme Google/Microsoft/Amazon, qui ont l’avantage des économies d’échelle du cloud, des prix des GPU et de puces d’inférence personnalisées.
Si l’on veut vendre le modèle lui-même, on ne peut pas le mettre à disposition gratuitement. Contrairement au code open source, il ne semble pas encore exister de marché secondaire établi pour vendre, par exemple, du support.
Quoi qu’il en soit, il ne pensait probablement pas que la branche commerciale deviendrait une machine à imprimer de l’argent.
L’idée centrale de la plainte est que Musk a fondé et financé OpenAI, Inc. avec Altman et Brockman en s’appuyant sur l’accord fondateur selon lequel l’AGI devait bénéficier à l’humanité, et non à une entreprise à but lucratif ; mais qu’en 2023, ses contributions ont été détournées au profit des défendeurs et de la plus grande entreprise au monde.
L’analogie est forte : ce serait comme faire un don à une organisation à but non lucratif qui promet de protéger la forêt amazonienne, puis voir cette organisation créer, avec les fruits de ces dons, une société d’exploitation forestière à but lucratif qui abat la forêt. La plainte affirme aussi qu’il a fourni des dizaines de millions de dollars, du temps et des ressources à condition qu’OpenAI s’engage irrévocablement à créer une AGI sûre et open source au service du bien public, puis qu’elle a abandonné cette mission non lucrative « irrévocable », cessé de fournir des informations publiques et accordé en exclusivité sous licence ses algorithmes d’AGI à la plus grande entreprise commerciale au monde.
En explorant la structure et la gouvernance d’entreprise particulières d’OpenAI, je suis tombé sur des ressources intéressantes
OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
Article de recherche AI is Testing the Limits of Corporate Governance - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...
Le point central pour OpenAI, c’est que, structurellement, les coûts de collecte de données et d’entraînement des modèles sont énormes, au point qu’en comparaison même Uber ou Airbnb, des modèles économiques de la génération précédente combinant logiciel et activité physique, paraissent peu coûteux à exploiter. OAI devient donc plus dépendante des fournisseurs cloud pour le calcul
Par ailleurs, les douves défensives et les effets de réseau dépendent eux aussi d’un approvisionnement plus indirect, à savoir les contenus générés par les utilisateurs. Comme le soutiennent certains des articles ci-dessus, le statut d’organisation à but non lucratif peut aussi offrir des avantages pour utiliser la propriété intellectuelle dans l’entraînement
Cette plainte invoque une violation de l’« accord fondateur », mais il n’existe pas de document Founding Agreement à proprement parler, seulement des e-mails présentés comme en faisant partie
Je ne suis pas juriste, mais, dès lors qu’il existe des statuts, je me demande si ces e-mails ont aujourd’hui une grande portée. La plainte mentionne aussi les statuts, mais elle fait beaucoup plus référence à l’« accord fondateur » suggéré par les e-mails
Le passage affirmant que GPT-4 est une AGI me paraît aussi un peu exagéré. Elon semble pouvoir gagner dans la limite où il demanderait le remboursement de dons au motif qu’une finalité précise avait été mise en avant dans les e-mails de levée de dons, puis modifiée ensuite
Mais l’objectif de cette plainte est clairement de faire revivre le « Open » d’« OpenAI », afin d’obtenir davantage d’informations sur GPT-4 et les modèles ultérieurs, et de supprimer la licence exclusive de Microsoft. La question de savoir si une telle action peut y parvenir dépendra sans doute, au final, de l’interprétation des statuts
Il y a certainement déjà eu des cas où une responsabilité a été reconnue dans un contexte juridique parce que quelqu’un avait répondu d’une certaine manière par e-mail avant d’agir à l’inverse
Les statuts seront le document juridique central, mais l’accord fondateur est important pour montrer l’intention et les motivations initiales des parties. C’est ce qui permet de fonder l’idée qu’il s’est passé quelque chose ayant conduit Altman à orienter l’entreprise dans une autre direction
Je ne pense pas qu’il soit injuste de dire qu’Altman a manœuvré l’entreprise. Son éviction semble avoir été une stratégie destinée à faire apparaître les membres du conseil hostiles à Microsoft ; une fois ceux-ci identifiés, ils ont été facilement écartés après le retour d’Altman. Si Altman n’avait pas manœuvré, il n’y aurait eu aucune raison de le réembaucher après son licenciement
[1] https://www.youtube.com/watch?v=0hWZJg_nda4
La plainte indique que GPT-4 possède non seulement des capacités de raisonnement, mais raisonne mieux que l’humain moyen, et qu’il a obtenu le 90e percentile à l’Uniform Bar Exam des avocats, le 99e percentile à la partie verbale du GRE, et 77 % à l’examen Advanced Sommelier.
Mais on peut considérer que le point commun de ces examens est qu’ils testent la mémoire, et soutenir que les performances supérieures à la moyenne de GPT-4 ne constituent pas nécessairement une preuve de raisonnement. Autrement dit, GPT-4 pourrait ne pas « comprendre », mais simplement disposer d’une vitesse de lecture et d’une capacité de rétention énormes, donc d’une mémoire exceptionnelle.
Alors que la préparation à ces examens repose largement sur la mémorisation, d’autres examens peuvent accorder davantage d’importance au raisonnement et à la compréhension. Il existe sûrement des examens auxquels GPT-4 échouerait, mais seules ses performances positives sont rapportées.
https://freeman.vc/notes/reasoning-vs-memorization-in-llms
Il y a encore quelques années, l’idée qu’une machine puisse obtenir ne serait-ce qu’un score à deux chiffres à ce genre d’examens aurait semblé absurde. Le simple fait qu’une machine puisse réussir n’importe lequel de ces examens est stupéfiant.
Si le fait d’obtenir la note de passage à certains examens d’accès à des professions est déjà devenu banal, c’est franchement un peu décevant. Le 99e percentile au GRE verbal aurait choqué un chercheur en traitement automatique du langage en 2010 ; si l’on dit maintenant que ce n’est « pas du raisonnement », on ne fait que déplacer sans cesse la définition du raisonnement.
L’examen Advanced Sommelier fait partie d’un processus comprenant d’autres examens et formations ; la partie verbale du GRE est généralement passée avec les autres sections du GRE pour l’admission à des programmes, qui peuvent ensuite nécessiter plusieurs années d’études supplémentaires ; et l’UBE est généralement passé après plusieurs années d’études dans un cursus approuvé.
Les plaignants doivent soutenir que GPT-4 est une AGI. Car l’accord en question, qui aurait présidé à la création d’OpenAI, portait sur l’AGI, et non sur le simple développement et l’amélioration de grands modèles de langage. Si OpenAI n’a pas encore atteint l’AGI, on pourrait considérer que cet accord ne s’applique pas à ce qu’elle fait actuellement.
Il ne manque toutefois pas d’assurance.
Il est clair qu’OpenAI est devenue quelque chose de différent de ce qui était prévu lors de sa fondation. Ce changement a peut-être eu lieu pour de bonnes raisons, mais le simple fait qu’il y ait eu un changement est difficile à contester.
Pour être juste, cette attente était sans doute liée à l’espoir d’atteindre l’objectif public consistant à développer une certaine forme d’AGI.
Cela ressemble à un procès contre Google parce qu’elle a retiré « Don’t be evil » de sa devise.
Je continue de penser que Musk est probablement fâché pour des raisons plus mesquines que celles qu’il avance, mais je suis quand même vraiment content qu’il ait intenté ce procès.
OpenAI a clairement été largement vendue à l’une des entreprises les plus dangereuses et irresponsables de la planète, et vu la taille de l’organisation, il fallait quelqu’un d’aussi riche pour engager une action en justice si l’on voulait ne serait-ce que créer une possibilité de demande de comptes.
Cela dit, je suis d’accord avec l’idée qu’il est très probable qu’il se soit engagé dans cette affaire pour des raisons mesquines.
Un avocat compétent ferait témoigner Musk pour lui faire redire ses vues sur les dangers de l’IA.
Si la technologie est vraiment dangereuse, on peut soutenir qu’il est dans l’intérêt public de la garder plus fermée, et OpenAI a déjà avancé ce type d’argument.
Je ne dis pas que le code fermé est dans l’intérêt public, mais on peut tout à fait défendre l’idée qu’accélérer le rattrapage par des acteurs malveillants n’est pas une bonne chose.
Pour connaître les risques réels et obtenir les meilleures informations afin d’y répondre, il faut que ce soit ouvert. Sinon, quelqu’un qui fera la même chose de manière fermée aura un avantage lorsqu’il en abusera.
Cela dit, il est très peu probable qu’un tribunal décide de ce qui est le plus sûr entre l’ouverture et la fermeture. L’accord fondateur exprime assez clairement l’intention de publier au nom de la sécurité. Le tribunal jugera s’il y a eu violation du contrat, pas si cette violation était philosophiquement souhaitable.
Soit on poursuit un objectif ouvert, comme le suggère le nom, soit la structure initiale elle-même était inappropriée.
Selon un article du New York Times, Musk a critiqué à plusieurs reprises OpenAI en affirmant qu’elle était devenue une entreprise à but lucratif, mais en 2017, il aurait élaboré un plan pour prendre le contrôle du laboratoire d’IA à Altman et aux autres fondateurs, afin de le transformer en opération commerciale collaborant avec ses autres entreprises, comme Tesla, et exploitant des supercalculateurs de plus en plus puissants.
L’explication serait qu’il a quitté le conseil d’administration d’OpenAI après l’échec de cette tentative de prise de contrôle ; avec ce contenu, les avocats d’OpenAI pourraient sans doute faire traîner ce procès pendant très longtemps
Si l’organisation à but non lucratif avait correctement fait ce qu’elle était censée faire, il n’aurait pas eu besoin d’essayer d’en prendre le contrôle
Dans ce type de procès, ne faut-il pas prouver un préjudice ? Si OpenAI a effectivement violé le contrat, quel préjudice Musk a-t-il subi à titre personnel ?
Bien sûr, cela dépend des détails de l’investissement inscrits dans le contrat et du droit applicable, et je ne connais bien ni l’un ni l’autre
https://www.courthousenews.com/wp-content/uploads/2024/02/mu...