OpenAI abandonne discrètement sa promesse de rendre publics des documents clés

• OpenAI avait promis depuis sa création de publier ses documents de gouvernance, mais a récemment refusé de les fournir lorsque WIRED en a fait la demande
• OpenAI a été fondée pour permettre à la société et au grand public de participer au développement d’une IA puissante, mais adopte désormais une nouvelle politique de non-divulgation des documents internes
• Le retrait de cet engagement de transparence complique la compréhension des vulnérabilités de l’entreprise et de ses récentes crises, alors même qu’elle exerce une influence majeure sur l’avenir de l’IA

La crise d’OpenAI et sa gouvernance

• Le conseil d’administration d’OpenAI a limogé le CEO Sam Altman, avant que la contestation des employés et des investisseurs n’aboutisse à son retour et au remplacement de la plupart des membres du conseil
• Le mélange entre les investissements personnels d’Altman et ses fonctions pourrait avoir contribué en partie à la défiance du conseil
• La publication des documents de gouvernance d’OpenAI pourrait éclairer les pouvoirs réels du conseil vis-à-vis d’Altman et de ses activités externes

La structure d’entreprise d’OpenAI et Microsoft

• Les statuts fondateurs d’OpenAI décrivent comment une partie du conseil a pu prendre le contrôle et évincer Altman
• Le CEO de Microsoft, Satya Nadella, a déclaré publiquement avoir été surpris par le limogeage d’Altman
• OpenAI a peut-être modifié ses documents de gouvernance pour stabiliser la structure du conseil et rassurer des soutiens comme Microsoft

Le recul de la transparence chez OpenAI

• OpenAI publiait autrefois des informations détaillées sur ses inventions en IA, mais protège désormais les détails techniques et les données d’outils comme ChatGPT
• La transparence a reculé depuis la création en 2019 d’une filiale commerciale qui mène l’essentiel du développement IA, distincte de la structure à but non lucratif
• L’organisation à but non lucratif d’OpenAI conserve en dernier ressort le contrôle des activités et des technologies d’OpenAI

L’organisation à but non lucratif d’OpenAI et les déclarations à l’IRS

• Les organisations à but non lucratif américaines doivent publier un rapport annuel à l’IRS et indiquer si des documents supplémentaires peuvent être consultés
• Jusqu’en 2022, OpenAI indiquait dans ses déclarations annuelles à l’IRS que des fichiers supplémentaires étaient disponibles « sur demande », sans les fournir en pratique
• Il est rare qu’une organisation à but non lucratif rende publics ses documents internes, et ils restent difficiles d’accès

La situation financière d’OpenAI

• Les états financiers publiés par OpenAI excluent les résultats de son activité commerciale et font état, pour 2022, de 44 000 dollars de revenus et de 1,3 million de dollars de dépenses
• OpenAI dans son ensemble a généré des centaines de millions de dollars de chiffre d’affaires, mais ces données ne sont pas rendues publiques
• La branche à but non lucratif d’OpenAI reçoit très peu de soutien direct du public, ce qui réduit son incitation à accroître sa transparence

L’avis de GN⁺

• L’abandon par OpenAI de sa promesse de transparence complique la compréhension du fonctionnement d’une entreprise qui exerce une influence majeure sur l’avenir des technologies d’IA
• Cette évolution pourrait affaiblir la participation du public et la confiance dans la recherche et le développement en IA
• Ce changement de politique constitue un cas important susceptible d’alimenter le débat sur la transparence et la conduite éthique dans l’industrie de l’IA

[GN⁺]

Avis sur Hacker News

• C’est décevant, mais pas surprenant. Essayons d’en tirer une leçon.

  • Dans le domaine de l’IA, il est populaire de revendiquer l’altruisme et l’ouverture, et OpenAI, Anthropic, ainsi que le nouveau xAI de Musk, ont des structures de gouvernance inhabituelles au nom de l’intérêt public. Le problème, c’est que dès qu’une de ces entreprises commence à attirer suffisamment d’attention pour entrevoir des profits de plusieurs milliards de dollars, la situation change.
  • Ce problème ne se limite pas aux entreprises d’IA, et il n’est pas nouveau non plus. Cela fait partie de la nature humaine et existera toujours.
  • Nous devrions mettre davantage l’accent et d’attention sur des modèles d’IA véritablement ouverts (données d’entraînement ouvertes, code source d’entraînement et hyperparamètres, code source du modèle, poids), afin que les bénéfices de l’IA reviennent au public plutôt qu’à une poignée d’entreprises.

• Sachant qu’OpenAI n’a plus rien partagé depuis le lancement de ChatGPT et a reçu des milliards de dollars d’investissement, il n’y a pas lieu d’être surpris qu’OpenAI soit fermé.

• OpenAI a rompu toutes les promesses qu’ils ont faites.

• Comment le conseil d’administration a-t-il pu laisser cela arriver ?

  • En y réfléchissant plus sérieusement, c’est à la fois une conséquence évidente et quelque chose d’un peu malsain.
  • Il est vrai qu’OpenAI a besoin d’énormément de financement et de capital, et qu’en conséquence il lui faut lever des fonds et nouer des partenariats.
  • Mais la seule raison pour laquelle ils ont pu exister au départ, c’est qu’ils se sont présentés comme une entreprise « ouverte », presque comme un bien public, et qu’ils ont reçu des dons sur cette base.

• Au vu de tout ce qu’on entend sur les usages potentiellement nuisibles de cette technologie pour la société, je me demande si la situation est suffisamment grave pour nécessiter une forme d’enquête afin de comprendre ce qui se passe.

  • La situation est suffisamment grave pour qu’on ne puisse pas laisser ce type de travail être privatisé.
  • Il n’y a aucun intérêt à prêter attention à l’argument selon lequel « c’est normal ». Ce n’est qu’une tentative de faire accepter ce comportement comme normal.
  • Quelqu’un sait-il s’il existe un centre pour la sécurité de l’IA agissant dans l’intérêt public, et si cette question figure dans son radar ?

• Je n’ai pas envie de défendre Musk, mais si j’étais à sa place, je serais probablement un peu agacé qu’un article commence par « de riches entrepreneurs de la tech ont promis la transparence, mais ce n’est plus le cas », puis mette huit paragraphes avant de préciser que le seul fondateur mentionné a été évincé il y a des années, qu’il est désormais un concurrent et qu’il parle d’« IA ultra fermée et maximisée pour le profit ».

  • Les médias sont accros au blâme, et toutes les nuances entre l’accusation et le titre sont reléguées en bas de l’article, cachées derrière un paywall. Peut-être que dans quelques années, ce genre de tactique sera aussi appliqué à Altman.
  • La situation est devenue tellement mauvaise que, quand je lis un titre suggérant l’hypocrisie, j’ai tendance à croire davantage l’inverse, ce qui est une déformation mentale presque aussi terrible que de supposer d’emblée que le titre est exact !

• Il aurait dû y avoir des règles, dès la création de cette organisation, pour empêcher que cela se produise. Le déroulement des événements montre que leur forme de gouvernance n’est pas efficace.

• Il ne reste plus beaucoup de temps avant qu’ils ne changent le nom de l’entreprise en « Microsoft AI ».

• Même si OpenAI essaie de se présenter comme une organisation à but non lucratif œuvrant pour le bien public, le mieux est de la considérer comme n’importe quelle autre entreprise technologique privée.