- Suchir Balaji, ancien chercheur d’OpenAI cité comme détenteur potentiel de témoignages et de documents dans le procès sur le droit d’auteur visant OpenAI, a été retrouvé mort le 26 novembre à son domicile de San Francisco ; les autorités ont conclu à un suicide
- Avant sa mort, Balaji avait publiquement critiqué OpenAI, estimant que l’entreprise avait violé le droit d’auteur américain lors de l’entraînement de ChatGPT et que l’utilisation des données d’entraînement ne relevait pas du fair use
- Dans un document déposé le 18 novembre devant un tribunal fédéral, le New York Times a désigné Balaji comme détenteur de “unique and relevant documents” susceptibles d’aider son action en justice
- Depuis le lancement de ChatGPT, des auteurs, programmeurs et médias ont intenté des procès contre OpenAI, l’accusant d’avoir utilisé illégalement des contenus protégés par le droit d’auteur pour l’entraînement ; le Mercury News et sept médias affiliés, ainsi que le New York Times, y participent également
- OpenAI rétorque que ses travaux sont légaux au titre du fair use et estime que des outils d’IA comme ChatGPT peuvent renforcer la relation entre éditeurs et lecteurs ainsi que l’expérience de l’actualité
Mort de Suchir Balaji et conclusions des autorités
- Suchir Balaji, ancien chercheur d’OpenAI, a été retrouvé mort le 26 novembre, à l’âge de 26 ans, dans son appartement de Buchanan Street à San Francisco
- La police est intervenue ce jour-là vers 13 h à son domicile de Lower Haight
- L’intervention faisait suite à un signalement demandant de vérifier qu’il allait bien
- La police de San Francisco et le bureau du médecin légiste en chef ont confirmé le décès cette semaine
- Le bureau du médecin légiste a conclu à un suicide
- La police a indiqué qu’il n’existait actuellement aucune preuve d’acte criminel
- La mère de Balaji a demandé le respect de sa vie privée pendant qu’elle pleure la mort de son fils
Son rôle dans le procès sur le droit d’auteur visant OpenAI
- Les informations détenues par Balaji devaient jouer un rôle important dans le procès contre OpenAI, entreprise basée à San Francisco
- Dans un document déposé le 18 novembre devant un tribunal fédéral, les avocats du New York Times ont désigné Balaji comme détenteur de “unique and relevant documents” susceptibles d’aider leur action contre OpenAI
- Il faisait partie d’au moins 12 personnes dont les noms figuraient dans des documents judiciaires comme détenant des éléments utiles à l’affaire, avant la phase de témoignages
- Beaucoup d’entre elles étaient d’anciens ou d’actuels employés d’OpenAI
Remise en cause des données d’entraînement de ChatGPT
- La mort de Balaji est survenue trois mois après qu’il a publiquement reproché à OpenAI d’avoir violé le droit d’auteur américain lors du développement de ChatGPT
- ChatGPT est un programme d’IA générative utilisé par des centaines de millions de personnes dans le monde, lancé fin 2022
- Dans une interview publiée le 23 octobre par le New York Times, il affirmait qu’OpenAI portait préjudice aux entreprises et aux fondateurs propriétaires des données d’origine utilisées pour entraîner ChatGPT
- Balaji a déclaré : « Si je crois ce que je crois, je n’ai pas d’autre choix que de quitter l’entreprise », ajoutant que « ce n’est pas un modèle durable pour l’ensemble de l’écosystème Internet »
- Fin octobre, il a publié sur son site personnel une analyse soutenant que l’utilisation des données d’entraînement de ChatGPT ne relevait pas du fair use
- Il y écrivait qu’il était difficile de trouver des facteurs jouant en faveur du fair use pour l’utilisation des données d’entraînement de ChatGPT
- Il ajoutait toutefois que cet argument ne se limitait pas à ChatGPT et pouvait s’appliquer de manière similaire à des produits d’IA générative dans de nombreux domaines
Passage chez OpenAI et évolution de son point de vue
- Balaji a grandi à Cupertino et a étudié l’informatique à l’UC Berkeley
- À l’époque, il croyait aux bénéfices potentiels que l’IA pouvait apporter à la société, notamment dans le traitement des maladies et la lutte contre le vieillissement
- Il a rejoint OpenAI comme chercheur en 2020
- À partir de 2022, son point de vue a commencé à devenir négatif
- Il s’inquiétait en particulier de son travail consistant à collecter des données sur Internet pour le programme GPT-4
- Ce programme aurait analysé les textes de presque tout Internet afin d’entraîner l’IA
- Balaji estimait que cette pratique entrait en conflit avec la loi américaine sur le fair use, qui encadre l’utilisation de publications existantes
Procès entre OpenAI et les médias
- Depuis le lancement de ChatGPT fin 2022, les poursuites contre OpenAI se sont multipliées
- Des auteurs, programmeurs informatiques et journalistes affirment qu’OpenAI a illégalement prélevé des contenus protégés par le droit d’auteur pour entraîner son programme et porter sa valorisation au-delà de 150 milliards de dollars
- Le Mercury News et sept médias d’information affiliés ont poursuivi OpenAI au cours de l’année écoulée, aux côtés de plusieurs journaux dont le New York Times
- Les médias soutiennent qu’OpenAI et Microsoft ont plagié et volé leurs articles, affaiblissant le modèle économique de l’information
- Les documents de procédure affirment que Microsoft et OpenAI s’approprient le travail de journalistes, chroniqueurs, éditeurs et autres professionnels qui produisent l’information dont dépendent les communautés, sans tenir compte de leurs droits légaux
- Microsoft entretient une relation commerciale avec OpenAI et figure également parmi les défendeurs dans la plainte du Mercury News
Réponse d’OpenAI et essor de l’IA générative
- OpenAI rejette fermement ces accusations
- L’entreprise souligne que l’ensemble de ses travaux est légal au regard du fair use
- Au moment du dépôt des plaintes, OpenAI a déclaré que des outils d’IA comme ChatGPT avaient un fort potentiel pour approfondir la relation entre éditeurs et lecteurs et améliorer l’expérience de l’actualité
- Les programmes d’IA générative fonctionnent en analysant d’immenses volumes de données issues d’Internet, puis en répondant aux prompts des utilisateurs ou en générant du texte, des images ou des vidéos
- Le lancement de ChatGPT a rapidement fait croître un secteur composé d’entreprises spécialisées dans la rédaction d’essais, la création artistique et la génération de code
- Beaucoup des entreprises les plus valorisées au monde travaillent dans l’IA ou fabriquent les puces nécessaires à l’exécution de ces programmes
- La valorisation d’OpenAI a presque doublé au cours de l’année écoulée
Informations d’aide en cas de crise
- Les personnes souffrant de dépression ou de pensées suicidaires peuvent obtenir gratuitement, 24 h/24, du soutien, des informations et des ressources d’aide auprès de 988 Suicide & Crisis Lifeline
- Il est possible de contacter le 988 par téléphone ou SMS, et de discuter via le site 988lifeline.org
1 commentaires
Avis sur Hacker News
J’ai été partenaire de projet avec Suchir dans un cours de CS à Berkeley (systèmes d’exploitation), et c’était quelqu’un de vraiment intelligent, humble et bien.
Il semblait évident qu’il allait accomplir de grandes choses. C’est vraiment horrible.
Je vois dans ce fil pas mal de commentaires froids.
Suchir n’avait que 26 ans et n’était diplômé de Berkeley que depuis trois ans. Son site personnel est https://suchir.net/.
Je trouve assez courageux qu’une personne sortie de l’université depuis seulement quelques années se soit opposée à ce qu’elle considérait comme une injustice commise par l’une des plus grandes entreprises du monde. Je ne sais pas combien de gens feraient pareil à sa place.
J’ai beaucoup de peine pour sa famille. C’était manifestement un ingénieur talentueux, et son palmarès en programmation compétitive sur LinkedIn est impressionnant. Il devait sans doute aussi avoir un compte HN.
Avant de discuter de la définition d’un lanceur d’alerte ou de théories d’assassinat, j’aimerais que chacun prenne un instant pour se demander s’il voudrait voir ce genre de messages si lui-même, ou un ami, était dans la même situation.
Si j’avais discrètement mis fin à mes jours, je voudrais que cela reste discret, mais à la seule lecture de l’article, on ne voit pas clairement à quel point cette personne était centrale dans la procédure à venir.
Il y a cette phrase : « Les informations qu’il détenait devaient jouer un rôle clé dans le procès contre l’entreprise basée à San Francisco. »
C’est vraiment triste que ce soit devenu son héritage public. Il était manifestement brillant, et s’il avait vécu quelques décennies de plus, il aurait beaucoup contribué à rendre le monde meilleur.
Cela dit, la théorie de l’assassinat reste littéralement une théorie, et au sens strict, même le mot « théorie » est trop fort. C’est plutôt de l’ordre du ouï-dire, et comme il n’y a aucune piste concrète à tirer, cette direction ne semble pas très productive.
Sur n’importe quel forum Internet, il y a toujours quelques remarques déplacées, mais elles ont déjà été reléguées plus bas.
Qu’il repose en paix.
L’expression « lanceur d’alerte » me paraît un peu confuse ici. A-t-il réellement révélé quelque chose qui n’était pas public ?
Il semble qu’il n’était pas d’accord sur la question du « fair use » et qu’il a attiré l’attention parce qu’il était un ancien de l’entreprise. Les faits eux-mêmes étaient déjà connus, tout comme le fait qu’OpenAI avait entraîné ses modèles sur des données textuelles publiques protégées par le droit d’auteur. On pourrait plutôt parler d’opposant ou de critique interne.
Il avait aussi de fortes chances de disposer de communications internes sur la légalité de son travail, et il posait ouvertement ces questions à ses supérieurs.
http://suchir.net/fair_use.html
Un texte de Suchir Balaji : Quand l’IA générative relève-t-elle du fair use ?
Il y explique avoir abordé le fair use et l’IA générative dans un article du NYT, et avoir détaillé dans un billet de blog (https://suchir.net/fair_use.html) pourquoi, selon lui, le « fair use » est difficilement une défense convaincante pour de nombreux produits d’IA générative.
Il dit avoir passé près de quatre ans chez OpenAI, dont la dernière année et demie sur ChatGPT ; au départ, il connaissait mal le droit d’auteur et le fair use, mais les procès visant les entreprises d’IA générative ont éveillé son intérêt. Après avoir approfondi le sujet, il a conclu que, pour de nombreux produits d’IA générative, la défense fondée sur le fair use était assez difficile, pour la raison fondamentale qu’ils peuvent créer des substituts concurrençant les données d’entraînement.
Il précise ne pas être juriste, mais estime important que les non-juristes comprennent aussi les textes de loi et les raisons pour lesquelles ces lois existent. Il ajoute qu’il ne souhaite pas que cette question soit lue comme une critique visant uniquement ChatGPT ou OpenAI. Il souligne que les chercheurs en machine learning devraient davantage se former au droit d’auteur, et que des précédents souvent cités, comme Google Books, ne sont peut-être pas aussi favorables qu’ils en ont l’air.
Pour quelqu’un qui n’était pas juriste, cela m’avait semblé très perspicace. Qu’il repose en paix.
Premièrement, les auteurs ne tirent pas réellement de revenus des redevances de droits d’auteur ; ils finissent par dépendre des revenus publicitaires, ce qui entraîne une dégradation du service. Les artistes, copywriters et musiciens qui voudraient vivre uniquement de redevances mourraient de faim.
Deuxièmement, le droit d’auteur se concentre de plus en plus entre les mains d’un petit nombre d’entreprises et n’apporte pas de grands bénéfices aux auteurs ou aux lecteurs réels.
Troisièmement, les concurrents des nouvelles œuvres ne sont pas vraiment les IA, mais les anciennes œuvres accumulées sur le Web au cours des 25 dernières années.
Ce dont nous avons besoin, selon moi, ce n’est pas d’un droit d’auteur plus restrictif. Les gens sont déjà passés de la consommation passive à l’interaction, et préfèrent les jeux, les réseaux sociaux et les moteurs de recherche à la télévision, à la presse et à la radio. C’est un mouvement créé par Internet, et il est irréversible.
Aujourd’hui, nous avons Wikipedia, GitHub, Linux, l’open source, le domaine public, les publications scientifiques ouvertes, et un environnement non restrictif pour le partage et les commentaires.
Si l’on pousse la protection du droit d’auteur à l’extrême, on en arrive à devoir protéger non seulement l’expression, mais aussi les idées abstraites, parce que l’IA générative peut facilement contourner l’expression. Mais empêcher la réutilisation de l’abstraction serait désastreux pour la création. À mon sens, le droit d’auteur est désormais une institution pratiquement moribonde.
La police dit désormais avoir conclu à un suicide
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir était quelqu’un de principes, et il est très possible que cette position l’ait obligé à renoncer à ses options OpenAI. Il a été rapporté que les accords de départ d’OpenAI étaient très restrictifs [1]
« Ils empêchent les anciens employés de critiquer leur ex-employeur à vie. Reconnaître même l’existence de la NDA constitue une violation
Si un employé partant refuse de signer les documents ou les enfreint, il peut perdre toutes les parts déjà acquises pendant son emploi dans l’entreprise, dont la valeur pourrait très probablement atteindre plusieurs millions de dollars »
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
À croire qu’ils considèrent même que rendre publiques les causes de la mort d’un lanceur d’alerte serait contagieux
C’est vraiment ridicule de voir OpenAI avoir aussi peur de la critique. Ils se comportent comme des enfants qui piquent une crise quand les choses ne vont pas dans leur sens, et il faut sans cesse se rappeler que, du point de vue de l’âge en tout cas, ce sont bien des adultes qui font cela
Les parts déjà acquises ne seront pas annulées, que l’employé ait signé ou non un accord de départ ou une clause de non-dénigrement
Les anciens employés sont libérés de leurs obligations de non-dénigrement
OpenAI a informé ses employés actuels et anciens qu’elle « n’a jamais annulé d’unités déjà acquises, et ne le fera pas à l’avenir »
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
Quand je dis « risible », c’est parce que les entreprises essaient parfois de faire passer de petites clauses puis s’excusent plus tard, mais dire qu’on est lié à vie relève du niveau de la comédie
Mes condoléances à sa famille. Il semble avoir été quelqu’un de très réfléchi et de principes
C’est vraiment triste. Suchir est allé dans mon lycée, et nous avons tous les deux étudié à Berkeley. Il était clairement très intelligent, et j’ai toujours été convaincu qu’il réussirait brillamment ou qu’il ferait quelque chose d’intéressant
Si lire ceci est difficile pour vous, je veux vous dire que vous n’êtes pas seul. Même si vous n’en avez pas l’impression en ce moment, le monde souhaite sincèrement que vous soyez heureux
Des chemins existent : Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
Ses parents doutent de la conclusion au suicide et demandent une seconde autopsie indépendante : https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
C’est vraiment d’une tristesse immense, et j’ai le cœur serré pour la famille et les amis de Suchir
Ayant travaillé plus de dix ans dans la tech et ayant moi-même lutté contre des pensées suicidaires, je me demande si la culture délirante de la tech dans la Bay Area n’a pas joué un rôle
Il n’y a pas seulement la culture du hustle poussée à l’extrême, mais aussi un optimisme technologique naïf qui peut rendre fou. On est entouré de gens qui pensent qu’enfreindre la loi n’est pas un problème, qui exploitent des travailleurs de pays en développement pour du support technique à bas coût, tout en croyant changer le monde en vendant des appareils de cuisine connectés. Et tout cela en passant devant des victimes d’overdose juste devant leur condo
Cette façon de penser est tellement répandue qu’on en vient à se demander si c’est soi qui est bizarre d’avoir de l’empathie ou un sens de la justice
Je ne sais rien de particulier, mais le passage d’un étudiant manifestement brillant de Berkeley à une startup impitoyable comme OpenAI a dû être un choc. C’est comme atteindre l’objectif pour lequel on a travaillé toute sa vie, pour découvrir que ce qu’on fait est complètement en décalage avec sa morale et ses valeurs
C’est vrai même si l’employeur à l’origine du problème ne se venge pas activement ; et s’il existe en plus des représailles du type listes noires partagées entre services RH du même secteur, les perspectives deviennent encore plus sombres
Le syndrome de l’imposteur est très élevé chez les ingénieurs, quels que soient leur niveau de carrière et leurs compétences. Il y a la pression propre à l’ingénierie, à laquelle s’ajoutent les autres raisons pour lesquelles les gens ressentent du stress ou de la pression, ainsi que des facteurs d’amplification propres à la Bay Area
Vous seriez surpris de voir combien de personnes brillantes et compétentes se sont effondrées. Si quelqu’un se sent seul, j’aimerais qu’il ne le pense pas. Même si tout le monde autour de vous semble heureux et sûr de lui, je peux vous garantir que bien plus de personnes qu’on ne l’imagine sont en difficulté
L’une d’elles est aujourd’hui poursuivie par la FTC pour des infractions massives. Je détestais vraiment cette mentalité immorale consistant à sacrifier absolument tout pour gagner, du confort des employés jusqu’à des actes ouvertement illégaux envers les clients