Le cofondateur d’OpenAI, John Schulman, annonce son arrivée chez le rival Anthropic

• Le cofondateur d’OpenAI John Schulman a annoncé lundi dans une publication sur X qu’il quitterait l’entreprise soutenue par Microsoft pour rejoindre la startup IA Anthropic, financée par Amazon
• Schulman codirigeait chez OpenAI l’équipe de post-training, chargée d’améliorer les modèles d’IA pour le chatbot ChatGPT et les interfaces de programmation destinées aux développeurs tiers
• En juin, OpenAI avait annoncé que Schulman rejoindrait son comité de sûreté et de sécurité afin de conseiller le conseil d’administration en tant que responsable scientifique de l’alignement

Les raisons du départ de Schulman

• Dans une publication sur les réseaux sociaux, Schulman a déclaré : « J’ai pris cette décision afin d’approfondir davantage ma concentration sur l’alignement de l’IA et de revenir à un travail plus technique. »
• Il a précisé qu’il ne partait pas en raison d’un manque de soutien chez OpenAI pour les nouveaux travaux sur ce sujet
• « Au contraire, les dirigeants de l’entreprise se sont montrés très engagés à investir dans ce domaine », a-t-il déclaré
• Cette décision intervient moins de trois mois après qu’OpenAI a dissous son équipe de superalignment, chargée de contrôler des systèmes d’IA susceptibles de dépasser les capacités humaines
  • Jan Leike, qui dirigeait l’équipe de superalignment, et le cofondateur Ilya Sutskever ont eux aussi quitté l’entreprise cette année
  • Leike a rejoint Anthropic, tandis que Sutskever a lancé une nouvelle société appelée Safe Superintelligence Inc.

La concurrence entre OpenAI et Anthropic

• Depuis que d’anciens employés d’OpenAI ont fondé Anthropic en 2021, les deux jeunes entreprises basées à San Francisco se livrent une compétition pour disposer des modèles d’IA générative les plus performants capables de produire un texte proche de celui d’un humain
• Amazon, Google et Meta développent également des grands modèles de langage

Les récents changements chez OpenAI

• Lorsque le conseil d’administration a évincé Altman du poste de directeur général en novembre dernier, des employés, dont Schulman, ont protesté
• À la suite de cela, Sutskever ainsi que deux autres membres du conseil, Tasha McCauley et Helen Toner, ont démissionné
• Altman a été rétabli dans ses fonctions et OpenAI a accueilli de nouveaux membres au conseil d’administration

Autres nouvelles

• Greg Brockman, cofondateur et président d’OpenAI, a annoncé qu’il prendrait un congé sabbatique jusqu’à la fin de l’année

L’avis de GN⁺

• Les mouvements de talents entre OpenAI et Anthropic montrent que la concurrence s’intensifie dans l’industrie de l’IA
• La sûreté et l’alignement de l’IA devraient devenir de plus en plus importants à mesure que la technologie progresse, comme le montre aussi la raison du départ de Schulman
• Même si les deux entreprises se concentrent sur le développement de grands modèles de langage, la prise en compte de la sûreté et de l’éthique reste indispensable pour un développement et un déploiement responsables des technologies d’IA
• Les récents conflits internes et changements de direction chez OpenAI peuvent être vus comme un exemple des douleurs de croissance que peuvent connaître des startups IA en forte expansion
• Il faudra suivre la direction que prendront OpenAI et Anthropic, ainsi que le rôle qu’ils joueront dans l’industrie de l’IA

[xguru]

Cela a été brièvement mentionné dans d'autres actualités, mais il y a vraiment beaucoup de mouvements parmi les dirigeants d'OpenAI

• Greg Brockman, cofondateur et président d'OpenAI, doit prendre un long congé jusqu'à la fin de l'année
• Peter Deng, responsable produit arrivé l'an dernier, a lui aussi quitté l'entreprise
  • OpenAI a récemment recruté son premier CFO et son premier CPO, ce qui semble avoir eu un impact sur le rôle de Deng
• OpenAI a aussi récemment réaffecté Aleksander Madry, un autre responsable de la sécurité, à un autre poste
• Le cofondateur Ilya Sutskever a quitté l'entreprise puis fondé Safe Superintelligence Inc.
• Le cofondateur Andrej Karpathy a quitté l'entreprise et fondé EurekaLabs, une société d'IA et d'éducation

[GN⁺]

Avis Hacker News

• Cela pourrait être une mauvaise nouvelle pour ChatGPT 5. Le départ d’un cofondateur vers Anthropic peut être un signal qu’OpenAI n’est plus en tête

  • Le burn annuel d’OpenAI serait d’environ 5 milliards de dollars, et si la levée de fonds se passe mal, l’entreprise pourrait devoir accepter de l’argent d’investisseurs douteux
  • Quand on choisit une voie éthique et fondée sur des principes, il arrive souvent qu’on puisse aussi y trouver un intérêt personnel

• En tant que cofondateur, cela a dû être une décision difficile. C’était le chief safety officer d’OpenAI

  • Il dit que son départ n’est pas dû à un manque d’engagement de la direction d’OpenAI envers la sécurité, mais c’est difficile à croire
  • Il est intéressant que le moment de l’annonce coïncide avec le congé sabbatique de Brockman

• GPT-4o laisse perplexe. C’est rapide, mais la qualité est moins bonne

  • Il donne souvent des réponses répétitives
  • J’ai annulé mon abonnement Plus puis je me suis réabonné, mais j’ai l’impression que cela ne vaut pas le coup
  • La dégradation rapide du forfait gratuit est agaçante
  • Les fonctionnalités « mémoire » et « conversation » ne sont que de la publicité
  • Gemini s’est beaucoup amélioré
  • Claude et Mistral ne permettent pas d’exécuter du code

• Les changements dans le domaine de l’IA ressemblent au calme avant la tempête

  • Le moment où le premier site web d’IA open source gratuit percera sera crucial
  • L’industrie des réponses IA pourrait devenir 10 fois plus grande que celle de la recherche
  • Google a fonctionné pendant 2 ans sans monétisation

• OpenAI avait 11 cofondateurs. Schulman en faisait partie

  • Schulman n’était pas à l’origine responsable de l’alignement/de la sécurité de l’IA
  • Le fondateur d’un laboratoire de recherche en IA à but non lucratif peut ne pas vouloir devenir le dirigeant d’une organisation complexe
  • Le succès d’OpenAI dépend de sa capacité à recruter et à retenir les bons talents

• Un titre plus global incluant les départs de Greg Brockman et Peter Deng

  • Lien

• Alors qu’OpenAI évolue vers un modèle orienté rentabilité, Anthropic semble davantage alignée sur les objectifs initiaux d’OpenAI

  • Je me demande comment Anthropic finance ses opérations
  • L’entreprise a reçu des investissements de 4 milliards de dollars d’Amazon et de 2 milliards de dollars de Google

• Claude 3.5 Sonnet d’Anthropic est le meilleur modèle

  • OpenAI est dans une situation où elle essaie de rattraper son retard

• « Se concentrer sur l’alignement de l’IA » ressemble à « passer plus de temps avec sa famille et ses amis »

  • Je me demande si OpenAI travaille en secret sur des applications militaires
  • Il pourrait aussi s’agir de neutraliser les modèles pour éviter les débats politiques

• Il y a une grande confiance envers l’équipe d’Anthropic