OpenAI développe sa première puce avec Broadcom et TSMC et réduit ses ambitions de fonderie

• OpenAI développe une puce d’inférence IA et abandonne son projet de réseau de fonderies
• Broadcom aide OpenAI à concevoir sa puce et à permettre sa fabrication chez TSMC
• OpenAI diversifie son approvisionnement en puces en ajoutant les puces IA d’AMD

Les efforts de conception interne de puces d’OpenAI et le recours à des partenariats industriels

• OpenAI examine diverses options pour diversifier son approvisionnement en puces et réduire ses coûts
• L’entreprise prévoit de suspendre pour le moment son ambitieux projet de fonderie et de se concentrer sur ses efforts de conception interne de puces
• La stratégie d’OpenAI montre, comme chez de grands concurrents tels qu’Amazon, Meta, Google et Microsoft, comment sécuriser l’approvisionnement en puces et maîtriser les coûts en s’appuyant sur des partenariats industriels ainsi que sur une approche combinant ressources internes et externes
• OpenAI fait partie des plus gros acheteurs de puces, et sa décision de développer des puces sur mesure tout en s’approvisionnant auprès de plusieurs fabricants pourrait avoir un impact large sur le secteur technologique
• Broadcom aide des entreprises comme Google à affiner la conception de leurs puces pour la fabrication et fournit des composants de conception qui permettent de faire circuler rapidement l’information dans les puces
• OpenAI a sécurisé, via Broadcom, des capacités de fabrication chez TSMC pour produire en 2026 sa première puce conçue sur mesure
• À l’heure actuelle, les GPU de Nvidia détiennent plus de 80 % de part de marché
• Mais les pénuries d’approvisionnement et la hausse des coûts poussent de grands clients comme Microsoft, Meta et désormais OpenAI à chercher des alternatives internes ou externes
• La décision d’OpenAI d’utiliser des puces AMD via Azure de Microsoft montre que la nouvelle puce MI300X d’AMD tente de prendre une part du marché dominé par Nvidia
• L’entraînement des modèles d’IA et l’exploitation de services comme ChatGPT coûtent cher
• OpenAI prévoit cette année 5 milliards de dollars de pertes pour 3,7 milliards de dollars de chiffre d’affaires
• Les coûts de calcul constituent la plus grosse dépense de l’entreprise, ce qui alimente ses efforts pour optimiser l’utilisation des ressources et diversifier ses fournisseurs

L’avis de GN⁺

• Les efforts de conception interne de puces d’OpenAI et sa collaboration avec divers fabricants de puces représentent un changement important dans l’industrie de l’IA. Cela pourrait faire émerger de nouvelles alternatives capables de contester la domination de Nvidia et d’accélérer le développement des technologies d’IA
• Des inquiétudes peuvent toutefois être soulevées concernant la structure de coûts d’OpenAI. Dans un contexte où le développement des modèles d’IA et l’exploitation des services entraînent des coûts massifs, des questions subsistent quant à la rentabilité et à la pérennité à long terme
• Par ailleurs, l’arrivée de nouvelles puces IA comme la MI300X d’AMD stimulera la concurrence sur le marché et offrira davantage de choix aux clients. Cela pourrait contribuer à la démocratisation et à la commercialisation des technologies d’IA
• L’intensification de la concurrence sur le marché des puces IA devrait accélérer l’innovation technologique et accroître la demande pour des puces hautes performances à faible consommation. En conséquence, les investissements dans la conception et la fabrication de puces, ainsi que la concurrence pour attirer les talents, devraient encore se durcir
• Lorsque les entreprises adoptent des puces IA, elles doivent prendre en compte de manière globale divers facteurs tels que les performances, les coûts, la compatibilité et la scalabilité. Il est essentiel de choisir la puce la plus adaptée à la feuille de route technologique et à la stratégie business de long terme

[GN⁺]

Réactions sur Hacker News

• OpenAI a abandonné son projet de construire un réseau d’usines, des « foundries », pour fabriquer des puces. La raison : le coût et le temps nécessaires.

  • Le plan d’OpenAI était de lever 7 000 milliards de dollars pour construire 36 usines de fabrication de silicium pour l’IA.
  • D’après certaines informations, les dirigeants de TSMC auraient ri en entendant parler de ce projet.

• OpenAI recrute de nombreux ingénieurs hardware venant de Google.

  • En regardant les profils LinkedIn des ingénieurs hardware d’OpenAI, on constate que beaucoup sont d’anciens employés de Google.
  • L’équipe TPU de Google serait moins forte qu’auparavant, et il est possible que les futurs TPU de Google deviennent inférieurs aux puces d’OpenAI.

• Le développement des TPU de Google a bénéficié de l’aide de Broadcom.

  • Étant donné la contribution de Broadcom au développement des TPU de Google, il est naturel que d’anciens employés de Google conservent cette relation dans leur nouvelle entreprise.

• Il y a un mouvement visant à ajouter des puces AMD et NVIDIA pour répondre aux besoins en infrastructure.

  • La demande augmente « comme une folle », ce qui pourrait entraîner des problèmes d’approvisionnement.
  • Les entreprises du Fortune 500 ne concentrent pas toutes leurs ressources au même endroit, et il est judicieux de diversifier les sources de matériel et de logiciels IA.

• Il semble qu’OpenAI construise ses propres data centers, mais l’article ne le mentionne pas clairement.

  • On se demande s’il existe en Occident un autre fabricant de puces IA / multiplication matricielle que TSMC.
  • NVIDIA, AMD, Google et OpenAI utilisent tous TSMC.
  • On se demande si Samsung n’est pas compétitif.

• On se demande combien de temps il faudra pour produire la nouvelle puce et l’utiliser pour l’entraînement et l’inférence.

• En dehors de GH Copilot, on n’a pas encore vraiment vu l’impact social ou culturel des LLMs.

  • On espère qu’il y aura des effets culturels productifs, largement diffusés dans la société et durables.

• OpenAI cherchait à obtenir un avantage concurrentiel via la conception et la fabrication de ses propres puces.

  • Des puces maison pourraient offrir un avantage important en termes de coûts.
  • Ils ont peut-être jugé qu’il suffisait de commencer par concevoir leurs propres puces.

• Dépenser 7 000 milliards de dollars pour construire ses propres usines était un plan ambitieux et téméraire.

  • Il semble qu’ils aient regardé la réalité en face et réduit leurs ambitions.
  • Espérons qu’ils maintiendront la qualité.

• Il est amusant de voir que fabriquer ses propres puces avec TSMC constitue déjà un plan « réduit ».