La mauvaise évaluation de YC sur les LLMs pour la conception de puces

YC se trompe sur les LLMs appliqués à la conception de puces

• YC a récemment proposé, dans un appel à startups, d’utiliser des LLMs pour la conception de puces. Mais cette proposition semble mal comprendre les principaux défis de la conception de puces. Les LLMs peuvent parfois écrire du code Verilog, mais leurs performances restent inférieures à celles des humains. En particulier, les LLMs ne peuvent pas concevoir de nouvelles architectures de puces, alors que c’est le principal moteur des gains de performance des puces accélératrices modernes.

La synthèse de haut niveau, encore une fois

• La synthèse de haut niveau (HLS) a commencé en 1998, lorsque Forte Design Systems a développé un outil appelé Cynthesizer. Cet outil pouvait convertir automatiquement du SystemC en Verilog. Mais la HLS n’a pas rencontré de grand succès dans la conception de puces. Xilinx (aujourd’hui AMD) a soutenu la HLS dans le but d’accélérer les FPGA, mais les performances des outils HLS restent limitées.

Quels nouveaux accélérateurs les LLMs pourraient-ils créer ?

• Les outils HLS n’ont pas réussi à s’imposer sur les puces à forte valeur et à gros volumes. Les LLMs risquent de faire face à des défis similaires. Cependant, les LLMs peuvent aider des ingénieurs sans expertise en silicium à tirer parti de l’accélération matérielle. Par exemple, ils ont obtenu des résultats dans l’accélération FPGA pour la génomique et les charges de travail CFD.

Ce que les LLMs peuvent faire dans la conception de puces

• Les LLMs peuvent réduire les coûts de conception de puces, mais principalement pour des marchés à faible valeur. En revanche, ils pourraient être utiles pour résoudre la pénurie de personnel de vérification dans la conception de puces. Il faut deux fois plus d’ingénieurs en vérification que de concepteurs, mais il est aujourd’hui difficile de trouver de bons ingénieurs en vérification. Si les LLMs peuvent rendre la vérification plus rapide et plus simple, cela pourrait apporter une grande valeur aux entreprises de semi-conducteurs.

• En fin de compte, les LLMs rendront la conception de puces moins coûteuse. Mais cela profitera surtout aux grandes entreprises de semi-conducteurs, aux startups traditionnelles des puces et aux startups de logiciels EDA qui vendent des outils basés sur les LLMs. Les LLMs ne permettront ni de créer des puces 100 fois meilleures, ni de conquérir les marchés qui manquent encore d’accélération matérielle.

[GN⁺]

Avis Hacker News

• Certains estiment que les LLMs ont encore beaucoup de chemin à faire dans le domaine de l’EDA

  • Les LLMs comprennent mal les problèmes de conception de circuits et se trompent aussi dans les calculs
  • Les outils d’IA aident à comprendre les circuits, mais passent à côté de certaines fonctionnalités
  • Des outils spécialisés sont nécessaires

• Les LLMs peuvent être utiles pour générer des idées et pendant la phase d’apprentissage

  • Utiliser des LLMs au cœur de systèmes complexes peut poser des problèmes de fiabilité

• Avis d’une personne ayant travaillé dans l’équipe architecture DSP de Qualcomm

  • Une grande partie du temps en conception de puces est consacrée à la rédaction de documentation et aux réponses aux questions
  • Les LLMs peuvent aider à accélérer ces tâches

• Chez Silogy, tentative d’améliorer le débogage des tests à l’aide d’agents IA

  • Ils analysent le code et les logs, puis affinent leurs hypothèses en intégrant les retours des ingénieurs

• Certains estiment qu’il n’est pas facile d’appliquer les LLMs à la conception de puces

  • Quand le marché est petit ou que la puce est critique, l’efficacité des LLMs est limitée
  • La conception de puces, contrairement au logiciel, n’est pas un domaine facilement accessible aux hackers

• Réponse à l’avis selon lequel appliquer l’IA à la conception de puces est complexe

  • On s’attend à ce que les performances des LLMs s’améliorent à l’avenir
  • Des exemples de progrès des LLMs dans l’art numérique et la musique sont mentionnés

• Critiques sur la manière dont YC investit dans l’IA

  • Certains jugent que l’usage des LLMs pour la conception de puces n’est pas techniquement pertinent
  • Critique selon laquelle l’objectif de YC serait davantage la génération de revenus que l’innovation

• Certains estiment que les LLMs ne sont pas encore prêts pour la conception ASIC

  • Ils pointent l’inefficacité de l’architecture von Neumann et proposent une nouvelle approche
  • Ils suggèrent une méthode générale pour accélérer le calcul

• Avis d’une personne ayant 30 ans d’expérience dans la conception de puces

  • Il existe des tentatives d’automatiser le flux de conception à l’aide de l’IA
  • Les outils de synthèse de haut niveau sont presque jamais utilisés dans la conception réelle de puces