Longue vie à la « pénurie de GPU » — subventions open source pour l’IA

• Les modèles d’IA open source deviennent compétitifs face aux alternatives à code source fermé.
• De nombreuses petites équipes et des particuliers s’efforcent d’améliorer et d’optimiser ces modèles.
• Cependant, ces projets manquent souvent de ressources pour poursuivre le travail ou assurer leur maintenance sur le long terme.
• Pour y remédier, le programme a16z Open Source AI Grant a été lancé afin de soutenir les développeurs open source via des financements sous forme de subventions.
• Ce programme vise à offrir aux développeurs la possibilité de poursuivre leur travail sans devoir nécessairement en tirer un bénéfice financier.
• Les premiers bénéficiaires de ces subventions et les projets soutenus ont été annoncés ; ils incluent notamment des projets axés sur l’instruction tuning des LLM, le fine-tuning de LLM non censurés, ainsi que le développement de nouveaux outils pour l’inférence des modèles.
• Le programme a pour objectif de favoriser la collaboration ouverte, l’apprentissage et les avancées dans le domaine de l’IA.
• Les opinions exprimées dans cet article sont celles des personnes citées et ne reflètent pas nécessairement celles d’a16z ou de ses sociétés affiliées.
• Ce contenu est fourni à titre informatif et ne doit pas être considéré comme un conseil juridique, commercial, fiscal ou en investissement.

[GN⁺]

Avis de Hacker News

• Le programme de subventions pour l’IA soutient les individus, les équipes et les hackers du domaine de l’intelligence artificielle open source.
• Ce programme ne soutient pas les entreprises commerciales.
• Les bénéficiaires des subventions se disent reconnaissants pour ce soutien et saluent la transparence ainsi que l’équité du processus.
• Les subventions incluent l’achat de matériel comme des GPU pour soutenir des projets d’IA.
• Ce programme cherche à faire progresser l’état de l’art de l’intelligence artificielle open source et à contribuer à une meilleure compréhension de la technologie.
• Oobabooga est salué comme un excellent portail pour essayer différents modèles de génération de texte.
• Les bénéficiaires actuels sont considérés comme des personnes/équipes influentes, choisies avec discernement.
• Quelqu’un demande s’il est possible de configurer son propre GPU pour soutenir l’effort de « pénurie de GPU ».
• Cette initiative est perçue comme remarquable et comme un excellent usage des frais de gestion.
• Des suggestions sont proposées pour de futurs bénéficiaires, comme MLC LLM, ExLlama et des forks open source de l’inférence de génération de texte.
• A16z est salué pour une approche axée sur la résolution de vrais points de douleur, et l’on espère que d’autres leaders d’opinion/investisseurs en capital-risque suivront cette voie.
• Les premiers bénéficiaires sont jugés importants et solides pour permettre une expérimentation organique.
• De la curiosité est exprimée quant au fait que les projets d’IA d’image n’aient pas reçu de subventions.