- Lors d’une audition de la commission des sciences de la Chambre des représentants des États-Unis, le PDG de Hugging Face, Clement Delangue, a souligné que la science ouverte et l’IA open source sont fortement alignées avec les valeurs et les intérêts des États-Unis
- Selon Delangue, des outils open source nés aux États-Unis comme PyTorch, Tensorflow, Keras, transformers et diffusers ont soutenu les progrès de l’IA ainsi que la position de leader des États-Unis
- Ce témoignage intervient deux semaines après que des sénateurs ont interrogé les risques de mésusage liés à la fuite de LLaMA de Meta, notamment pour le spam, la fraude, les malwares, les atteintes à la vie privée et le harcèlement
- Il a expliqué qu’une ouverture éthique donne à la société civile, aux organisations à but non lucratif, au monde académique et aux décideurs publics les moyens de contrebalancer les grandes entreprises privées et de réduire les systèmes boîte noire
- Hugging Face cherche à concilier ouverture et garde-fous en combinant model cards, restrictions d’accès, publications progressives, modération communautaire et jeux de données avec opt-in et opt-out
Plaidoyer pour l’IA open source lors d’une audition à la Chambre des représentants des États-Unis
- Le PDG de Hugging Face, Clement Delangue, a témoigné lors de l’audition plénière de la commission des sciences de la Chambre des représentants des États-Unis, Artificial Intelligence: Advancing Innovation Towards the National Interest
- Ont également participé à cette audition Jason Matheny, PDG de RAND Corporation, Shahin Farshchi, general partner chez Lux Capital, Rumman Chowdhury, fellow en IA responsable à Harvard University, et Dewey Murdick, directeur exécutif du Center for Security and Emerging Technology de Georgetown University
- Pour Delangue, les avancées récentes de l’IA ont été rendues possibles grâce à la science ouverte et à l’open source
- PyTorch, Tensorflow, Keras, transformers et diffusers ont été cités comme des technologies open source créées aux États-Unis
- Il a déclaré que sans ces technologies, les États-Unis ne seraient peut-être pas le pays leader de l’IA aujourd’hui
Une ouverture éthique mise en avant sur fond de controverse autour de LLaMA
- Le témoignage de Delangue est intervenu deux semaines après que des sénateurs ont interrogé Mark Zuckerberg au sujet de la fuite de LLaMA, le LLM open source de Meta
- Cette lettre s’inquiétait de la possibilité que LLaMA soit utilisé pour le spam, la fraude, les malwares, les atteintes à la vie privée, le harcèlement et d’autres comportements nuisibles
- La diffusion de LLaMA a fortement accru le niveau de sophistication des modèles d’IA accessibles au grand public, tout en renforçant les inquiétudes liées au mésusage ou à l’abus
- Hugging Face est une startup basée à New York, valorisée 2 milliards de dollars l’an dernier, qui s’est imposée comme un hub pour le code open source et les modèles
- En avril, Delangue a réuni plus de 5 000 personnes à un meetup autour des technologies open source organisé à l’Exploratorium de San Francisco
- Delangue affirme que la science ouverte et l’open source favorisent des dizaines de milliers de startups utilisant l’IA
- Une ouverture éthique fournit à la société civile, aux organisations à but non lucratif, au monde académique et aux décideurs publics les moyens nécessaires pour contrebalancer le pouvoir des grandes entreprises privées
- Cela permet d’éviter les systèmes boîte noire et d’accroître la responsabilité des entreprises
- Cela peut aider à atténuer les biais, réduire la désinformation, renforcer le respect du droit d’auteur et mieux rémunérer les parties prenantes, y compris les artistes et les créateurs de contenu
- L’approche de Hugging Face associe politiques institutionnelles, garde-fous techniques et incitations communautaires
- Elle inclut la documentation et les model cards, dont les model cards initiées par Dr. Margaret Mitchell
- Des restrictions d’accès aux artefacts et des publications progressives sont utilisées comme garde-fous techniques
- La modération communautaire ainsi que les jeux de données avec opt-in et opt-out font également partie de cette structure d’incitation
- Ces derniers mois, avec l’enchaînement des publications de grands modèles de langage et la contestation par des startups, des collectifs et le monde académique du basculement vers des LLM fermés et propriétaires, le débat sur l’IA open source s’est encore intensifié
1 commentaires
Réactions sur Hacker News
C’est une parfaite réduction de la façon dont le système fonctionne. Cette personne a raison, mais elle est arrivée trop tard, avec trop peu d’argent, et sans attirer assez d’attention
En face, Sam Altman est le visage d’un produit grand public, avec une excellente équipe marketing et même des lobbyistes, il a reçu des milliards de dollars de Microsoft, et il a aussi un produit que tout le monde peut essayer gratuitement
Il suffit d’arriver le premier et de développer un discours sur les risques de l’IA, puis de convaincre les élus que la technologie de pointe est dangereuse. OpenAI finit alors par être perçu comme synonyme de technologie de pointe, on suit le leader du secteur sans vraiment regarder où il va, et on en arrive là
J’aimerais que le logiciel open source soit représenté équitablement devant les tribunaux, mais les idées ne peuvent pas financer elles-mêmes leur défense, et la voix de l’argent porte trop loin
Le Congrès a mauvaise conscience d’avoir laissé les réseaux sociaux sans surveillance, et il brûle d’envie de réglementer l’IA. Il n’y avait aucun vrai désaccord pendant l’audition, et les intentions du gouvernement comme de l’industrie coïncidaient parfaitement. On déroule le tapis rouge à un contrôle centralisé, avec une réglementation pensée pour éliminer la concurrence
Ce qui tourne en local contourne les frontières réseau où l’on peut intercepter et surveiller. Poser une question à Google laisse une trace, l’historique de recherche peut être obtenu par assignation, et c’est pareil pour les registres d’emprunt des bibliothèques publiques. Un acteur de passage obligé comme OpenAI peut assurer ce rôle et prélever son péage
Si on fait la même recherche avec quelque chose comme Vicuna-13B-ggml, personne ne peut renifler ce que l’on fait. Cela semble très bien pour quelqu’un qui veut être seul, mais les implications font peur si l’on cherche à empêcher des usages plus malveillants
Malheureusement, sur ce type de sujet, le compromis est presque impossible. Le mieux serait sans doute quelque chose comme la récente loi néerlandaise, qui permet au gouvernement d’entrer sur les appareils personnels avec un motif sérieux, mais cela n’arrivera probablement pas. La seule alternative favorable au gouvernement est d’interdire les modèles locaux et même leur développement open source
Pour vaincre l’inertie du statu quo, il faut un large soutien populaire, et ce soutien n’existe pas ; il coûterait aussi très cher à acheter
L’open source est un élément indispensable pour construire une société numérique saine plus proche des valeurs que nous défendons
L’IA est importante, mais dans cette transformation globale, elle ne restera au fond qu’un petit élément. Il faut se rappeler que Bitcoin, qui cherche lui aussi à bouleverser les fondements de la vie économique, est open source
Le processus évolutif qui consiste à ancrer des capacités open source à l’échelle de la société n’est ni automatique ni manifestement bon par nature. L’exemple des cryptomonnaies ci-dessus le montre bien
Il reste encore beaucoup de technologies, d’institutions et de comportements à imaginer, développer, tester et diffuser. C’est un beau chantier pour les ingénieurs de la « société » numérique, aujourd’hui comme demain
J’ai du mal à imaginer un autre univers que la dystopie. S’il existe une vision monopolistique qui soit moralement compatible avec l’autonomie individuelle, la liberté et le contrôle démocratique, tout en étant intellectuellement honnête sur ses propres incitations, je serais sincèrement curieux de la connaître
Le CEO de Hugging Face a bien assuré. J’ai partagé à des amis et à ma famille un lien YouTube de 5 minutes, qui expliquait très bien les avantages des modèles ouverts et de l’open source
Dans ce cas, on a l’impression que la différence entre open source et logiciel libre devient assez importante
Même quand la publication est volontaire, c’est pareil si la licence limite l’usage à un « usage non commercial » ou n’autorise l’usage commercial que tant qu’on ne « concurrence pas » l’entreprise qui a publié le modèle
Les progrès de ce domaine au cours des 20 dernières années ont été énormément accélérés par cet échange. Au lieu de garder les résultats pour elles et de protéger leur recette secrète, les entreprises partagent beaucoup de détails, ce qui permet de reproduire, améliorer et valider les résultats des autres
OpenAI a créé ChatGPT, Meta a créé Llama, et Google travaille sur Bard. Llama a, dans une certaine mesure, été diffusé dans la communauté open source, et les gens l’utilisent maintenant, l’améliorent, et le comparent à leurs propres modèles et benchmarks
Au moins dans la génération d’images, on dirait que, grâce à l’entraînement crowdsourcé, les modèles ouverts produisent maintenant de bien meilleurs résultats
C’est étrange de voir Hugging Face faire la une de cette manière. Je me souviens avoir contribué un correctif vers l’été 2019, quand le projet avait autour de 4 000 étoiles ; je pensais déjà que c’était un projet assez populaire à l’époque
Quel est l’objectif final de Hugging Face ? Devenir le GitHub de l’IA ?
Ils cherchent aussi à s’étendre vers l’entraînement des modèles d’IA et l’exécution de l’inférence. Mais sur le coût de l’inférence, ils semblent très peu compétitifs face à des fournisseurs de GPU comme CoreWeave
J’aime bien le fait qu’il reste encore quelqu’un d’assez accessible sur les réseaux sociaux
Pourquoi le Congrès se mêle-t-il même de logiciels, d’open source ou d’IA ?
Le Congrès a le pouvoir de réglementer le commerce avec les pays étrangers, entre les différents États et avec les tribus indiennes
Je me demande s’il a vu le projet Bittensor, et ce qu’il en pense. Cela vaut-il la peine d’envisager une intégration ?
J’ai l’impression que cela pourrait aider ce genre de projets ainsi que le mouvement de l’IA open source
La plupart des modèles hébergés sur Hugging Face ne sont-ils pas sous une étrange licence RAIL plutôt que réellement open source ?