Le point de vue de John Carmack sur le conflit entre l’open source et le mouvement anti-IA

• Il évalue positivement le fait que le code open source soit utilisé pour l’entraînement de l’IA, qu’il décrit comme « un processus qui amplifie la valeur d’un cadeau offert au monde »
• Certains voient l’open source comme un moyen de transformer la société ou de se bâtir une réputation, mais selon lui, son essence reste un « acte de don » librement partagé
• En réponse, d’autres développeurs pointent les problèmes d’une structure où les grandes entreprises ne rendent rien en retour et d’une fatigue croissante des contributeurs
• Plusieurs participants débattent sous différents angles de la relation entre l’IA et l’open source, du rôle de la GPL et des changements de l’écosystème provoqués par l’IA
• Dans l’ensemble, la combinaison de l’open source et de l’IA est perçue comme une dynamique qui améliore l’accès au développement et accélère la diffusion de la création

---

Les propos de John Carmack et l’argument central

• Carmack décrit les plus d’un million de lignes de code open source qu’il a publiées comme « un cadeau au monde »
  • Il explique que la GPL était un dispositif destiné à empêcher l’exploitation par les concurrents, mais qu’au fond, elle était surtout un moyen de permettre le partage
  • Il souligne que l’IA, en apprenant à partir de ce code, augmente la valeur de ce cadeau
• Il affirme que « l’entraînement de l’IA n’entre pas en conflit avec l’esprit de l’open source »
  • Selon lui, le but de l’open source est de permettre aux autres d’apprendre et d’améliorer, et l’entraînement de l’IA s’inscrit dans cette continuité

Réactions de la communauté et controverse

• Certains développeurs soulèvent le problème du fait que « les grandes entreprises reçoivent le cadeau sans rien rendre en retour »
  • Carmack répond que « ce n’est pas parce qu’une entreprise reçoit le cadeau que les autres ne peuvent pas en bénéficier »
  • Il exprime sa gratitude pour le code open source de PyTorch de Meta
• D’autres participants estiment que « la GPL n’est pas un cadeau mais un mécanisme de protection par la contrainte », et analysent que c’est là que se situe le point de croisement entre l’open source et le mouvement anti-IA
• Un utilisateur souligne que les PR (pull requests) absurdes générées par l’IA augmentent la charge des mainteneurs

Interactions entre open source et IA

• Plusieurs commentaires estiment que l’IA contribue à la croissance de l’écosystème open source
  • Selon les statistiques de GitHub, 36 millions de développeurs ont rejoint la plateforme en un an, et il est mentionné que l’IA a accéléré ce rythme de croissance
  • Le code open source entraîne l’IA, et l’IA améliore en retour la productivité de code des nouveaux développeurs, créant une structure circulaire
• Certains déclarent qu’à l’inverse de l’inquiétude selon laquelle « l’IA va tuer l’open source », ils préparent la publication open source de projets utilisant l’IA

Enjeux éthiques et sociaux

• Une critique demande : si l’entraînement de l’IA provoque du chômage de masse, est-ce vraiment un cadeau ?
• Un autre avis souligne que les entreprises d’IA font monter le prix du matériel et renforcent des structures monopolistiques
  • Certains jugent néanmoins cela acceptable si les modèles sont publiés en open source après un certain délai
• D’autres estiment que l’IA pourrait aussi être détournée pour développer des technologies destructrices (par exemple des armes biologiques), et demandent un renforcement de la sécurité

Différence de perception entre créateurs et développeurs

• Il est souligné que les développeurs logiciel adoptent une attitude positive envers l’usage de l’IA, tandis que le monde des arts visuels réagit souvent négativement en raison des craintes de violation du droit d’auteur
• Un développeur mentionne avoir publié en open source un outil qui génère des jeux Godot avec l’IA, mais que la réaction de la communauté a été froide
  • Il insiste néanmoins sur le fait que ce projet n’aurait été possible que grâce à la structure open source de Godot
• Certains créateurs disent que cela ne les dérange pas que leur musique soit utilisée pour l’entraînement de l’IA, voyant dans la circulation des influences et de l’inspiration l’essence même de la création

L’avenir de l’open source et le rôle de l’IA

• Une proposition avance que, pour que l’IA soit utilisée de manière éthique, il faudrait des modèles entraînés uniquement sur du code open source
• Un autre avis s’inquiète du fait que l’intermédiation par l’IA pourrait affaiblir la reconnaissance des contributions et la motivation liée à la récompense chez les développeurs
• Plusieurs participants estiment que l’open source et l’IA sont fondamentalement alignés en ce qu’ils sont tous deux des outils permettant à davantage de personnes de créer quelque chose

[GN⁺]

Avis sur Hacker News

• Autrefois, on parlait beaucoup moins de monétisation dans l’open source qu’aujourd’hui
  J’ai déjà corrigé une erreur sur Google Maps via Reddit et on m’a reproché de « travailler gratuitement pour une grande entreprise »
  Si quelque chose a été diffusé sous une licence ouverte, il faut en respecter clairement les conditions, et je trouve injuste de dire après coup « en fait, ce n’était pas ça »
  Le cœur des licences de logiciel libre, c’est que tout le monde peut en tirer profit, mais avec certaines obligations. Je pense que les gens qui ont créé des licences comme la GPL ou la MIT sont vraiment remarquables

  • Le sentiment anti-entreprise sur Reddit est un phénomène ancien. Mais envers Reddit lui-même ou certaines marques qu’ils aiment, ils font preuve d’une tolérance aveugle
    Les utilisateurs de Reddit en restent souvent à une rébellion symbolique plutôt qu’à des actes concrets. C’est pour ça que, quand quelqu’un fait quelque chose de productif, il se fait au contraire critiquer
  • Je n’ai jamais critiqué quelqu’un qui travaille gratuitement pour une grande entreprise, mais je comprends ce sentiment
    Le problème, c’est que la relation est à sens unique. Les grandes entreprises tech cherchent à maximiser leurs profits plutôt qu’à soutenir la communauté
    Je ne pense pas que le monde aille mieux juste parce que Google gagne 10 milliards de dollars de plus grâce à des bénévoles
  • À mon avis, ce changement culturel vient simplement des inégalités économiques
    Entre 1977 et 2007, les États-Unis ont été une période relativement favorable aux salariés, et c’est à ce moment-là que le F/OSS a grandi
    À l’époque, consacrer son temps libre à des contributions gratuites paraissait naturel, mais aujourd’hui la précarité rend ce luxe beaucoup plus rare
  • Les licences MIT et BSD viennent d’une tradition universitaire
    Les chercheurs sont rémunérés, mais la valeur de leurs travaux n’est récompensée qu’indirectement. C’est pourquoi il est important que d’autres reconnaissent cette valeur
  • L’open source ressemble à une forme de contrat social de coopération mutuelle
    Chacun contribue et tout le monde partage les bénéfices, mais les grandes entreprises transforment cela en mécanisme d’exploitation
    Quand on soumet des corrections à Google Maps, on n’obtient aucune récompense, seulement plus de publicité et plus de suivi. Il n’y a donc aucune raison de travailler gratuitement pour une grande entreprise

• Rendre un vieux jeu open source est un cas particulier
  Quand on bénéficie d’une stabilité financière, on a une autre attitude vis-à-vis des contributions, avec comme effet secondaire une certaine insensibilité aux inégalités de richesse

• Le fait que l’IA apprenne à partir de code open source pour générer des revenus met beaucoup de gens mal à l’aise
  Carmack dit qu’il a publié son code comme un cadeau, mais des entreprises comme Anthropic ou OpenAI en tirent des bénéfices
  Même si les auteurs d’origine ne voulaient pas d’argent, il est étrange d’ignorer que d’autres gagnent de l’argent grâce à cela

  • Je considère l’open source que j’ai créé comme un cadeau sans conditions
    Que quelqu’un en tire profit ne me dérange pas. Si le monde s’améliore ne serait-ce qu’un peu, cela me suffit
    Dans l’idéal, on devrait aussi pouvoir contribuer à l’open source depuis des projets commerciaux
  • Mais je ne vois pas pourquoi gagner de l’argent avec l’entraînement de l’IA serait plus problématique que d’utiliser simplement Linux sur des serveurs
    Même la GPL n’empêche pas les entreprises de l’utiliser sans publier de patchs
  • Publier un produit fini et assurer une maintenance continue sont deux choses complètement différentes
    Le fait que Carmack mette les deux sur le même plan est inexact
  • La nature même de l’open source a toujours été de permettre le profit d’autrui
    C’est aussi pour cela que Linus ne se met pas en colère contre les entreprises qui gagnent de l’argent avec Linux
  • Au fond, c’est une question de séparation entre le capital et le travail
    Je contribue moi aussi à l’open source tout en gagnant de l’argent grâce à l’IA, donc j’ai des sentiments partagés

• À mesure que l’IA remplace du travail, le techno-optimisme se renforce
  Des figures comme Carmack sous-estiment l’impact social de l’IA
  Même si seule une partie des emplois de bureau disparaît, l’économie peut s’effondrer, mais les personnes aisées ne ressentent pas directement ce choc

  • En réalité, les ingénieurs logiciel ont toujours été des agents de l’automatisation
    La disparition des standardistes, des dactylos ou des comptables s’inscrit dans la même logique
  • L’idée que « les syndicats, c’est pour les incompétents » s’est répandue pendant 25 ans, et on en voit maintenant les conséquences
  • Il existe très peu d’exemples de succès durables du mouvement ouvrier ayant empêché l’automatisation sur le long terme
    On peut la retarder un temps, mais la technologie finit par progresser
  • Je me demande à quels exemples historiques tu fais référence
  • Si les développeurs se retrouvent massivement au chômage, le risque de radicalisation sera très élevé
    Quand les moyens de subsistance s’effondrent, l’extrémisme progresse, avec à la clé des violences politiques comme le rejet des immigrés

• Carmack n’est pas, au fond, un militant OSS orienté maintenance
  Il a simplement publié du code terminé, sans animer une communauté sur le long terme
  C’est très bien en soi, bien sûr, mais ce n’est pas la même chose que l’open source au sens traditionnel

  • Pourtant, publier le code suffit déjà à correspondre à la définition de l’open source
    La participation à une communauté n’est pas une condition indispensable
  • Je pense comme Carmack. Les projets que je maintiens sont eux aussi, au fond, des cadeaux
    J’ai aussi la liberté de m’arrêter à tout moment
  • Beaucoup de projets open source naissent au contraire comme une composante d’une stratégie commerciale
    Comme dans le modèle « open core », on distribue gratuitement puis on facture les services additionnels
    Dans ce cas, l’entraînement de l’IA peut donner l’impression d’un simple détournement
  • Carmack avait sans doute suffisamment d’aisance financière pour ne jamais avoir à se poser la question d’une double licence
    En plus, il a lui aussi créé une entreprise d’IA
  • C’est amer de publier son code et d’entendre malgré tout que « ce n’est pas du vrai OSS »

• À mon avis, la position de Carmack est influencée par les intérêts de son entreprise d’IA
  Beaucoup d’entreprises d’IA profitent de l’open source sans rien apporter en retour
  Les licences copyleft sont un mécanisme destiné à protéger les biens communs, et l’IA brouille cette logique
  Les licences doivent être mises à jour pour rester adaptées à l’époque

  • À noter que l’entreprise d’IA de Carmack ne travaille pas directement sur les LLM
  • C’est quelqu’un de très centré sur la technologie, avec une forte sensibilité libérale

• Si Carmack peut se montrer généreux, c’est parce qu’il a déjà acquis sa liberté financière
  Quand on n’a plus besoin de travailler de toute sa vie, il est facile de donner son code
  Mais j’ai l’impression qu’il manque d’empathie

  • Il vaut mieux répondre par des arguments que par des attaques personnelles
    Le fait qu’il soit riche n’est pas le vrai sujet
  • La GPL n’existe pas pour faire de l’argent, mais pour garantir la liberté des utilisateurs
    Si on veut monétiser, il faut choisir une autre licence
  • Il est plus efficace de convaincre par la logique que par la critique
  • Si l’argent est nécessaire, il faut dès le départ en faire un logiciel payant
  • L’altruisme de l’open source n’est pas l’apanage d’une génération particulière
    Le rejet de l’IA vient souvent plutôt d’une baisse de qualité technique ou de problèmes environnementaux

• Si l’IA apprend du code sous GPL pour produire du code fermé, cela menace l’écosystème FOSS

  • En réalité, les violations de la GPL étaient déjà courantes avant l’IA
    L’IA peut aussi servir utilement à supprimer des abstractions inutiles. C’est libérateur quand on peut remplacer cela par un simple script
  • On voit déjà des cas où l’IA blanchit le code (rewrite) pour lui donner une autre structure
  • Si le même code est copié tel quel, le droit d’auteur s’applique, mais s’il est modifié de façon significative, ce n’est plus le cas
    Les cas où l’IA ignore le droit d’auteur devraient être traités comme des cas d’échec
  • L’IA sert fondamentalement d’outil de blanchiment de propriété intellectuelle
    Les entreprises applaudissent, mais les créateurs s’en sentent menacés

• La plupart des projets FOSS ne sont pas des cadeaux absolus, ils impliquent aussi une logique de compensation
  La MIT exige l’attribution, la GPL l’attribution et une obligation de partage
  L’IA pose problème parce qu’elle supprime cette attribution et reproduit le code

  • Peut-être que, rétrospectivement, Carmack se dit qu’il aurait préféré choisir une licence encore plus permissive
  • Pour ma part, je préfère plutôt des licences totalement libres qui n’exigent même pas d’attribution
    À condition de rester compatibles avec la GPL
  • Certains répondent aussi : « pourquoi est-ce un problème, puisqu’on peut toujours l’utiliser ? »

• Je ne suis pas opposé à l’IA, mais le fait de changer une licence via une réécriture par IA revient à mépriser l’effort humain
  Faire apprendre à une IA les tests ou l’API d’un code existant, puis prétendre qu’« elle l’a réécrit de zéro », cela se rapproche du vol
  Si cette pratique est autorisée, on pourrait aller vers la fin de la propriété intellectuelle
  À une époque où l’IA assiste de plus en plus le travail humain, il faut clarifier la propriété des créations

  • Mais si, à la place de « l’IA », c’était une « équipe de développement » qui faisait la même chose, est-ce que ce serait toujours du vol ?
    Je pense que vouloir protéger l’API elle-même par le droit d’auteur est une idée dangereuse