La fin de la frontière
(tanyaverma.sh)- L’annonce de Mythos par Anthropic marque le fait qu’Internet n’est plus un espace de création sans permission que chacun peut librement explorer
- Le travail et l’intelligence sont remplacés par le capital, ce qui fige une structure où un petit nombre d’entreprises détient un avantage permanent à l’ère de l’IA
- Les politiques de modèles fermés et les restrictions d’accès via API sont justifiées au nom de la sécurité, mais ont pour effet de freiner à la fois l’innovation et la recherche en sécurité
- Le principe de base pour l’accès à l’intelligence devrait être « l’accès d’abord », et les entreprises doivent garantir des procédures transparentes et auditables
- Il faut se méfier d’une structure d’extraction de valeur coloniale où une minorité monopolise des modèles entraînés sur les données de l’humanité, et préserver l’ouverture et la créativité d’Internet
La fin de la frontière
- L’annonce de Mythos par Anthropic marque le fait qu’Internet n’est plus un espace sans permission que chacun peut librement explorer et dans lequel il peut créer
- Autrefois, tout le monde pouvait accéder à la même infrastructure technologique sur Internet, sans capital ni réseau ; désormais, l’écart entre modèles ouverts et modèles fermés se creuse
- Cela est présenté comme une fin des opportunités, comparable à la « fermeture de la frontière » dans l’histoire de la conquête de l’Ouest américain
- La structure dans laquelle le travail et l’intelligence sont remplacés par le capital s’accentue, permettant aux groupes qui possèdent le capital de conserver un avantage permanent à l’ère de l’IA
- Rudolf Laine a décrit cela comme « une époque où le capital se transforme en travail surhumain », et George Hotz l’a nommé « néoféodalisme (neofeudalism) »
- Si un nombre infime d’entreprises monopolise l’intelligence elle-même, le reste pourrait être relégué de façon permanente à une classe inférieure
- La politique de fermeture de Mythos chez Anthropic est critiquée non comme une simple mesure de sécurité, mais comme une structure dans laquelle des entreprises privées monopolisent des capacités de niveau étatique
- Anthropic a annoncé Project Glasswing avec AWS, Apple et Google, mais sans ouverture au public, en réservant l’accès à ses seuls partenaires entreprises
- Cela accroît les risques en cas d’incident de sécurité ou de fuite d’informations, et crée une situation non démocratique où des capacités de niveau national se concentrent dans des entreprises privées
- Les restrictions d’accès par API peuvent aider à prévenir les abus, mais elles freinent aussi l’innovation et la recherche en sécurité
- Un accès ouvert permet de révéler les capacités potentielles des modèles et de rendre possible, en conditions réelles, une logique de « fail fast and fix »
- Comme l’introduction passée d’outils de fuzzing (American Fuzzy Lop) a permis de renforcer la sécurité, un accès élargi aux frontier models pourrait lui aussi améliorer les capacités de sécurité
- Pourtant, aujourd’hui, de nombreux chercheurs en sécurité de l’IA n’ont pas accès aux grands modèles et utilisent donc surtout des modèles open source chinois
- Le principe fondamental de l’accès à l’intelligence devrait être « l’accès d’abord », les garde-fous venant seulement ensuite
- Les entreprises disposant de capacités de niveau gouvernemental doivent mettre en place des procédures équitables et des critères transparents, et toute restriction d’accès devrait être accompagnée d’une justification claire rendue publique
- Être privé d’accès aux frontier models agit comme une forme d’exclusion sociale comparable à la condition des « unbanked »
- Un devoir d’audit du niveau du FOIA (Freedom of Information Act) est nécessaire
- Le fait qu’une minorité d’entreprises monopolise des modèles entraînés sur les données de toute l’humanité ressemble à une structure coloniale d’extraction de valeur
- La valeur est extraite des données fournies par le plus grand nombre sans leur consentement, tandis que les bénéfices se concentrent dans des réseaux internes
- Ensuite, un même schéma se répète, visant à obtenir une légitimité morale via l’UBI ou la philanthropie
- Même sans intention malveillante, le problème structurel de la concentration du pouvoir reste le même
- Le texte laisse aussi entrevoir un espoir autour de la personnalisation de l’IA
- L’époque actuelle de l’IA fermée n’est peut-être qu’un âge du mainframe, avec la possibilité d’un basculement vers l’ère de l’informatique personnelle (Apple II)
- Les modèles open source rattrapent déjà la frontière avec 3 à 12 mois de retard, et si l’offre en puces et en énergie augmente, une ère d’« intelligence trop bon marché pour être mesurée » pourrait advenir
-
Il ne faut pas perdre la liberté de Wired
- De la même manière qu’une ville coupe de vieux arbres au nom de la sécurité, il existe un risque de perdre l’ouverture et la créativité d’Internet sous l’effet d’une logique sécuritaire excessive
- Internet reste le dernier espace de création et d’exploration porté par les individus, et il est important de le préserver
13 commentaires
Ça ressemble à de l’exagération marketing. À chaque sortie d’un nouveau modèle, c’est soi-disant le plus grand bond en avant de l’histoire, la fin de l’ère humaine, le développement est terminé donc il faut devenir plombier, etc. Les slogans excessifs et soi-disant ingénieux ont été innombrables, mais dans l’usage réel il y avait des problèmes. Et le plus important, c’est que la majorité des gens en sont encore au niveau d’un moteur de recherche avancé et n’arrivent donc pas à tirer 100 % des capacités des modèles puissants. Le goulot d’étranglement à l’ère des LLM, ce n’est ni le code ni l’infrastructure, mais paradoxalement la faible compréhension des systèmes d’information par le grand public qui envoie des prompts.
Quand on voit tous les modèles 31b qui sortent en ce moment, c’est assez impressionnant... Pour l’instant, j’ai l’impression qu’il y a encore un peu d’espoir.
Réactions sur Hacker News
Je trouve qu’il est beaucoup trop tôt pour avoir ce genre de discussion alors que l’annonce date d’à peine une semaine
Dire que « ce modèle est trop puissant pour le public » ressemble à un argument marketing
Dans quelques mois, ils vendront encore un autre modèle, puis diront ensuite que « le nouveau modèle est trop puissant pour être rendu public »
D’après ce qui se dit, Mythos est trop lent pour du codage interactif. Si le résultat n’arrive qu’au lendemain, la plupart des utilisateurs n’ont pas vraiment de raison de l’utiliser
Les labos d’IA sont toujours déficitaires, et pour publier Mythos il faudrait le facturer bien plus cher. Si la plupart des clients ne perçoivent pas la différence, ce n’est pas économiquement viable
Anthropic voulait peut-être surtout tirer parti d’un accès à des datacenters d’entraînement plus importants que ceux d’OpenAI. Mais ce dont on a besoin maintenant, ce n’est pas d’un modèle plus intelligent, c’est d’un modèle petit, bon marché et suffisamment bon
Mythos ne me semble pas différent de cette histoire
Ceux qui voulaient ralentir le développement de l’IA ont au contraire propagé ce discours et attiré l’attention, contribuant au final à la diffusion de l’IA
Il y avait d’ailleurs une étude intéressante vers 2011 sur ce phénomène, et je me souviens du cas de la marque suédoise Cheap Monday
Ils semblent croire que restreindre l’accès est au cœur de la sécurité
Mais si cette attitude aboutit à réserver les bénéfices à une minorité tout en excluant la majorité, c’est au public d’en juger la légitimité
Si ce type de fonction est exposé via une API publique, le potentiel d’abus est important
On voit déjà beaucoup de cas d’escroqueries à grande échelle ou de deepfakes utilisant l’IA
Si, en lui demandant sur du code open source de « trouver toutes les vulnérabilités possibles », il produit bien plus de résultats que les modèles existants, alors une publication limitée est un choix raisonnable
Je comprends qu’Anthropic ait réservé l’accès à des entreprises de sécurité comme Crowdstrike, Cisco et Microsoft
Si l’objectif de Glasswing est de renforcer la sécurité des infrastructures, il serait étrange de leur bloquer l’accès au motif qu’ils ont déjà connu des incidents de sécurité
Mythos sera peut-être publié un jour, mais cette diffusion restreinte ressemble à une phase de préparation pour une publication sûre
Chez NVIDIA, ils développent Nemotron pour répondre à ce type d’inquiétudes
Nemotron ne se contente pas d’être open weight, il publie aussi des données ouvertes et une recette ouverte
L’objectif est de construire une IA ouverte avec la coopération de plusieurs institutions
Nemotron 3 Super est actuellement le plus réussi, et Ultra ainsi que Nemotron 4 devraient arriver bientôt
C’est une stratégie possible parce que les opportunités pour NVIDIA grandissent aussi à mesure que l’IA progresse
Lien connexe
L’idée que « c’était une époque où même un gamin de 16 ans pouvait construire quelque chose sans capital » est plus vraie aujourd’hui qu’elle ne l’a jamais été
Si Anthropic ne peut pas publier Mythos, c’est à cause d’un manque de ressources de calcul
OpenAI doit obtenir bien plus de puissance de calcul cette année et l’an prochain
Je suis d’accord avec l’idée qu’il est « trop tôt », dans la mesure où Mythos ne semble pas très différent des autres modèles
En revanche, le cadre avancé par les critiques de l’IA selon lequel « les grandes entreprises ont pillé la société » me semble venir d’une mauvaise compréhension de la notion de propriété intellectuelle
Au lieu de cacher Mythos, Anthropic pourrait l’utiliser comme service d’audit de sécurité pour entreprises
Un service capable d’attaquer une infrastructure avec le modèle pour trouver des failles serait probablement très rentable
Par exemple, si le mainteneur d’un package npm populaire, à court d’argent, demandait à Mythos d’auditer sa bibliothèque et qu’un mois plus tard elle se faisait pirater, ce serait un gros problème
La métaphore du réseau électrique m’a marqué
On peut produire de l’électricité individuellement, comme avec le solaire, mais la plupart des gens paient une facture de service public pour l’utiliser
De la même manière, l’accès à l’intelligence devrait par principe être ouvert à tous
Les usages dangereux peuvent être limités par des garde-fous, mais la valeur par défaut devrait être l’accès autorisé
L’humanité tombe toujours dans la tentation de transformer une « technologie monstrueuse » en bien indispensable
Mais on ne peut pas garder longtemps de tels monstres en cage. Ils finissent par échapper à tout contrôle
Les opportunités de l’époque de la conquête de l’Ouest aux États-Unis étaient un phénomène exceptionnel
Dans les phases d’expansion rapide, les individus pouvaient progresser, mais quand la croissance stagne, les entreprises écrasent les individus
À mesure que le progrès technologique s’accélère, on atteint un point où des individus peuvent détruire le monde
Comme pour l’arme nucléaire, le moment est peut-être venu de restreindre l’accès individuel à l’IA
Pour réussir, il faut que le service soit lié à une célébrité
De toute façon, les concurrents finissent tous par copier mdr. « Bon, maintenant, battez-vous. »
Mais ce n’est sans doute pas un concept nouveau, non ?
Dans la finance aussi, il existe un hub financier qui dépasse les lois de tous les pays, et c’est là que tout le système financier est contrôlé.
L’IT aussi va désormais fonctionner comme ça : un hub IT se crée, les entreprises IT se coordonnent entre elles et s’opposent à tous les États, en quelque sorte.
Et quand on voit les performances de Claude, on comprend ça.
Parlez-vous d’un hub financier comme d’un groupe spécifique, tel qu’un réseau juif, ou bien de simples hubs d’intermédiation comme Hong Kong ou Singapour ?
Il faut considérer que des structures comme SWIFT ou la compensation des paiements sont en réalité aux mains des grandes puissances.
Plutôt que de leur faire contrepoids, elles tendent plutôt à être utilisées comme des outils par les acteurs les plus puissants.
Sous cet angle, j’ai l’impression que cet article aussi donne naturellement le sentiment de devenir, conformément à son intention initiale, un outil au service des plus puissants.
On dirait que l’aspect marketing est encore un peu trop présent.
C’est vrai que, si un modèle aux capacités extrêmes et quasi infinies voyait le jour, il n’y aurait sans doute aucune raison de le rendre public. Il pourrait probablement créer par lui-même une valeur ajoutée supérieure à ce que rapporterait sa tarification d’usage...
Si on les contraignait à rendre cela réellement public, le remplacement du travail et de l’intelligence pourrait au contraire faire advenir un communisme qui n’avait encore jamais pu exister dans l’histoire.
C’est un bon article qui met en lumière un point auquel je n’avais pas pensé. Merci !
En voyant des choses comme GLM5.1, je me suis dit que même avec un léger écart, les modèles open source pouvaient malgré tout continuer à rattraper régulièrement les modèles fermés payants.
On dirait que c’était prévisible... une époque où la technologie devient de la magie et où une poignée de magiciens monopolise tout..
Anthropic a inventé le B2B ?