La fin de la frontière

• L’annonce de Mythos par Anthropic marque le fait qu’Internet n’est plus un espace de création sans permission que chacun peut librement explorer
• Le travail et l’intelligence sont remplacés par le capital, ce qui fige une structure où un petit nombre d’entreprises détient un avantage permanent à l’ère de l’IA
• Les politiques de modèles fermés et les restrictions d’accès via API sont justifiées au nom de la sécurité, mais ont pour effet de freiner à la fois l’innovation et la recherche en sécurité
• Le principe de base pour l’accès à l’intelligence devrait être « l’accès d’abord », et les entreprises doivent garantir des procédures transparentes et auditables
• Il faut se méfier d’une structure d’extraction de valeur coloniale où une minorité monopolise des modèles entraînés sur les données de l’humanité, et préserver l’ouverture et la créativité d’Internet

---

La fin de la frontière

• L’annonce de Mythos par Anthropic marque le fait qu’Internet n’est plus un espace sans permission que chacun peut librement explorer et dans lequel il peut créer
  • Autrefois, tout le monde pouvait accéder à la même infrastructure technologique sur Internet, sans capital ni réseau ; désormais, l’écart entre modèles ouverts et modèles fermés se creuse
  • Cela est présenté comme une fin des opportunités, comparable à la « fermeture de la frontière » dans l’histoire de la conquête de l’Ouest américain
• La structure dans laquelle le travail et l’intelligence sont remplacés par le capital s’accentue, permettant aux groupes qui possèdent le capital de conserver un avantage permanent à l’ère de l’IA
  • Rudolf Laine a décrit cela comme « une époque où le capital se transforme en travail surhumain », et George Hotz l’a nommé « néoféodalisme (neofeudalism) »
  • Si un nombre infime d’entreprises monopolise l’intelligence elle-même, le reste pourrait être relégué de façon permanente à une classe inférieure
• La politique de fermeture de Mythos chez Anthropic est critiquée non comme une simple mesure de sécurité, mais comme une structure dans laquelle des entreprises privées monopolisent des capacités de niveau étatique
  • Anthropic a annoncé Project Glasswing avec AWS, Apple et Google, mais sans ouverture au public, en réservant l’accès à ses seuls partenaires entreprises
  • Cela accroît les risques en cas d’incident de sécurité ou de fuite d’informations, et crée une situation non démocratique où des capacités de niveau national se concentrent dans des entreprises privées
• Les restrictions d’accès par API peuvent aider à prévenir les abus, mais elles freinent aussi l’innovation et la recherche en sécurité
  • Un accès ouvert permet de révéler les capacités potentielles des modèles et de rendre possible, en conditions réelles, une logique de « fail fast and fix »
  • Comme l’introduction passée d’outils de fuzzing (American Fuzzy Lop) a permis de renforcer la sécurité, un accès élargi aux frontier models pourrait lui aussi améliorer les capacités de sécurité
  • Pourtant, aujourd’hui, de nombreux chercheurs en sécurité de l’IA n’ont pas accès aux grands modèles et utilisent donc surtout des modèles open source chinois
• Le principe fondamental de l’accès à l’intelligence devrait être « l’accès d’abord », les garde-fous venant seulement ensuite
  • Les entreprises disposant de capacités de niveau gouvernemental doivent mettre en place des procédures équitables et des critères transparents, et toute restriction d’accès devrait être accompagnée d’une justification claire rendue publique
  • Être privé d’accès aux frontier models agit comme une forme d’exclusion sociale comparable à la condition des « unbanked »
  • Un devoir d’audit du niveau du FOIA (Freedom of Information Act) est nécessaire
• Le fait qu’une minorité d’entreprises monopolise des modèles entraînés sur les données de toute l’humanité ressemble à une structure coloniale d’extraction de valeur
  • La valeur est extraite des données fournies par le plus grand nombre sans leur consentement, tandis que les bénéfices se concentrent dans des réseaux internes
  • Ensuite, un même schéma se répète, visant à obtenir une légitimité morale via l’UBI ou la philanthropie
  • Même sans intention malveillante, le problème structurel de la concentration du pouvoir reste le même
• Le texte laisse aussi entrevoir un espoir autour de la personnalisation de l’IA
  • L’époque actuelle de l’IA fermée n’est peut-être qu’un âge du mainframe, avec la possibilité d’un basculement vers l’ère de l’informatique personnelle (Apple II)
  • Les modèles open source rattrapent déjà la frontière avec 3 à 12 mois de retard, et si l’offre en puces et en énergie augmente, une ère d’« intelligence trop bon marché pour être mesurée » pourrait advenir

• Il ne faut pas perdre la liberté de Wired

  • De la même manière qu’une ville coupe de vieux arbres au nom de la sécurité, il existe un risque de perdre l’ouverture et la créativité d’Internet sous l’effet d’une logique sécuritaire excessive
  • Internet reste le dernier espace de création et d’exploration porté par les individus, et il est important de le préserver