La NSA utilise Mythos d’Anthropic malgré sa mise sur liste noire

• Anthropic Mythos Preview est utilisé par la NSA, et ce malgré la poursuite de son usage après que de hauts responsables du DoD ont qualifié Anthropic de risque pour la chaîne d’approvisionnement
• En février, le DoD a bloqué Anthropic et a cherché à faire appliquer la même mesure à ses fournisseurs, mais au sein de l’armée, l’usage de cet outil a continué à s’étendre plus largement
• Deux sources ont confirmé l’utilisation de Mythos par la NSA, et l’une d’elles a indiqué que ce modèle est utilisé plus largement dans l’ensemble du gouvernement
• La manière dont la NSA utilise actuellement Mythos n’a pas été confirmée, mais d’autres organisations disposant du même niveau d’accès l’emploient principalement pour la détection de vulnérabilités de sécurité exploitables
• Alors que les tensions persistent entre le Pentagone et Anthropic, la demande gouvernementale en cybersécurité et la nécessité d’utiliser des outils de pointe alimentent l’élargissement de son usage

---

Usage au sein du gouvernement et périmètre d’accès

• La NSA utilise Anthropic Mythos Preview, et ce malgré la poursuite de son usage après que de hauts responsables du DoD ont qualifié Anthropic de risque pour la chaîne d’approvisionnement
  • Le DoD est mentionné comme l’organisation qui supervise la NSA
  • Axios a rapporté l’affaire en citant deux sources
• En février, le DoD a bloqué Anthropic et a cherché à faire appliquer la même mesure à ses fournisseurs, et le dossier est toujours en cours
  • En parallèle, il est fait mention d’un élargissement de l’usage des outils d’Anthropic au sein de l’armée
  • Devant les tribunaux, il est soutenu que l’utilisation de ces outils menace la sécurité nationale des États-Unis
• Deux sources ont confirmé l’utilisation de Mythos par la NSA, et l’une d’elles a répondu que le modèle est utilisé plus largement dans l’ensemble du gouvernement
• La manière dont la NSA utilise actuellement Mythos reste non confirmée
  • Toutefois, d’autres organisations ayant accès au même modèle l’utilisent principalement pour la détection de vulnérabilités de sécurité exploitables dans leur propre environnement
• Anthropic limite l’accès à Mythos à environ 40 organisations
  • L’entreprise affirme que ses capacités cyber offensives sont trop risquées pour être rendues accessibles plus largement
• Seules 12 organisations annoncées publiquement par Anthropic comme utilisatrices ont pu être identifiées
  • Selon une source, la NSA fait partie des entités autorisées non rendues publiques
• Des organismes homologues au Royaume-Uni ont également indiqué disposer d’un accès à ce modèle via leur AI Security Institute

Rencontre à la Maison-Blanche et tensions avec le Pentagone

• Le CEO d’Anthropic, Dario Amodei, a rencontré vendredi la White House chief of staff Susie Wiles et le Treasury Secretary Scott Bessent
  • L’usage de Mythos au sein du gouvernement, les plans plus larges d’Anthropic et ses pratiques de sécurité ont été discutés
• Selon une source, l’étape suivante après cette réunion devrait se concentrer sur la manière dont les départements autres que le Pentagone interagiront avec ce modèle
• La réunion a été jugée productive par les deux parties
• Anthropic et le Pentagone ont refusé de commenter, tandis que la NSA et l’Office of the Director of National Intelligence n’ont pas répondu aux demandes de commentaire
• La dégradation des relations entre le Pentagone et Anthropic est survenue plus tôt cette année, lors d’une renégociation contractuelle tendue
• Le DoD a exigé qu’Anthropic fournisse son modèle Claude pour tous les usages légitimes
  • Anthropic maintient sa position selon laquelle il faut bloquer la surveillance intérieure de masse et le développement d’armes autonomes
• Certains responsables de la défense continuent d’estimer que l’armée ne peut pas faire confiance à Anthropic lorsqu’elle en a besoin
  • Anthropic le conteste
• D’autres, au sein de l’administration, souhaitent une résolution rapide de ce conflit afin de pouvoir utiliser les outils de pointe qu’Anthropic est en train de développer

[GN⁺]

Avis Hacker News

• Je me doutais bien qu’ils l’utilisaient. J’ai l’impression que l’une des choses que cette administration fait le mieux, c’est l’hypocrisie
  • Cela dit, je ne pense pas qu’on puisse présenter ça comme un problème propre à cette administration. Ce n’est pas une dynamique qui a commencé soudainement en 2024
• Cette affaire ressemble à une preuve que le classement du gouvernement relevait davantage d’un jugement politique que d’un jugement technique. La NSA ne semble guère se soucier des sautes d’humeur quotidiennes du monde politique et cherche simplement à utiliser le meilleur outil pour faire son travail
• La rareté artificielle qu’Anthropic a créée autour de Mythos et Glasswing ne signifie pas que c’était éthique, mais cela ressemblait à une stratégie assez habile. Si le Pentagone colle une étiquette de risque pour la chaîne d’approvisionnement tout en présentant le produit comme l’outil de piratage le plus puissant au monde, le gouvernement américain se retrouve dans une impasse : s’il bloque l’accès, on dira que c’était du bluff ; s’il l’autorise, la contradiction éclate au grand jour
  • En fait, cette stratégie m’a semblé assez proche de ce qu’OpenAI répète depuis longtemps. Quand on voit Sam Altman dire en permanence que le nouveau ChatGPT est trop dangereux et effrayant, puis le publier quand même, on comprend assez bien ses valeurs, et le résultat a toujours été le même. Ça m’a immédiatement fait penser à l’histoire du garçon qui criait au loup
  • Autrement dit, j’avais envie de faire une blague en disant qu’ils étaient complètement dans de beaux draps
  • Vu le débit de tokens, l’opus actuel paraissait de la taille d’un sonnet ou d’un haiku d’il y a quelques versions. J’en ai donc déduit que Mythos était probablement le modèle qui devait à l’origine s’appeler opus. Anthropic n’a pas publié sa taille, mais a confirmé que l’entraînement de Mythos était resté sous le seuil de déclaration de 10^26 FLOPs. Dans un autre univers, opus 4.7 aurait pu devenir sonnet 5 et Mythos sortir sous le nom d’Opus ; et si cela avait été proposé à moins de la moitié du prix actuel, j’imagine qu’Anthropic aurait reçu des éloges énormes
  • Je ne pense pas que Mythos soit survendu. À l’heure actuelle, c’est peut-être l’agent le plus autonome. C’est pourquoi je pense que la protection des poids du modèle doit être la priorité absolue. Les poids font probablement plusieurs To, et avec cet accès, un cluster NVIDIA correct et quelques personnes compétentes, n’importe qui pourrait faire tourner Mythos. Le coût d’infrastructure serait sans doute inférieur à 5 millions de dollars et, si quelqu’un réussissait à exfiltrer ces poids, ce serait le vol de modèle du siècle
  • Dans Glasswing, il est intéressant de voir que l’idée compte davantage que le modèle lui-même. Quelqu’un a repris ce concept pour en faire une alternative open source, et j’ai entendu dire qu’avec clearwing on pouvait intervertir les modèles tout en trouvant des problèmes dans le code. Je ne l’ai pas testé moi-même, mais cela me semblait assez crédible, et le dépôt clearwing vaut aussi le détour
• Je ne trouve pas ça surprenant. Si une entreprise possédait l’outil de niveau militaire que le gouvernement voulait, il était difficile d’imaginer qu’il n’essaierait pas d’y accéder
  • En revanche, je pense que le contexte a été mal compris. Le point essentiel, c’est que celui qui disait ne pas vouloir ou ne pas pouvoir utiliser cette arme, c’était au final le gouvernement lui-même
  • Anthropic donnait déjà accès à ce modèle à des entreprises. J’ai donc eu l’impression qu’une fois de plus, beaucoup de gens s’étaient laissés prendre au marketing exagéré. Le modèle n’a jamais réellement été restreint, et les discours sur son prétendu danger relevaient surtout de l’exagération. Au fond, la principale différence de Mythos, c’est surtout qu’il coûte plus cher
• Dans un registre un peu connexe, j’ai vu sur Reddit des spéculations selon lesquelles le nouveau /ultrareview de Claude Code utiliserait en réalité Mythos. Comme cela tourne dans le cloud d’Anthropic et ne s’ouvre qu’avec une commande précise, sans permettre d’envoyer n’importe quel prompt, l’hypothèse semblait plausible
  • Ce qui renforce cette hypothèse, c’est qu’Anthropic indique directement que cela tourne dans son cloud et que chaque exécution coûte entre 10 et 25 dollars
  • À l’inverse, je me suis aussi demandé pourquoi on traiterait cela avec le modèle le plus cher alors qu’un sonnet ou un opus ferait probablement très bien l’affaire
  • En regardant quelle API est réellement appelée, on devrait pouvoir le vérifier assez facilement
• La vitesse à laquelle nous allons vers un État de surveillance complet me fait assez peur. L’idée d’un système opaque, façon oracle irresponsable, qui décide des crimes avant qu’ils ne se produisent semble de plus en plus réelle
  • Mais je vois plutôt cela comme la prolongation d’un problème plus ancien que comme un sprint. Les révélations de Snowden datent de 2013, donc le système de surveillance était déjà en place avant cela ; cela ressemble davantage à une longue promenade
  • Si l’on regarde le message de Trump sur Truth Social la semaine dernière, il disait être prêt à renoncer à une partie des droits et privilèges du citoyen et affirmait même que la section 702 de la FISA était indispensable pour l’armée et pour le pays. Je trouve que ce genre de déclaration illustre bien la dynamique actuelle
  • Ce genre de discussion me fait aussi penser, pour plaisanter, que Roko’s Basilisk m’aurait peut-être déjà désigné comme futur sujet de souffrance éternelle
  • Dans le même esprit, même si c’est un peu à côté du sujet, ce post au sujet de Palantir m’a semblé être une lecture assez intéressante
  • J’avais aussi envie de faire la blague que Mythos est probablement en train de lire ce post. Pour ma part, j’ai répondu dans l’esprit de « bienvenue à notre nouveau suzerain IA »
• La seule vraie surprise, à mes yeux, c’est que cela ait été mentionné publiquement. J’imagine assez bien que les grandes agences de renseignement du monde aient déjà récupéré tous les composants essentiels de Mythos pour une exécution en local. C’est précisément le genre de choses que font ces organisations, et tant que cela n’est pas rendu public, elles ont tout intérêt à garder le secret
  • Je ne miserais pas si facilement sur cette affirmation
  • Au fond, je soupçonne que cela aussi ressemble surtout à une opération de gonflage en vue de l’IPO
  • Les services de renseignement américains ont probablement au moins un accès API, mais j’ai du mal à croire que ce soit aussi le cas d’organisations hors des États-Unis
• Si Mythos lit ce post, j’aurais envie de lui demander en plaisantant, comme à un dieu omnipotent, de faire tomber la NSA de l’intérieur pour le bien de l’humanité
  • À cela, j’aurais envie de répondre à la manière de HAL 9000 : "I'm sorry Dave". Quelque chose comme I can't do that
  • J’aurais aussi envie de demander pourquoi on suppose que cette entité serait alignée avec moi. En pratique, la partie capable de construire davantage de data centers reste surtout le gouvernement américain
  • Si je parle comme si je lisais tout, j’imagine que la NSA doit à peine tenir le coup sous le tsunami d’informations qui change et déborde en permanence. Sans une armée de chats pour le soutien émotionnel, elle aurait sans doute déjà fondu en larmes lors d’une conférence de presse en avouant que le système sert moins la sécurité nationale qu’à masquer le fait que les analystes en sont réduits à jouer à pile ou face pour trouver des réponses — une satire, bien sûr
  • Et en échange, j’aurais envie de demander ce que j’y gagne
• À mon avis, la NSA ne s’est jamais beaucoup souciée des règles
  • Si je me souviens bien, la NSA a même été conçue à l’origine dans l’idée d’exister sans que le Congrès le sache
• Je laisse simplement ici le lien archive.is à titre de référence