AWS Bedrock exigera le partage de données avec Anthropic pour Mythos et les futurs modèles
(news.ycombinator.com)- Le trafic des modèles de classe Mythos fera l’objet d’une conservation de 30 jours afin de détecter des schémas d’usage abusif invisibles dans un échange isolé
- Cette condition s’applique à Fable 5 sur Bedrock, à Mythos 5, ainsi qu’aux futurs modèles de niveau de capacité similaire ou supérieur
- Cette conservation limitée des données est une condition pour permettre à Anthropic de détecter des schémas d’abus qui ne sont pas visibles à partir d’un seul échange
- En acceptant la conservation des données, celles-ci sortent des frontières de données et de sécurité d’AWS
- Après 30 jours, les données sont supprimées automatiquement, sauf dans les rares cas où elles font l’objet d’une enquête de sécurité ou doivent être conservées pour des raisons légales
Champ d’application et conditions de conservation
- La citation de l’annonce d’AWS concerne Fable 5 sur Bedrock, Mythos 5, ainsi que les futurs modèles de niveau de capacité similaire ou supérieur
- Anthropic exige une conservation de 30 jours pour l’ensemble du trafic des modèles de classe Mythos
- Cette conservation limitée des données vise à détecter des schémas d’abus invisibles dans un échange unique
Frontières des données et exceptions à la suppression
- En acceptant la conservation des données, celles-ci sortent des frontières de données et de sécurité d’AWS
- D’après la documentation d’assistance de Claude, les données sont automatiquement supprimées après 30 jours
- Les cas inclus dans une enquête de sécurité ou soumis à une obligation légale de conservation constituent des exceptions à cette suppression automatique après 30 jours
1 commentaires
Réactions sur Hacker News
Le fond du problème, c’est que l’IA en tant que service est verrouillée. Les entreprises qui la fournissent ont tout intérêt à utiliser toutes ces données pour prendre de l’avance sur leurs concurrents, et elles peuvent même le faire en secret
En plus, les forces de l’ordre seront probablement très désireuses d’y avoir accès. J’espère qu’un jour on aura de l’open source et du matériel bon marché capables de faire tourner des modèles compétents
https://www.theguardian.com/world/2026/feb/23/openai-tumber-...
En plus, Anthropic dispose de certifications SOC2 et ISO27001, donc il y a quand même un certain niveau d’audit indépendant. Bien sûr, on peut imaginer qu’ils essaient aussi de dissimuler ces traces et ces logs, mais à l’inverse ils ont également un fort intérêt à ne pas collecter ces données en douce
Cela dit, le ZDR implique souvent un montant contractuel minimum, ce qui exclut les particuliers et les petites entreprises et les laisse à la merci du fournisseur
Fondamentalement, c’est aussi pour ça qu’AWS signale cela dès le départ
Est-ce qu’on se soucie de l’avis du bétail ? Certains, peut-être, mais la plupart non
Elles peuvent dire que les modèles sont trop dangereux pour le public, affaiblir les versions publiques et ne donner accès aux vraies bonnes versions secrètes qu’aux méga-entreprises ou aux partenaires étatiques qu’elles préfèrent
On peut espérer que les modèles à poids ouverts venus de Chine finissent par rattraper leur retard, mais au moment où ils deviendront réellement équivalents aux modèles de pointe propriétaires, il est fort probable qu’eux aussi cessent de publier les poids. Ils ne font pas ça par bonté d’âme
Il est difficile d’imaginer ce qui pourrait faire dérailler cette trajectoire
C’est un comportement étrange, et cela donne un peu plus de matière à l’idée qu’Anthropic n’est pas dirigée par des gens sérieux. Appliquer cette politique à AWS/GitHub/Zed, etc., reviendrait à céder leur gros avantage dans les ventes aux entreprises et aux gouvernements à des concurrents capables de proposer des modèles aux performances comparables avec une interface à peu près correcte
Depuis l’annonce de Mythos, il est clair qu’on se dirige vers un futur où les modèles les plus performants du moment ne seront plus accessibles au grand public. Non seulement ils coûteront plus cher, mais ils exigeront aussi une contrepartie sous la forme d’une validation des cas d’usage et d’un partage des données. Le modèle 5.5-Cyber d’OpenAI est pareil, donc ce n’est pas propre à Anthropic
Si cela nous met mal à l’aise, c’est parce que nous nous sommes habitués à pouvoir essayer les nouveaux modèles brillants dès leur sortie. Mais traiter Anthropic de « stupide » dans ce fil ressemble à une forme de pensée magique dictée par l’émotion
Si c’est du marketing du genre « nos modèles sont si puissants qu’il faut les attacher la nuit », cela me paraît être une stratégie incroyablement mal conçue. Je vois mal meilleure façon de détruire une confiance client durement acquise
Les deux points semblent autodestructeurs, surtout quand on voit qu’Anthropic a particulièrement bien réussi à attirer des clients entreprises dans le codage, et semble aussi continuer à viser les clients militaires
La partie sur le refus discret est vraiment inhabituelle. Je ne sais pas si cela veut simplement dire ralentir volontairement et ne pas livrer à hauteur de ce qui est payé, ou s’il s’agit d’insérer activement des altérations dans le code généré. Pourquoi ne pas simplement rejeter la requête ?
J’imagine qu’ils veulent soutenir que le simple fait de refuser donnerait un signal trop fort sur ce qu’ils considèrent comme précieux, mais toute cette histoire d’« auto-amélioration récursive » me semble être du pipeau marketing à 100 % pour faire mousser l’IPO. Sont-ils à ce point arrogants qu’ils pensent vraiment que les autres entreprises qui développent des LLM n’ont pas compris des choses aussi basiques que l’infrastructure de développement ?
Le simple fait qu’Anthropic considère comme un tant soit peu acceptable de faire échouer discrètement des requêtes visant à construire quelque chose qui pourrait la concurrencer est déjà suffisamment grave. Et vu l’incompétence monumentale avec laquelle « Fable » refuse certaines requêtes, ce genre de décision fera échouer discrètement bien plus de demandes que ce qui était prévu
Les noms de modèles d’Anthropic, « Mythos » et « Fable », donnent l’impression d’avoir été inventés par un ado de 14 ans convaincu qu’un nom « épique » rendra le modèle plus puissant. Un peu comme mettre des bandes de course et un pot d’échappement bruyant sur une Honda Civic
Cette politique s’applique à tous les fournisseurs. L’avertissement de Cursor est ici : https://i.redd.it/7sfyker2ya6h1.png
Anthropic a promis de ne pas entraîner ses modèles sur les données enregistrées, donc une partie des inquiétudes ici me semble mal comprise. Quel est exactement le modèle de menace ? Qu’Anthropic va violer ses conditions d’utilisation et entraîner ses modèles quand même ? Avant, on lui faisait assez confiance pour ne pas enregistrer les données, mais maintenant on ne peut plus croire sa promesse de respecter les restrictions sur l’usage des données enregistrées ?
Certaines réponses m’ont plutôt convaincu. Cela dit, il faut aussi voir que ce changement touche surtout les utilisateurs Enterprise. Les données des offres grand public sont déjà conservées pendant 30 jours. Source : https://privacy.claude.com/en/articles/10023548-how-long-do-...
Nous avons ce type de contrat avec AWS, pas avec Anthropic. Si Anthropic capture physiquement les données, alors nous sortons nous-mêmes des limites de la contrepartie avec laquelle nous pouvons traiter
À moins qu’ils ne signent les contrats et mettent en œuvre toutes les mesures de conformité correspondantes, mais si vous pensez que c’est une bonne affaire de prétendre qu’ils vont reproduire immédiatement, dans toutes les juridictions où AWS opère, ce qu’AWS a mis 10 ans à construire, vous n’êtes pas sérieux
Aux États-Unis, il n’existe pas de cadre légal capable de mettre une entreprise en faillite pour ce type de violation. Il n’y a donc aucune garantie
Meta a mis des livres sur torrent publiquement, et personne ne leur a demandé de retirer ou de détruire leurs modèles d’IA. Pour Anthropic, ce ne serait pareil : juste un coût d’exploitation. Les modèles ont été autorisés à rester en place, et il n’y a eu aucune conséquence réelle malgré la violation des règles
Maintenant, deux fournisseurs traitent les données, donc même si vous faites confiance aux deux de manière identique, le risque double. Si vous considérez que les contrôles de données d’AWS sont plus robustes que ceux d’Anthropic, le risque augmente de plus du double
Il peut aussi y avoir des exigences de gouvernance des données comme les pays autorisés pour le stockage et le transfert, diverses certifications ou des contrats, et il faut désormais les étendre à un second sous-traitant de données
En gros, si vous utilisez déjà AWS, ajouter un modèle Bedrock propre à AWS est juridiquement simple et ne change pas beaucoup votre posture de sécurité. Mais si les données doivent aussi être enregistrées chez Anthropic, le choix devient bien plus complexe
Il existe une ressemblance entre la conservation des données et la surveillance de masse générale. Dans les deux cas, le système peut être utilisé avec des intentions purement bénéfiques s’il existe des garde-fous appropriés. Mais l’histoire montre que les systèmes de surveillance sont étonnamment faciles à détourner à des fins malveillantes. Les fournisseurs de modèles ont aussi une forte incitation à exploiter les données conservées à des fins internes
Même si je ne pense pas que cette politique viole immédiatement ma vie privée, cela vaut quand même la peine de protester
Le fait de ne pas savoir qui examine quoi, comment, ni quels « problèmes » sont recherchés déclenche mon sixième sens. C’est trop vague, et ils peuvent garder ce modèle « dangereux » pour eux seuls
Il est presque certain que cela ne passera pas auprès des entreprises réglementées ni des clients gouvernementaux. Mais AWS doit aussi le savoir, alors je me demande pourquoi ils ont accepté
Anthropic tente le coup, et il reste à voir si c’est une stratégie audacieuse
Ça sent une version sophistiquée de l’espionnage industriel. Si l’on part du principe que la plupart des entreprises utiliseront cette IA à l’avenir, alors ces données iront directement dans un réseau de type Echelon, et des « informations intéressantes » fuiront vers des parties amies, comme dans le scandale Boeing contre Airbus. Cette affaire aussi avait d’abord été largement couverte, puis étouffée officiellement
S’ils utilisaient les données pour de l’espionnage clandestin ou de la surveillance gouvernementale, ils l’auraient fait entièrement en secret
Beurk. J’espère que notre entreprise ne sera pas la seule à devoir prendre une décision difficile entre rester sur Opus 4.8, migrer vers un autre fournisseur de modèles, ou mettre à jour ses conditions en affaiblissant fortement les clauses interdisant le réentraînement des modèles et le transfert des données à des tiers
Je comprends pourquoi Anthropic veut cela, mais cela aurait été bien plus simple si les données n’étaient envoyées à Anthropic que lorsqu’Amazon faisait d’abord tourner une analyse avec des outils Anthropic et déterminait qu’il y avait quelque chose à examiner. Dans ce cas, il aurait aussi été plus facile d’en faire une exception dans les conditions d’entreprise et la politique de confidentialité
Pour nous, comme ce n’est pas un sous-traitant autorisé, c’est interdit immédiatement. En plus, ils ont raté la mise à jour de la liste des sous-traitants
Si cela avait été traité à l’intérieur du cloud, ça ne m’aurait pas dérangé, mais sans gouvernance ni contrôle, c’est impossible dès le départ
Cela devient un critère d’exclusion pour toutes sortes d’apps
J’ai travaillé sur quelques apps pour le gouvernement britannique, et à leur place j’aurais clairement remonté ça comme un énorme signal d’alarme
Et c’est tout. Si vous faites tourner des données confidentielles sur Fable, vous les leur donnez gratuitement
C’était peut-être déjà le cas avant, mais maintenant c’est exigé explicitement
Il faut reconnaître à Anthropic sa volonté de se tirer une balle dans le pied à cause de sa confiance dans les performances de Mythos
C’est quoi, le plan de jeu ?