1 points par GN⁺ 4 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Le trafic des modèles de classe Mythos fera l’objet d’une conservation de 30 jours afin de détecter des schémas d’usage abusif invisibles dans un échange isolé
  • Cette condition s’applique à Fable 5 sur Bedrock, à Mythos 5, ainsi qu’aux futurs modèles de niveau de capacité similaire ou supérieur
  • Cette conservation limitée des données est une condition pour permettre à Anthropic de détecter des schémas d’abus qui ne sont pas visibles à partir d’un seul échange
  • En acceptant la conservation des données, celles-ci sortent des frontières de données et de sécurité d’AWS
  • Après 30 jours, les données sont supprimées automatiquement, sauf dans les rares cas où elles font l’objet d’une enquête de sécurité ou doivent être conservées pour des raisons légales

Champ d’application et conditions de conservation

  • La citation de l’annonce d’AWS concerne Fable 5 sur Bedrock, Mythos 5, ainsi que les futurs modèles de niveau de capacité similaire ou supérieur
  • Anthropic exige une conservation de 30 jours pour l’ensemble du trafic des modèles de classe Mythos
  • Cette conservation limitée des données vise à détecter des schémas d’abus invisibles dans un échange unique

Frontières des données et exceptions à la suppression

  • En acceptant la conservation des données, celles-ci sortent des frontières de données et de sécurité d’AWS
  • D’après la documentation d’assistance de Claude, les données sont automatiquement supprimées après 30 jours
  • Les cas inclus dans une enquête de sécurité ou soumis à une obligation légale de conservation constituent des exceptions à cette suppression automatique après 30 jours

1 commentaires

 
GN⁺ 4 시간 전
Réactions sur Hacker News
  • Le fond du problème, c’est que l’IA en tant que service est verrouillée. Les entreprises qui la fournissent ont tout intérêt à utiliser toutes ces données pour prendre de l’avance sur leurs concurrents, et elles peuvent même le faire en secret
    En plus, les forces de l’ordre seront probablement très désireuses d’y avoir accès. J’espère qu’un jour on aura de l’open source et du matériel bon marché capables de faire tourner des modèles compétents

    • C’est déjà en train d’arriver
      https://www.theguardian.com/world/2026/feb/23/openai-tumber-...
    • Est-ce vraiment vrai qu’elles peuvent le faire « en secret » ? Le zéro conservation des données (ZDR) est une clause standard dans les contrats d’entreprise, et il serait assez grave de penser qu’un fournisseur accepterait ce niveau de responsabilité tout en ignorant ses obligations contractuelles
      En plus, Anthropic dispose de certifications SOC2 et ISO27001, donc il y a quand même un certain niveau d’audit indépendant. Bien sûr, on peut imaginer qu’ils essaient aussi de dissimuler ces traces et ces logs, mais à l’inverse ils ont également un fort intérêt à ne pas collecter ces données en douce
      Cela dit, le ZDR implique souvent un montant contractuel minimum, ce qui exclut les particuliers et les petites entreprises et les laisse à la merci du fournisseur
    • Avec un audit SOC 2 Type 2, je pensais que l’auditeur devait justement vérifier les accès. Si on achète les versions payantes ou business des trois grands fournisseurs — Anthropic, Google et OpenAI — on parle bien de SOC 2 Type 2, et ces services conservent des journaux d’accès ; un auditeur indépendant ne doit-il pas vérifier que les données ne sont ni consultées ni utilisées en violation des règles ?
      Fondamentalement, c’est aussi pour ça qu’AWS signale cela dès le départ
    • La racine du problème, c’est que les gens ordinaires ne font pas assez entendre leur voix sur les problèmes qu’ils voient dans leur vie, et qu’ils finissent de fait traités comme du bétail
      Est-ce qu’on se soucie de l’avis du bétail ? Certains, peut-être, mais la plupart non
    • Tout cela est extrêmement dystopique, et je ne vois pas comment la situation pourrait s’améliorer. Quelques méga-entreprises ont accès aux ressources de calcul et à des monceaux de propriété intellectuelle volée pour entraîner des modèles secrets, sans aucune incitation à rendre quoi que ce soit en retour
      Elles peuvent dire que les modèles sont trop dangereux pour le public, affaiblir les versions publiques et ne donner accès aux vraies bonnes versions secrètes qu’aux méga-entreprises ou aux partenaires étatiques qu’elles préfèrent
      On peut espérer que les modèles à poids ouverts venus de Chine finissent par rattraper leur retard, mais au moment où ils deviendront réellement équivalents aux modèles de pointe propriétaires, il est fort probable qu’eux aussi cessent de publier les poids. Ils ne font pas ça par bonté d’âme
      Il est difficile d’imaginer ce qui pourrait faire dérailler cette trajectoire
  • C’est un comportement étrange, et cela donne un peu plus de matière à l’idée qu’Anthropic n’est pas dirigée par des gens sérieux. Appliquer cette politique à AWS/GitHub/Zed, etc., reviendrait à céder leur gros avantage dans les ventes aux entreprises et aux gouvernements à des concurrents capables de proposer des modèles aux performances comparables avec une interface à peu près correcte

    • Les concurrents capables de construire des modèles comparables salivent depuis longtemps à l’idée d’un partage de données fondé sur le consentement. Anthropic a ouvert la porte en premier, ce qui permet aux autres de faire la même chose sans porter le coût d’être les « premiers ». Je pense que les prochains modèles d’OpenAI et d’autres auront les mêmes exigences
      Depuis l’annonce de Mythos, il est clair qu’on se dirige vers un futur où les modèles les plus performants du moment ne seront plus accessibles au grand public. Non seulement ils coûteront plus cher, mais ils exigeront aussi une contrepartie sous la forme d’une validation des cas d’usage et d’un partage des données. Le modèle 5.5-Cyber d’OpenAI est pareil, donc ce n’est pas propre à Anthropic
      Si cela nous met mal à l’aise, c’est parce que nous nous sommes habitués à pouvoir essayer les nouveaux modèles brillants dès leur sortie. Mais traiter Anthropic de « stupide » dans ce fil ressemble à une forme de pensée magique dictée par l’émotion
    • Honnêtement, il est probable que les gens qui ont énormément d’argent en jeu y aient réfléchi bien davantage que la pensée fugace qui a traversé l’esprit de l’auteur de ce commentaire
    • Ils parient qu’ils pourront garder suffisamment d’avance assez longtemps si leurs concurrents ne peuvent pas distiller leurs modèles les plus puissants, et qu’au final les gens accepteront ces conditions
    • OpenAI a récemment ajouté ses propres modèles à Bedrock aussi, donc changer de fournisseur devient plus facile
    • Il est difficile de savoir quelle part de ce que dit Anthropic aujourd’hui relève du baratin marketing d’avant IPO, et combien de temps cette politique durera réellement
      Si c’est du marketing du genre « nos modèles sont si puissants qu’il faut les attacher la nuit », cela me paraît être une stratégie incroyablement mal conçue. Je vois mal meilleure façon de détruire une confiance client durement acquise
      1. Si ce que tu fais ne nous plaît pas, ou si on pense que tu pourrais nous concurrencer, on sabotera discrètement le code que tu paies pour générer
      2. Les garanties de confidentialité sont nettement affaiblies. On conservera tout ce que tu envoies pendant une durée indéterminée pendant l’enquête
        Les deux points semblent autodestructeurs, surtout quand on voit qu’Anthropic a particulièrement bien réussi à attirer des clients entreprises dans le codage, et semble aussi continuer à viser les clients militaires
        La partie sur le refus discret est vraiment inhabituelle. Je ne sais pas si cela veut simplement dire ralentir volontairement et ne pas livrer à hauteur de ce qui est payé, ou s’il s’agit d’insérer activement des altérations dans le code généré. Pourquoi ne pas simplement rejeter la requête ?
        J’imagine qu’ils veulent soutenir que le simple fait de refuser donnerait un signal trop fort sur ce qu’ils considèrent comme précieux, mais toute cette histoire d’« auto-amélioration récursive » me semble être du pipeau marketing à 100 % pour faire mousser l’IPO. Sont-ils à ce point arrogants qu’ils pensent vraiment que les autres entreprises qui développent des LLM n’ont pas compris des choses aussi basiques que l’infrastructure de développement ?
        Le simple fait qu’Anthropic considère comme un tant soit peu acceptable de faire échouer discrètement des requêtes visant à construire quelque chose qui pourrait la concurrencer est déjà suffisamment grave. Et vu l’incompétence monumentale avec laquelle « Fable » refuse certaines requêtes, ce genre de décision fera échouer discrètement bien plus de demandes que ce qui était prévu
        Les noms de modèles d’Anthropic, « Mythos » et « Fable », donnent l’impression d’avoir été inventés par un ado de 14 ans convaincu qu’un nom « épique » rendra le modèle plus puissant. Un peu comme mettre des bandes de course et un pot d’échappement bruyant sur une Honda Civic
  • Cette politique s’applique à tous les fournisseurs. L’avertissement de Cursor est ici : https://i.redd.it/7sfyker2ya6h1.png
    Anthropic a promis de ne pas entraîner ses modèles sur les données enregistrées, donc une partie des inquiétudes ici me semble mal comprise. Quel est exactement le modèle de menace ? Qu’Anthropic va violer ses conditions d’utilisation et entraîner ses modèles quand même ? Avant, on lui faisait assez confiance pour ne pas enregistrer les données, mais maintenant on ne peut plus croire sa promesse de respecter les restrictions sur l’usage des données enregistrées ?
    Certaines réponses m’ont plutôt convaincu. Cela dit, il faut aussi voir que ce changement touche surtout les utilisateurs Enterprise. Les données des offres grand public sont déjà conservées pendant 30 jours. Source : https://privacy.claude.com/en/articles/10023548-how-long-do-...

    • Le degré de confiance qu’on accorde à l’autre partie n’a pas vraiment d’importance. Dans le monde de la conformité, la seule chose qui compte est de savoir s’ils signent un contrat qui garantit cette conformité
      Nous avons ce type de contrat avec AWS, pas avec Anthropic. Si Anthropic capture physiquement les données, alors nous sortons nous-mêmes des limites de la contrepartie avec laquelle nous pouvons traiter
      À moins qu’ils ne signent les contrats et mettent en œuvre toutes les mesures de conformité correspondantes, mais si vous pensez que c’est une bonne affaire de prétendre qu’ils vont reproduire immédiatement, dans toutes les juridictions où AWS opère, ce qu’AWS a mis 10 ans à construire, vous n’êtes pas sérieux
    • Meta aussi avait promis de respecter la vie privée. Il suffit de remplacer le nom de l’entreprise par n’importe laquelle des 50 plus grandes sociétés mondiales et de regarder à quel point elles ont tenu leurs promesses, ou à quel point elles s’en sont sorties sans problème après avoir enfreint les règles
      Aux États-Unis, il n’existe pas de cadre légal capable de mettre une entreprise en faillite pour ce type de violation. Il n’y a donc aucune garantie
      Meta a mis des livres sur torrent publiquement, et personne ne leur a demandé de retirer ou de détruire leurs modèles d’IA. Pour Anthropic, ce ne serait pareil : juste un coût d’exploitation. Les modèles ont été autorisés à rester en place, et il n’y a eu aucune conséquence réelle malgré la violation des règles
    • Cela fait un fournisseur de plus à qui il faut faire confiance pour les données. L’hypothèse précédente était qu’AWS traitait les données de façon sûre, et que de toute façon les données pouvaient déjà se trouver chez AWS
      Maintenant, deux fournisseurs traitent les données, donc même si vous faites confiance aux deux de manière identique, le risque double. Si vous considérez que les contrôles de données d’AWS sont plus robustes que ceux d’Anthropic, le risque augmente de plus du double
      Il peut aussi y avoir des exigences de gouvernance des données comme les pays autorisés pour le stockage et le transfert, diverses certifications ou des contrats, et il faut désormais les étendre à un second sous-traitant de données
      En gros, si vous utilisez déjà AWS, ajouter un modèle Bedrock propre à AWS est juridiquement simple et ne change pas beaucoup votre posture de sécurité. Mais si les données doivent aussi être enregistrées chez Anthropic, le choix devient bien plus complexe
    • Les deux peuvent être vrais en même temps. On peut probablement croire qu’Anthropic n’entraînera pas ses modèles sur nos sessions Fable, mais le fait que le ZDR s’affaiblisse par rapport au standard du secteur reste un précédent dangereux
      Il existe une ressemblance entre la conservation des données et la surveillance de masse générale. Dans les deux cas, le système peut être utilisé avec des intentions purement bénéfiques s’il existe des garde-fous appropriés. Mais l’histoire montre que les systèmes de surveillance sont étonnamment faciles à détourner à des fins malveillantes. Les fournisseurs de modèles ont aussi une forte incitation à exploiter les données conservées à des fins internes
      Même si je ne pense pas que cette politique viole immédiatement ma vie privée, cela vaut quand même la peine de protester
    • Dire qu’on ne stocke pas les données et dire qu’on les conserve 30 jours pour examiner s’il y a un « problème », ce n’est pas la même chose
      Le fait de ne pas savoir qui examine quoi, comment, ni quels « problèmes » sont recherchés déclenche mon sixième sens. C’est trop vague, et ils peuvent garder ce modèle « dangereux » pour eux seuls
  • Il est presque certain que cela ne passera pas auprès des entreprises réglementées ni des clients gouvernementaux. Mais AWS doit aussi le savoir, alors je me demande pourquoi ils ont accepté

    • Pourquoi ils ont accepté est évident, mais cela mérite d’être dit. Parce que cela en vaut la peine. La demande pour ces modèles est sans précédent, et si AWS avait refusé, la seule perte pour Anthropic aurait été de décaler d’un trimestre son chiffre d’affaires pendant qu’ils préparent Fable avec les ressources de calcul récemment obtenues auprès de xAI et Google
    • GitHub Copilot est dans le même cas [1]. GitHub Copilot est davantage déployé côté gouvernement que les solutions AWS
      Anthropic tente le coup, et il reste à voir si c’est une stratégie audacieuse
      1. https://github.blog/changelog/2026-06-09-claude-fable-5-is-g...
  • Ça sent une version sophistiquée de l’espionnage industriel. Si l’on part du principe que la plupart des entreprises utiliseront cette IA à l’avenir, alors ces données iront directement dans un réseau de type Echelon, et des « informations intéressantes » fuiront vers des parties amies, comme dans le scandale Boeing contre Airbus. Cette affaire aussi avait d’abord été largement couverte, puis étouffée officiellement

    • Si c’était un programme secret d’espionnage, pourquoi en rendre une partie publique ?
      S’ils utilisaient les données pour de l’espionnage clandestin ou de la surveillance gouvernementale, ils l’auraient fait entièrement en secret
    • Ça sent plutôt l’accord secret avec le gouvernement
  • Beurk. J’espère que notre entreprise ne sera pas la seule à devoir prendre une décision difficile entre rester sur Opus 4.8, migrer vers un autre fournisseur de modèles, ou mettre à jour ses conditions en affaiblissant fortement les clauses interdisant le réentraînement des modèles et le transfert des données à des tiers
    Je comprends pourquoi Anthropic veut cela, mais cela aurait été bien plus simple si les données n’étaient envoyées à Anthropic que lorsqu’Amazon faisait d’abord tourner une analyse avec des outils Anthropic et déterminait qu’il y avait quelque chose à examiner. Dans ce cas, il aurait aussi été plus facile d’en faire une exception dans les conditions d’entreprise et la politique de confidentialité

    • Peux-tu expliquer ce qu’AWS est censé garantir actuellement, et ce que ton entreprise considère exactement comme précieux ? Je ne connais pas très bien la plateforme, mais comme pour toute autre entreprise américaine, je suppose qu’en vertu du CLOUD Act, elle fournirait les données aux autorités américaines en cas de demande légale, quel que soit l’endroit où elles sont stockées
  • Pour nous, comme ce n’est pas un sous-traitant autorisé, c’est interdit immédiatement. En plus, ils ont raté la mise à jour de la liste des sous-traitants
    Si cela avait été traité à l’intérieur du cloud, ça ne m’aurait pas dérangé, mais sans gouvernance ni contrôle, c’est impossible dès le départ

  • Cela devient un critère d’exclusion pour toutes sortes d’apps
    J’ai travaillé sur quelques apps pour le gouvernement britannique, et à leur place j’aurais clairement remonté ça comme un énorme signal d’alarme

  • Et c’est tout. Si vous faites tourner des données confidentielles sur Fable, vous les leur donnez gratuitement
    C’était peut-être déjà le cas avant, mais maintenant c’est exigé explicitement

  • Il faut reconnaître à Anthropic sa volonté de se tirer une balle dans le pied à cause de sa confiance dans les performances de Mythos

    • Ce qui est encore plus étrange, c’est que ces modèles seront fournis sans restriction uniquement aux entreprises, tout en exigeant malgré tout de conserver les données
      C’est quoi, le plan de jeu ?