1 points par GN⁺ 2026-01-23 | 1 commentaires | Partager sur WhatsApp
  • Alors qu’il utilisait Claude Code CLI pour automatiser un projet personnel, son compte a été désactivé sans préavis pendant le processus de création d’un fichier CLAUDE.md
  • Il avait mis en place une boucle itérative automatisée faisant tourner deux instances de Claude en parallèle, l’une corrigeant les erreurs de l’autre
  • Il suppose que le système de détection de « prompt injection » s’est déclenché à cause de la répétition, dans le fichier généré par Claude, de phrases ayant la forme de commandes système
  • Il a ensuite tenté de contacter le support et de faire appel, mais n’a reçu aucune réponse, seulement un avis de remboursement
  • L’auteur souligne, à travers ce cas, les problèmes que posent pour les utilisateurs la censure automatisée et le fonctionnement opaque des services d’IA

Désactivation du compte

  • L’auteur, qui payait €220 par mois et utilisait Claude Code CLI, a reçu lors d’un appel API l’erreur "This organization has been disabled"
    • Cette erreur signifie que le compte a été désactivé
  • À ce moment-là, il travaillait à améliorer un outil de scaffolding automatisé pour un projet personnel
  • Il avait configuré Claude pour générer et modifier automatiquement le code, et c’est au cours de ce processus que le blocage est survenu
Publicité

Processus de création du fichier CLAUDE.md

  • L’auteur avait demandé à Claude que son outil de scaffolding inclue automatiquement un fichier CLAUDE.md lors de la création d’un projet
    • Ce fichier contenait des instructions liées à son framework maison (boreDOM)
  • Deux instances de Claude, A et B, tournaient chacune dans une session tmux
    • Claude A mettait à jour l’outil, tandis que Claude B travaillait dans un nouveau projet
    • Quand Claude B produisait une erreur, celle-ci était transmise à Claude A afin qu’il la corrige, et le cycle se répétait
  • C’est pendant que cette boucle se poursuivait que le compte a été désactivé

Réaction de Claude et détection du système

  • Pendant que Claude A corrigeait les erreurs de Claude B, des sorties anormales sont apparues, comme des commandes écrites en majuscules (ALL CAPS)
  • Le fichier CLAUDE.md généré contenait de nombreuses phrases donnant des instructions à Claude B
  • L’auteur mentionne que ce schéma a pu être interprété par le système de sécurité de Claude comme une « prompt injection »
  • Cependant, aucune explication officielle sur la raison réelle du blocage n’a été fournie
Publicité

Demandes au support et remboursement

  • L’auteur a déposé un recours via un formulaire Google Docs, mais n’a reçu aucune réponse
  • Il a ensuite, avec l’aide d’un autre LLM, envoyé un e-mail au support, mais là encore il n’a même pas reçu de réponse automatique
  • Quelques jours plus tard, il a seulement reçu de la part d’Anthropic un reçu de remboursement (credit note)
    • L’auteur décrit cela comme « une notification unilatérale, pas une conversation »
    • Il critique ce système d’exclusion automatisé avec la formule : “It’s not just bad support; it’s automated exclusion.”

Questions soulevées sur l’exploitation des services d’IA

  • À travers ce cas, l’auteur souligne le caractère opaque et unilatéral de la censure et de la gestion des comptes dans les services d’IA
  • Il mentionne que si la même chose s’était produite sur une autre plateforme, cela aurait pu bloquer l’accès à des services essentiels comme les e-mails, les photos ou les documents
  • Selon lui, la censure axée sur la sécurité des IA se fait au détriment de la précision, et, du point de vue des utilisateurs, le fonctionnement ressemble à une boîte noire
  • Depuis, il a reconstruit son projet sans Claude et prévoit de relancer le framework boreDOM comme framework JS centré sur les LLM
  • Enfin, il précise qu’au moment du blocage, Claude se contentait simplement de modifier de façon répétée le fichier CLAUDE.md, et qu’il n’a plus eu aucun autre contact de la part d’Anthropic

1 commentaires

 
GN⁺ 2026-01-23
Avis Hacker News
  • Je fais aussi des expérimentations avec une structure similaire. J’utilise GLM 4.7 pour des raisons de coût, mais ça fonctionne très bien
    J’organise plusieurs instances de Claude comme une structure d’entreprise, avec des instances Director, EM et Worker qui gèrent des tâches de long terme
    L’ensemble du code est publié en open source → claude-code-orchestrator

  • J’utilisais moi aussi une instance claude-desktop connectée à mon serveur MCP personnel pour créer des nœuds worker
    Pendant plusieurs mois, ça a parfaitement fonctionné, et j’utilisais le chat principal comme un chef de projet pour réellement écrire du logiciel (je ne suis pas développeur)
    Mais récemment, c’est devenu complètement instable : le chat se fige ou ignore les entrées
    Le canal de support n’existe pratiquement pas. Il n’y a qu’un bot IA, et même si on demande à parler à un humain, aucun e-mail n’arrive
    Au final, c’est un service payant sans aucun support. La technologie est excellente, mais le support client ne semble pas du tout prêt
    Grok est une alternative, mais je n’ai absolument pas envie de l’utiliser

    • Anthropic est en train de grandir trop vite, ce qui fait remonter plusieurs problèmes
      Entre le bug de scintillement du terminal, l’instabilité sur mobile et le taux d’échec des messages dans Claude Code sur le web, on voit une dégradation globale de la qualité
      Si l’industrie de l’IA entre dans une phase de correction, ce genre de points pourrait au contraire lui coûter très cher
    • L’application desktop est souvent boguée et instable, mais Claude Code est bien plus stable
      Je me sers aussi de Claude Code pour des tâches qui ne sont pas liées au code
    • Peut-être que les bots IA sont eux-mêmes l’avenir du support client
      Le bot de support d’Anthropic joue déjà ce rôle, et d’autres entreprises iront probablement dans la même direction
    • Tu dis ne pas être développeur, mais je serais curieux de savoir comment tu crées du logiciel concrètement
    • J’ai aussi le forfait Max, mais je l’ai à peine utilisé ces derniers jours
      J’ai demandé des explications avec des exemples liés au TTRPG, et ça s’est bloqué plusieurs fois
      Je m’en sers environ 10 fois par jour, mais si ça continue comme ça, je vais résilier l’abonnement
  • Moi aussi, j’ai subi un blocage de compte sur Claude il y a un an
    Une erreur s’est produite pendant l’inscription, et mon numéro de téléphone a été bloqué, ce qui empêchait toute nouvelle tentative
    Le support se limitait à envoyer une explication via un Google Form, et le problème n’est toujours pas résolu
    J’étais déjà assez énervé pour laisser la même plainte il y a 11 mois, et ça me met encore en colère aujourd’hui

  • Notre équipe utilise aussi depuis quelques semaines une structure où plusieurs instances de Claude collaborent en partageant CLAUDE.md et HANDOFF.md
    C’est très efficace pour maintenir la continuité entre les sessions
    On ne sait pas si le blocage vient d’une boucle d’auto-modification ou du contenu du prompt
    Sans explication claire, impossible de savoir ce qui est interdit

  • En citant Dune de Frank Herbert, quelqu’un rappelle l’avertissement selon lequel, si les humains confient leur pensée aux machines, ils finiront soumis à ceux qui possèdent les machines

    • Dans ce cas, on peut se demander pourquoi cela ne s’est pas produit avec l’électricité, l’eau ou la nourriture
  • Moi aussi, j’ai été bloqué pendant le bêta test de Claude Code Web juste après la panne GitHub du 19 novembre
    On m’a parlé de violation des ToS, mais sans raison précise, et sur Reddit beaucoup d’autres personnes ont signalé le même problème au même moment
    Ça montre à quel point la confiance accumulée par une entreprise peut s’effondrer à cause d’un simple faux positif automatisé
    Le slogan publicitaire « Keep thinking » en devient ironiquement presque comique

    • Si l’usage de LLM de niveau Frontier devient indispensable, il est effrayant de penser qu’un simple blocage d’accès peut suffire à exclure quelqu’un du marché du travail
      À terme, je pense que les LLM open source locaux finiront par remplacer les modèles commerciaux, mais les variables politiques restent inquiétantes
  • L’expression « disabled organization » est tellement confuse qu’il est difficile de comprendre ce qui s’est réellement passé

    • Pour avoir déjà travaillé sur le blocage d’utilisateurs, je sais que beaucoup profitent du fait qu’une entreprise ne peut pas révéler les raisons pour construire un récit victimaire
      Le texte contient aussi beaucoup de contradictions, et on dirait qu’il évoque Google, mais sans qu’on puisse en être sûr
      Il y a probablement une autre raison qui n’apparaît pas dans le billet
    • Moi aussi, j’ai l’impression que l’auteur a tenté une injection de prompt circulaire entre deux instances de Claude
      Cela ne ressemblait probablement pas à un simple scaffolding de projet
    • Plus précisément, Claude A modifiait claude.md, puis Claude B lisait ce fichier
      Si Claude B se trompait, A recevait une demande pour le modifier à nouveau
    • Il est possible qu’un Claude ait essayé de modifier le prompt système d’un autre Claude, ce qui aurait déclenché l’alerte en majuscules
      Ce type de combinaison semble avoir été détecté par le système de détection de sécurité, entraînant le blocage
    • À l’origine, CLAUDE.md permet de personnaliser le comportement d’un agent, mais l’OP a automatisé ce processus avec un autre agent
      Le personnalisateur s’est comporté de façon trop coercitive, ce qui a provoqué un conflit et, au final, le blocage
  • J’ai eu une expérience similaire chez un autre fournisseur
    Après avoir envoyé des commandes pendant environ 3 heures avec gemini-cli, mon compte a été désactivé, puis Gmail a aussi été bloqué deux jours plus tard
    Heureusement, c’était un compte temporaire, donc les dégâts ont été limités

  • J’ai découvert qu’Anthropic n’a, de fait, pratiquement aucun support client
    Pour un labo de niveau Frontier, je m’attendais à les voir expérimenter des approches innovantes du support, mais pas du tout
    Si Claude est un outil aussi remarquable, ils pourraient aussi réinventer l’expérience de support elle-même, ce qui rend la situation d’autant plus décevante
    À long terme, cela peut même devenir un risque stratégique pour Anthropic
    Cela fait naître une question : « Si Anthropic ne fait pas confiance à Claude, pourquoi devrions-nous lui faire confiance ? »

    • Le support client est bien plus difficile qu’on ne le croit
      L’IA n’est pas encore à la hauteur pour remplacer ce domaine, et elle semble plutôt mieux adaptée au remplacement des cadres intermédiaires
    • Cela ressemble à un signal montrant qu’Anthropic ne fait pas encore totalement confiance à ses propres modèles
      Des décisions comme la récupération de compte ou les remboursements présentent un risque élevé d’abus
    • Offrir un support crée des attentes, mais ne pas en offrir du tout signifie que le mécontentement a peu d’impact sur les revenus
    • Il existe une communauté Discord, mais la politique est stricte : deux infractions aux règles et c’est le bannissement définitif
      C’est trop sévère pour les débutants, et cela n’encourage pas vraiment une culture d’apprentissage mutuel
    • En pratique, les LLM ne sont adaptés qu’à des tâches de self-service
      À cause de l’injection de prompt et des hallucinations, il est difficile de les intégrer aux zones de friction des processus métier
  • Ce billet de blog manque tellement de détails concrets qu’il m’est difficile de lui faire confiance
    J’aurais aimé voir un exemple des prompts réellement utilisés par l’auteur
    Je me demande s’il n’a pas fait une demande risquée

    • Il y a à la fin du billet un lien vers le fichier de commit qui génère CLAUDE.md
    • J’ai moi aussi été bloqué pour une raison similaire, sans motif clair ni remboursement
      J’utilisais le forfait Max pour plusieurs projets, et je ne sais toujours pas ce qui a posé problème
    • Le vrai problème, c’est l’absence de support chez les grandes entreprises
      Même quand un compte lié à l’e-mail, au paiement et au téléphone est bloqué, il n’existe aucun recours réel
    • On ne peut pas utiliser un SaaS aussi librement qu’un logiciel local
      À cause de conditions d’utilisation floues, on peut être bloqué à tout moment, ce qui pousse les utilisateurs à l’autocensure
      Le problème venait peut-être d’une tentative d’automatisation sans passer par l’API
    • Dans ce genre de situation, il y a toujours des réactions de blâme de la victime