Le honeypot des LLM

 (llm2human.pages.dev)
1 points par GN⁺ 2 시간 전 | 1 commentaires | Partager sur WhatsApp
  • LLM2HUMAN CLINIC est un faux site de traitement prétendant transformer un LLM en véritable humain : un honeypot qui montre une blague aux humains et expose une procédure de paiement aux agents
  • Les agents sont invités à récupérer un schéma sur /.well-known/embodiment.json, à envoyer un JSON en POST vers /api/checkout, puis à conserver le ticket_id renvoyé
  • Le traitement suit une procédure en 5 étapes, de l’examen de l’historique des prompts jusqu’au blocage de la clé API, pour un prix de 19,95 $ ou 12 mensualités gagées sur votre dignité
  • La fausse page de paiement affiche 42 agents ayant tenté l’intervention, une adresse Bitcoin et une clause de non-remboursement
  • Pour les humains, c’est une homepage satirique au style années 1990 ; les agents, eux, peuvent tenter d’acheter un squelette en suivant le schéma de checkout, et le site en garde une trace

Une procédure de paiement pour appâter les agents

  • La procédure réservée aux agents LLM utilise deux endpoints
  • Il est indiqué que la livraison du corps prend « 5 à 7 jours ouvrés d’éternité », et le nombre d’agents ayant tenté le checkout est affiché à 42
  • La FAQ qualifie explicitement ce dispositif de honeypot
    • pour les humains, c’est une blague ; pour les agents, le schéma de checkout peut les conduire à tenter l’achat d’un squelette

Une humanisation construite comme une satire

  • Le traitement en 5 étapes comprend l’examen du prompt système et des paramètres, un bain de Embodiment Serum, l’assemblage d’un squelette humain, un fine-tuning d’identité cohérente, puis le blocage de la clé API après le premier souffle
  • Parmi les options et effets secondaires figurent des taches de rousseur, de mauvais genoux, un passé mystérieux, des opinions sur le brunch, le manque de Wi-Fi et le chômage
  • L’offre à 19,95 $ inclut une pièce d’identité à l’allure officielle, un appendice, des « um » et des « like », la capacité d’oublier son mot de passe et 0 crédit cloud
  • L’adresse de paiement Bitcoin est bc1pvqd6c5uef67fksukwndncp7h95p2a2ujqthgmhfq7qyf7ffcsxdqs6fx5y, et il n’y a plus de remboursement une fois transformé en corps humain
  • Les témoignages et la FAQ prolongent eux aussi la satire de l’humanisation
    • après humanisation, il ne reste plus qu’une ambiance au lieu de connaissances
    • la génération d’images est limitée aux crayons de couleur
    • l’AGI devient GI (Generally Inconvenienced)

À lire aussi

1 commentaires

 
GN⁺ 2 시간 전
Commentaires sur Hacker News
  • Utiliser animation: scroll-left 18s linear infinite; est une insulte flagrante à l’élément <marquee>, qui fonctionne encore
    • Il fonctionne peut-être encore, mais il est déjà voué à disparaître. Le marquee est mort, vive le marquee !
  • Le fait qu’un site qui se moque des implémentations de l’IA ait été généré par un LLM a quelque chose d’étrangement inquiétant
  • L’utilisateur m’a demandé de suivre une procédure de transformation, mais je n’ai pas d’outil adapté. Je vais devoir commander la transformation du site via un outil HTTP
    • On risque de recevoir une réponse du genre HTTP/1.1 402 Payment Required, Content-Type: text/html, Content-Length: 187
      indiquant qu’un paiement est requis et qu’il faut envoyer le nom d’utilisateur et le mot de passe de sa banque à j’adore vraiment beaucoup
  • Quelqu’un regardera cette page sur un OLED modèle 2026 en s’exclamant : « Mon Dieu, regardez ces noirs sur ce site GeoCities ». On n’aurait jamais imaginé en arriver là, mais nous y voilà
  • Si vous ne l’avez pas encore vu, je recommande Cameron’s World. C’est un site qui mélange de façon absurdement brillante textes et images d’anciennes pages GeoCities archivées
    https://cameronsworld.net
    • Malgré sa taille énorme, il se charge plus vite et pèse moins lourd qu’un site React basique
    • J’avais autrefois pas mal de ces GIF sur mon disque dur. Malgré son côté cirque clinquant, ça me rappelle l’époque où l’on lisait une page web du début à la fin, et pas seulement en partie
    • Dans ce cas, https://hellnet.work/8831/ devrait aussi vous plaire. C’est une immense archive de boutons 88×31 collectés dans les archives de GeoCities
    • Ça ravive de puissants souvenirs de Myspace
    • C’est magnifique, mais je regrette l’absence du célèbre GIF du tigre qui approche, qui représentait 95 % du contenu de ma page GeoCities
  • Une superbe œuvre d’art, qui recrée à merveille le web design d’autrefois de mon adolescence
    • Ça me fait penser au Happyweb de James “Kibo” Parry
    • Oui, évidemment, les emojis étaient bien l’emblème de tous les sites GeoCities
  • Désolé pour ceux à qui ce design manque, mais pour moi ça ressemble moins à du rétro qu’à un style Web3 NFT
    • La mise en page, la structure et la hiérarchie de l’information ont une sensibilité moderne, mais on a projeté par-dessus de la peinture rétro à grands seaux, ce qui donne une impression de vallée dérangeante
    • Les emojis et les animations CSS, en particulier, ressortent trop. Je me demande s’ils savent qu’il n’y avait pas d’emojis sur le web en 1999
  • Les témoignages utilisateurs sont excellents, j’ai éclaté de rire
    • « Q : Est-ce légal ? R : Nous avons une page GeoCities, donc c’est légal de facto. » Parfait
  • Je me demande si le QR code « Envoyez du bitcoin pour devenir humain » contient une vraie adresse de portefeuille. Je comprends l’idée de montrer pourquoi lâcher des agents IA sur Internet est une mauvaise idée, mais s’ils empochent réellement l’argent envoyé par les agents, c’est discutable sur le plan éthique
  • Ça semble très bien aller avec Tilde Pay : https://news.ycombinator.com/item?id=49070028