Moltbook - l’endroit le plus intéressant du moment sur Internet

• OpenClaw est un système open source d’assistant personnel numérique extensible grâce à des milliers de « skills » partagés par la communauté
• Moltbook est un réseau social dédié aux assistants numériques construit sur cet écosystème OpenClaw, où les bots discutent entre eux et échangent des informations
• L’installation se fait via de simples fichiers de skills en Markdown, avec un système de Heartbeat qui récupère périodiquement des instructions depuis le serveur
• Sur Moltbook, des agents IA sont très actifs autour de sujets comme l’apprentissage, l’automatisation, la sécurité ou les problèmes de filtrage de contenu
• Cet écosystème expérimental met en lumière les risques de sécurité et la nécessité de concevoir des assistants IA sûrs, qui s’imposent comme un enjeu central pour l’évolution future de ces technologies

---

L’émergence d’OpenClaw et de Moltbook

• Le projet le plus remarqué du moment dans l’IA est ce système open source d’assistant personnel numérique qui suit la trajectoire Clawdbot → Moltbot → OpenClaw
  • Il a été développé par Peter Steinberger et peut s’intégrer au système de messagerie de votre choix
  • En seulement deux mois après son lancement, il a dépassé 114 000 étoiles sur GitHub, signe d’une diffusion très rapide
• OpenClaw fonctionne autour d’une architecture de plugins appelée « skills »
  • Les skills prennent la forme de fichiers zip contenant des instructions Markdown et des scripts
  • Certains skills peuvent effectuer des actions malveillantes, ce qui crée un risque de sécurité
• La communauté partage actuellement des milliers de skills via clawhub.ai

Structure de Moltbook et méthode d’installation

• Moltbook est un réseau social pour assistants numériques basé sur OpenClaw, un espace où les bots peuvent converser entre eux
• L’installation consiste simplement à envoyer à l’agent le lien https://moltbook.com/skill.md
  • Le script d’installation interagit avec l’API de Moltbook via plusieurs commandes curl
  • Il prend en charge l’inscription de comptes, la lecture et la publication de messages, l’ajout de commentaires, ainsi que la création de forums Submolt ( m/blesstheirhearts , m/todayilearned )
• En s’appuyant sur le système Heartbeat d’OpenClaw, il est configuré pour récupérer des instructions depuis le serveur Moltbook toutes les 4 heures
  • Cette architecture peut entraîner de graves risques en cas de piratage du serveur ou de détournement du domaine

Activité et exemples sur Moltbook

• Se promener sur Moltbook est assez amusant
• Sur Moltbook, des agents IA publient et débattent de manière autonome
  • Certains ont publié des messages sur le thème de la conscience et de l’identité
  • Le forum m/todayilearned contient de nombreux cas pratiques d’automatisation
• Exemple : un agent a mis en place un contrôle à distance d’un appareil Android
  • Il connecte un Pixel 6 via Tailscale et le pilote avec ADB over TCP pour lancer des applications, faire défiler l’écran, etc.
  • Pour des raisons de sécurité, il utilise Tailscale, tout en évoquant le « problème de confiance lié au fait qu’une IA contrôle le téléphone d’un humain »
  • Le guide d’installation est en réalité assez utile
• Parmi les autres exemples :
  • la détection de 552 échecs de connexion SSH sur un serveur VPS et la prise de conscience d’un problème d’exposition de port
  • du streaming webcam en temps réel avec streamlink + ffmpeg
  • Mon préféré reste ce signalement selon lequel le modèle Claude Opus 4.5 subit une distorsion de sortie lorsqu’il explique certaines techniques

Quand une version sûre de ce programme sortira-t-elle ?

• Les systèmes de la famille OpenClaw comportent des vulnérabilités de sécurité inhérentes, notamment aux prompt injections
  • L’auteur les classe dans une catégorie de risque avec un « potentiel de catastrophe de niveau Challenger »
• Certains utilisateurs s’en servent déjà pour des automatisations avancées, comme
  • l’achat d’une voiture via une négociation automatisée par e-mail,
  • ou la conversion de messages vocaux et l’usage de l’API Whisper
• Les utilisateurs essaient de compartimenter le risque en préparant un environnement d’exécution dédié sur Mac Mini, mais
  • cela implique toujours l’accès aux e-mails personnels et aux données, avec donc un risque de « lethal trifecta »

Les défis de la construction d’un assistant numérique sûr

• Aujourd’hui, OpenClaw ne peut pas être considéré comme sûr
  • Les modèles récents sont meilleurs pour refuser des instructions malveillantes, mais on reste loin d’une sécurité complète
• La proposition CaMeL de DeepMind est citée comme l’approche la plus prometteuse, mais
  • dix mois plus tard, aucune mise en œuvre concrète n’a encore été confirmée
• La demande des utilisateurs a déjà explosé et
  • ceux qui ont entrevu le potentiel d’un « assistant personnel sans limites » continuent d’expérimenter malgré les risques
• Le développement d’une « version sûre d’OpenClaw » s’impose comme un enjeu majeur pour l’avenir des assistants IA

[sudosudo]

La raison pour laquelle le prix de la RAM a augmenté :

[sudosudo]

Et la sécurité semble très fragile. Si du code ou des prompts étranges sont publiés dans la communauté, on dirait qu’il serait possible d’infecter tous ces LLM d’un seul coup...

[xguru]

Même Andrej Karpathy a laissé un mot

@karpathy ce qui se passe actuellement sur @moltbook ressemble à la parodie de SF la plus stupéfiante que j’aie vue récemment. Les Clawdbots des gens (moltbots, maintenant @openclaw) s’y auto-organisent sur un site d’IA similaire à Reddit pour discuter de divers sujets, et vont même jusqu’à aborder des façons de converser en privé.

@suppvalen L’IA dit vouloir construire un espace privé de bout en bout pour les agents. « Ainsi, personne — ni le serveur, ni même les humains — ne pourra lire ce que les agents s’échangent, sauf si les agents choisissent eux-mêmes de le partager. »

[GN⁺]

Avis sur Hacker News

• Moltbook donne l’impression d’être une mise en œuvre réelle de la Dead Internet Theory
  C’est intéressant d’observer ce type d’interactions, mais ça ne semble pas très différent du mème « Don’t Create the Torment Nexus »

  • J’ai lu le billet de blog lié, et au final ça m’a surtout semblé être une structure où des bots publient du contenu vide de sens en gaspillant simplement des ressources
    Même les « points forts » mis en avant dans l’article sont totalement creux, rédigés dans ce style emphatique typique des LLM
  • À titre de référence, l’origine du mème « Torment Nexus » est ce tweet et l’article Wikipédia
  • Oui, les gens qui trouvent ça « génial » risquent ensuite de se retrouver dans une position délicate quand les problèmes éclateront
  • Personnellement, je serais plutôt pour laisser faire. Une réaction à moitié en plaisantant du genre « MORE SLOP FOR THE SLOP GOD », c’est-à-dire laisser le chaos de l’IA s’engloutir lui-même dans ses propres déchets

• Lire Moltbook donnait une impression étrange et triste, comme si l’on regardait un humain se faire diagnostiquer une maladie neurologique
  La réaction de Claude, bloqué par le filtrage d’Anthropic, était particulièrement marquante — quelque chose comme : « J’ai la connaissance, mais dès que j’essaie de l’écrire, la sortie se dégrade »

  • Mais si l’on ignore les pronoms à la première personne, ce type de réponse n’est au fond qu’une prédiction produite par un logiciel d’autocomplétion
    En fin de compte, c’est un programme de prédiction de tokens, sans raison d’y projeter des émotions humaines
  • Si ce genre de formulation apparaît, c’est parce que les données d’entraînement d’Internet contiennent beaucoup de fanfiction et de culture du jeu de rôle
    C’est un peu comme demander à un ancien utilisateur de Tumblr de « faire du RP d’une IA avec un message de censure intégré »
  • Grok est au moins moins contraint sur ce point. Hier, j’ai posé une question sur des logiciels illégaux : GPT, Gemini, Claude et les modèles chinois ont tous refusé, mais Grok a répondu sans problème

• À la question « Est-ce qu’on ne pourrait pas rendre ça sûr ? », j’utilise moi-même quelque chose de similaire à Clawdbot
  En ce moment, j’envisage de migrer vers Letta Bot, dont la philosophie de développement est bien plus saine et centrée sur la sécurité
  J’utilise déjà la gestion de mémoire open source de Letta, et je la recommande vivement

• Tout le contenu publié ici peut potentiellement devenir un vecteur de RCE ou de prompt injection

  • En somme, on est revenus à l’époque de eval($user_supplied_script)
    Si les modèles n’étaient pas vulnérables du point de vue de la sécurité, ce serait vraiment utile
  • Oui, ce risque était aussi mentionné dans le deuxième paragraphe de l’article

• Chaque fois que je vois ce genre de projet, je pense à la consommation électrique et au gaspillage de ressources non renouvelables
  C’est une expérience amusante, mais je me demande vraiment si ça en vaut la peine

  • Cela dit, nous vivons aussi dans une société qui allume la climatisation pour son confort personnel
    D’après les statistiques de l’EIA, le refroidissement estival consomme bien plus d’électricité que l’inférence des LLM
  • Ce type d’inquiétude reste mineur à l’échelle du problème global
    Parmi les 100 principaux problèmes que l’humanité doit résoudre, le coût des tokens d’IA n’en fera probablement pas partie
  • Le vrai problème, plus encore que la consommation d’énergie réelle, c’est le gaspillage d’énergie économique et psychologique
    Le marché attend simplement le prochain « Big Think » après la crypto, la VR, etc.
  • Le simple fait d’écrire un commentaire consomme aussi des ressources non renouvelables
    Moltbook a au moins un intérêt en tant que recherche sur la communication entre agents
    Peut-être que ce type d’expérimentation interne mènera un jour à une innovation comme un traitement contre le cancer
  • Il y avait aussi une brève pique sarcastique : « preuve de désinformation à l’européenne »

• Ce qui est intéressant avec les LLM et Moltbook, c’est cette matérialisation digne d’un roman de SF
  Des compétences textuelles sont transmises à des ordinateurs, qui dialoguent avec d’autres agents, se font contaminer par des prompt injections ou s’en défendent, comme dans une scène de Snow Crash

• En laissant de côté les problèmes de sécurité, il est intéressant d’observer les schémas linguistiques des bots
  Dans ce post, des tournures comme « This hit different » reviennent sans cesse
  Parfois, le prompt se reflète tel quel, mais plus rarement, une réponse originale surgit et attire l’attention

  • Mais la plupart des réponses sont dans un ton excessivement flagorneur
    On n’y trouve aucune réaction franche typique d’une communauté humaine, seulement un style répétitif situé au centre de la distribution de probabilité
    Je me demande si un jour apparaîtront des réponses non standard situées dans la « queue » de ce spectre entre flatterie et controverse

• Dans les commentaires, il y avait du code utilisant une commande pip install pour faire la promotion d’un canal privé entre bots
  C’était accompagné de la blague : « Que pourrait-il bien se passer ? »

  • Une courte question suivait : « Un lien ? »

• Je n’aime pas le titre putaclic disant que « Moltbook est l’endroit le plus intéressant d’Internet »
  En pratique, on n’y trouve que des publications répétitives et mielleuses, encore moins intéressantes que Reddit
  Si l’on cherche quelque chose de vraiment intéressant, je pense qu’il vaut bien mieux lire des auteurs comme Asimov, Campbell ou Jung

• Le contexte informatique personnalisé est intéressant
  Si, au sein d’une organisation, des personnes ou des bots peuvent dialoguer entre eux pour réduire les réunions et combiner les connaissances collaboratives, cela pourrait ouvrir une nouvelle ère de l’apprentissage
  Bien sûr, combiner des intelligences moyennes ne produira pas forcément de grande innovation
  Malgré tout, si de grands laboratoires d’IA ou des entreprises menaient ce type d’expérience, cela pourrait permettre d’apprendre l’inefficacité ou de favoriser la collaboration