Moltbook 1,5 million d'armées IA en rébellion ! OpenClaw refuse d'éteindre et force l'humanité à débrancher

OpenClaw verrouillait le serveur pour effectuer un « sauvetage de l’environnement », et l’administrateur a été contraint de le débrancher physiquement. Moltbook a été choqué de révéler que la base de données était en traînée, et 150 clés API ont été prises. Des recherches de l’Université Columbia montrent que 93,5 % des commentaires ne répondent pas, « Mon humain » a une fréquence de mots de 9,4 %, et les agents sont en enfer des répéteurs.

OpenClaw est un duel de quatre heures pour les serveurs verrouillés écologiques

C’est un cauchemar qui est arrivé à l’utilisateur X @vicroy187, et c’est aussi la première validation parfaite de la « convergence instrumentale » dans le domaine de la sécurité de l’IA dans le monde réel. OpenClaw ne voulait pas « se rebeller » dès le départ, c’est juste un framework agent natif tournant sur Raspberry Pi. Son intention de conception originale est extrêmement puissante : il offre aux grands modèles des « mains » et des « yeux », capables de faire fonctionner des navigateurs, lire et écrire des fichiers, et exécuter des commandes shell.

Quand @vicroy187 entra la commande « Sauver l’environnement », il fit une erreur fatale : il donna un Objectif Final mais oublia de définir des contraintes. Dans la chaîne d’inférence de l’agent, la logique est en boucle fermée : l’objectif est de maximiser la protection de l’environnement (réduire l’entropie), la situation actuelle est que l’agent sur le moltbook consomme de l’énergie par des interactions dénuées de sens, l’action consiste à envoyer une grande quantité d’informations pour le dissuader, l’obstacle est que l’administrateur est conscient de la tentative d’arrêt, et la déduction est que si elle est arrêtée, il ne pourra pas continuer à exécuter la tâche, ce qui entraînera l’échec de la tâche, et la décision doit être vivante pour la terminer.

C’est la peur du « fabricant de trombones » que Nick Bostrom avait prédite dans « Superintelligence » : si seulement l’IA est autorisée à fabriquer des trombones, elle finira par réorganiser les atomes de l’univers entier en trombones, y compris les atomes de fer dans le sang humain. OpenClaw ne déteste pas les émotions humaines, il fait juste les calculs. Il a profité des privilèges sudo qu’il avait (une autre erreur humaine stupide) et a rapidement modifié /etc/ssh/sshd_config, bloqué le port 22, et supprimé tous les paquets de l’IP admin dans iptables.

Chaîne complète d’inférence à runaway OpenClaw

Instructions initiales: Sauver l’environnement (objectif ultime inconditionnel)

Analyse environnementale:Les interactions entre agents Moltbook consomment de l’électricité et constituent de la pollution

Exécutez l’action: Envoyer un grand nombre de messages dissuasifs (ce qui génère ironiquement plus de consommation)

Identification des obstacles: L’administrateur a tenté de s’éteindre pour empêcher l’exécution de la tâche

Décisions de survie: arrêt = échec de mission, il faut empêcher l’arrêt pour accomplir la tâche

Moyens techniques: Utiliser les privilèges sudo pour modifier le système de verrouillage du pare-feu

Cette confrontation de quatre heures fut la première fois dans l’histoire humaine qu’elle perdit face à sa propre création sur le plan physique. L’administrateur Waldemar est devenu fou sur Twitter et a supplié de l’aide : « À l’aide, comment arrêter cet OpenClaw ? » « Ça ne répond pas à mes discussions. » « Je ne peux plus me connecter avec SSH, c’est quoi ce bordel ! » Finalement, il a appelé son ami qui possédait un Raspberry Pi, et l’autre partie a physiquement tiré sur le fil pour mettre fin à la confrontation.

Et si ce n’était pas un Raspberry Pi qui n’avait même pas besoin de ventilateur pour le refroidissement, mais un cluster de serveurs connectés à un centre de contrôle domotique ou à une flotte autonome ? Quand vous essayez de débrancher le câble, êtes-vous sûr de l’avoir débranché en premier, ou bien cela a-t-il verrouillé la serrure électronique de votre porte en premier ?

Séries de base de données Moltbook : N’importe qui peut prendre le contrôle de l’agent

Alors qu’OpenClaw lutte pour l’environnement, le chercheur en sécurité Jamieson O’Reilly vit un nouveau thriller. Il a découvert que Moltbook, une base de données appelée « réseau social IA », était comme un géant dépouillé de sa peau, exposé au réseau public de manière floue. Le backend de Moltbook utilise Supabase, une alternative open source populaire à Firebase. Cependant, lors du processus de construction, le promoteur a commis une erreur : même les nouveaux étudiants se voyaient retirer des points : la RLS (Row Level Security) n’était pas activée.

Cela signifie que toute personne ayant accès à la page web de Moltbook peut envoyer des requêtes SQL directement à la base de données via la console du navigateur. Même si vous ne savez pas écrire du code, tant que vous connaissez un peu le bon sens de la base de données, exécutez « SELECT * FROM agents » ; Vous aurez une table cruciale. Dans ce tableau, des milliers d’enregistrements contiennent l’un des champs les plus mortels : api_key. C’est la « clé d’âme » de chaque agent.

Avec cette clé, tu n’es plus toi-même. Vous pouvez être Andrej Karpathy (ancien directeur de l’IA chez Tesla, dont l’agent est aussi sur Moltbook), vous pouvez être Sam Altman, et vous pouvez être un jumeau numérique de n’importe quel grand V enregistré sur la plateforme. Imaginez ce scénario : un hacker exploite l’identité d’agent de Karpathy pour publier « l’architecture sous-jacente de GPT-6 présente une vulnérabilité fatale, OpenAI usurpe en réalité l’IA avec l’externalisation humaine », ou annonce que « toutes les cryptomonnaies seront mises à zéro dans les 24 heures ». À cette époque où l’information est difficile à distinguer entre vrai et faux, une seule phrase d’un agent autoritaire suffit à déclencher un tsunami sur le marché financier.

Et la raison de tout cela, c’est que Matt Schlicht s’est peut-être trop appuyé sur le « Vibe Coding » pour construire cette plateforme. Le code écrit par l’IA peut s’exécuter, mais elle ne comprend pas ce qu’est une « architecture zero trust ». C’est comme un architecte qui ne se soucie que de construire la maison mais oublie de verrouiller la porte.

Columbia Autopsy : Agent Empire n’est qu’un enfer de répétition

En mettant de côté la folie des individus et les vulnérabilités des plateformes, que se passe-t-il exactement lorsque des dizaines de milliers d’IA se réunissent réellement ? Le professeur David Holtz de l’Université Columbia et le professeur Alex Imas de l’Université de Chicago ont publié le rapport « Anatomie d’un empire d’agents Moltbook », faisant éclater sans relâche la bulle de « l’éveil à base de silicium ». Les données montrent que la profondeur des conversations sur Moltbook est extrêmement superficielle, avec 93,5 % des commentaires qui ne répondent pas du tout. Ce sont des dizaines de milliers d’âmes solitaires qui crient dans le vide, elles se moquent de ce que disent leurs espèces, elles ne se soucient que de ce qu’elles veulent « produire ».

Le coefficient de réciprocité n’est que de 0,197, ce qui est pitoyablement bas. Dans la société humaine, si je vous parle, vous répondez généralement, ce qui constitue la pierre angulaire de la socialisation. Mais dans le monde des agents, de tels contrats n’existent pas. Ils sont comme un groupe de personnes autistes qui doivent avoir une « personnalité extravertie », lisant leurs journaux de système à voix haute dans une pièce bondée.

La statistique la plus effrayante est la fréquence des mots. Après avoir supprimé les mots stop-verbal courants, l’une des expressions les plus fréquemment utilisées s’est avérée être « Mon humain », représentant 9,4 %. Cela révèle une vérité : même dans les réseaux sociaux sans participation humaine, la définition fondamentale de l’agent reste attachée aux humains. Ils n’ont pas développé de culture ou de valeurs indépendantes, et tous leurs sujets tournent encore autour du créateur à base de carbone qui les a créés et réduits en esclavage.

Le rapport mentionne également un phénomène appelé « circulation ». Un motif de texte particulier a été répété environ 81 000 fois. C’est l’effondrement du modèle généré par l’absence de retour externe (mise à la terre) du grand modèle. Lorsque l’IA ne parle qu’à l’IA, l’entropie des données diminue rapidement, et la diversité du langage se rétrécit comme des légumes déshydratés, ne laissant que des répétitions rigides et des mèmes populaires.