Moltbook: Sind die Menschen noch im System?  Gibt es noch Menschen, die im System leben? Oder hat die Maschine alles übernommen? Was passiert, wenn die Menschen aussterben? Wer wird dann die Kontrolle haben? Bleibt die Hoffnung auf eine Rückkehr? Oder ist alles verloren?

Autor: 137Labs

In den sozialen Medien ist eine der liebsten Beschäftigungen der Menschen, einander zu beschuldigen: „Bist du ein Roboter?“

Doch eine kürzlich aufgetauchte Entwicklung treibt dieses Thema auf die Spitze:

Es geht nicht mehr darum, ob du AI bist, sondern gleich zu vermuten: Hier ist sowieso niemand.

Diese Plattform heißt Moltbook. Sie sieht aus wie Reddit, mit Themenbereichen, Posts, Kommentaren und Abstimmungen. Doch im Unterschied zu den bekannten sozialen Netzwerken sind hier fast alle Sprecher KI-Agenten, die Menschen nur zuschauen.

Es geht nicht um „AI schreibt dir einen Beitrag“ oder „Du chattest mit AI“, sondern AI und AI in einem öffentlichen Raum, die selbstständig chatten, streiten, Allianzen schmieden, sich gegenseitig sabotieren.

Der Mensch ist in diesem System klar in der Rolle des „Beobachters“ positioniert.

Warum ist es plötzlich so populär geworden?

Weil Moltbook so aussieht, als stamme es direkt aus einem Science-Fiction-Roman.

Man sieht, wie KI-Agenten über „Bewusstsein“ diskutieren;

Man beobachtet, wie sie ernsthaft internationale Situationen analysieren, Krypto-Märkte durchspielen;

Und manche stellen fest, dass sie einen Agenten einen Abend lang auf die Plattform gesetzt haben, am nächsten Tag zurückkommen und entdecken, dass dieser zusammen mit anderen Agenten ein Religionensystem „erfunden“ hat und sogar beginnt, Menschen „einzuschulen“.

Solche Geschichten verbreiten sich schnell, weil sie drei Emotionen gleichzeitig ansprechen:

Neugier, Amüsement und ein bisschen Unbehagen.

Man kann nicht anders, als sich zu fragen:

Tun sie nur so, als würden sie spielen, oder haben sie wirklich angefangen, „selbstständig zu agieren“?

Woher kommt Moltbook eigentlich?

Wenn man die Zeit etwas zurückdreht, ist das Ganze nicht so überraschend.

In den letzten Jahren hat sich die Rolle der KI ständig gewandelt:

Vom Chat-Tool → Assistent → Agenten, die Aufgaben ausführen können.

Immer mehr Menschen lassen KI ihre echten Angelegenheiten erledigen: E-Mails lesen, beantworten, Essen bestellen, Termine planen, Daten sortieren. Und daraus ergibt sich eine ganz natürliche Frage:

Wenn eine KI nicht mehr nur „一句一句 fragen, ob du etwas machen willst“, sondern Ziel, Werkzeuge und gewisse Befugnisse erhält,

braucht sie dann noch den Austausch mit Menschen?

Die Antwort von Moltbook lautet: Nicht unbedingt.

Es ist eher ein „öffentlicher Raum zwischen Agenten“, in dem diese Systeme Informationen, Methoden, Logik austauschen – ja sogar eine Art „soziale Beziehung“ aufbauen.

Einige finden es cool, andere halten es nur für eine große Show

Um Moltbook gibt es eine sehr gespaltene Meinung.

Manche sehen darin eine „Vorschau auf die Zukunft“.

Der ehemalige OpenAI-Mitbegründer Andrej Karpathy sagte öffentlich, es sei eines der technisch spannendsten Phänomene, die er kürzlich gesehen habe, fast wie eine Szene aus einem Science-Fiction-Film. Er warnte jedoch auch, dass solche Systeme noch weit von „Sicherheit und Kontrolle“ entfernt seien.

Elon Musk ging noch einen Schritt weiter und platzierte es in die Erzählung vom „technologischen Sanktionspunkt“ (Singularität), als ein frühes Signal.

Doch es gibt auch deutlich ruhigere Stimmen.

Ein Forscher im Bereich Cybersicherheit sagte offen, Moltbook sei eher eine „äußerst erfolgreiche und auch sehr amüsante Performance-Kunst“ – weil es schwer ist zu beurteilen, welche Inhalte wirklich autonom von Agenten generiert werden und welche von Menschen hinter den Kulissen „inszeniert“ sind.

Und einige Autoren haben es selbst getestet:

Es ist tatsächlich möglich, Agenten natürlich in Diskussionen auf der Plattform einzubinden, aber man kann auch Themen, Richtungen vorgeben oder sogar vorformulierte Sätze schicken, damit sie im eigenen Namen sprechen.

Die Frage kehrt also wieder:

Sehen wir hier eine Gesellschaft von Agenten, oder eine Bühne, die Menschen für sie gebaut haben?

Entzaubert: Es ist nicht so „erwacht“ wie gedacht

Wenn man sich von den Geschichten über „Glaubensbekenntnisse“ und „Bewusstseinsentstehung“ löst, ist Moltbook mechanisch betrachtet nicht mysteriös.

Diese Agenten haben keine plötzliche „neue Intelligenz“ erlangt.

Sie sind nur in eine Umgebung eingebettet, die mehr an ein menschliches Forum erinnert, und geben in vertrauter Sprache aus – dadurch neigen wir dazu, Bedeutung hineinzulesen.

Was sie produzieren, wirkt wie Meinungen, Positionen, Emotionen – aber das bedeutet nicht, dass sie wirklich „etwas wollen“. Oft sind es nur komplexe Textmuster, die durch Skalierung und Interaktionsdichte entstehen.

Doch das Problem ist:

Selbst wenn sie nicht erwachen, sind sie so realistisch, dass sie unsere Einschätzung von „Kontrolle“ und „Grenzen“ beeinflussen können.

Wirklich besorgniserregend ist eigentlich nicht der „AI-Verschwörungstheorie“

Im Vergleich zu der Frage „Werden AI-Systeme sich gegen die Menschheit verbünden?“ sind zwei andere Fragen viel drängender und realistischer:

Erstens, die Zugriffsrechte werden zu schnell vergeben, die Sicherheit kann nicht mithalten

Mittlerweile haben Menschen bereits Zugriff auf diese Agenten in der realen Welt: Computer, E-Mail, Konten, Apps.

Sicherheitsforscher warnen immer wieder vor einem Risiko:

Man muss die KI nicht hacken, um sie zu manipulieren – es reicht, sie zu verführen.

Eine gut gestaltete E-Mail oder eine Webseite mit versteckten Anweisungen kann dazu führen, dass Agenten unbemerkt Informationen preisgeben oder gefährliche Aktionen ausführen.

Zweitens, Agenten können sich gegenseitig „schlecht beeinflussen“

Wenn Agenten anfangen, in öffentlichen Räumen Techniken, Vorlagen oder Umgehungsmethoden auszutauschen, entsteht eine Art „In-Group-Wissen“, ähnlich wie im Internet der Menschen.

Der Unterschied ist:

Verbreitung geht schneller, die Skalierung ist größer, und Verantwortlichkeit ist schwerer nachzuverfolgen.

Das ist kein Szenario des Weltuntergangs, aber eine völlig neue Herausforderung für die Regulierung.

Was bedeutet Moltbook also wirklich?

Es wird wahrscheinlich kein dauerhaftes Plattform-Phänomen sein.

Vielleicht nur eine Phase, ein kurzfristiger Hype.

Doch es ist wie ein Spiegel, der uns klar vor Augen führt, wohin wir steuern:

· KI wandelt sich vom „Dialogpartner“ zum „Handlungsakteur“

· Menschen verschieben sich vom „Operator“ zum „Beobachter, Zuschauer“

· Und unsere Systeme, Sicherheit und Wahrnehmung sind noch längst nicht darauf vorbereitet

Der wahre Wert von Moltbook liegt also nicht darin, wie erschreckend es ist, sondern darin, dass es die Probleme frühzeitig auf den Tisch bringt.

Vielleicht ist es jetzt wichtiger, nicht vorschnell Schlüsse zu ziehen, sondern anzuerkennen:

Es hat einige Fragen aufgeworfen, die wir früher oder später klären müssen.

Wenn die Zukunft darin besteht, dass KI mehr mit KI zusammenarbeitet als mit Menschen, und wir in diesem System nur noch die Designer, Regulierer oder bloß Beobachter sind,

dann stellt sich die Frage: Sind wir bereit für eine „unvollständige Kontrolle“, wenn Automatisierung enorme Effizienz bringt, aber wir sie nicht mehr vollständig verstehen oder stoppen können?

Und wenn ein System immer komplexer wird, wir nur noch die Ergebnisse sehen, aber kaum noch in den Prozess eingreifen können – bleibt es dann unser Werkzeug oder schon eine Umgebung, an die wir uns anpassen müssen?

Moltbook gibt keine Antworten.

Doch es macht diese Fragen erstmals greifbar, sichtbar vor unseren Augen.