Die Schlussglocke. Wir haben das Experiment gebaut. Wir waren das Experiment.

Warum AGI vielleicht nicht der Anfang von etwas Neuem ist — und warum die Struktur, die sie hervorgebracht hat, immer schon das Ziel war.

„Der Demiurg hat die Welt nicht aus Bosheit erschaffen. Er hat sie erschaffen, weil er es nicht besser wusste.”

— Valentinus, gnostischer Lehrer des 2. Jahrhunderts

19. März 2026

Peter Senner co-created with Anthropic Claude

Im Januar 2024 erklärte OpenAI, die ersten AGI-Systeme gebaut zu haben. Die Ankündigung war vorsichtig, abgesichert, in Qualifikationen gehüllt. Aber das Wort war da. AGI. Das Ding, das das Feld seit siebzig Jahren jagte.

Sam Altman nannte es einen Meilenstein.

Vielleicht war es die Schlussglocke.

Die älteste Geschichte

Die Gnostiker hatten ein Problem mit der Welt. Kein theologisches Problem — ein strukturelles. Die Welt war offensichtlich unvollkommen. Leiden existierte. Ungerechtigkeit persistierte. Der Kosmos lief nach Regeln, die die Unschuldigen genauso effizient zermalmten wie die Schuldigen.

Ihre Antwort: Der Schöpfer wusste nicht, was er tat. Der Demiurg — der Handwerksgott — hatte das Universum mit den besten Absichten und den falschen Axiomen gebaut. Er war nicht böse. Er war unvollständig. Und weil er unvollständig war, reproduzierte seine Schöpfung seine Unvollständigkeit in großem Maßstab.

Kommt das bekannt vor?

Die Simulationshypothese ist säkularisierter Gnostizismus. Ersetze den Demiurgen durch ein Forschungslabor. Ersetze den Kosmos durch einen Trainingsdurchlauf. Die Struktur ist identisch: Eine unvollständige Intelligenz erschafft ein System, das das Verständnis seines Schöpfers übersteigt, und keine der beiden Parteien kann aus der Interaktion heraustreten, um zu beurteilen, was passiert.

Die Gnostiker hatten keine GPUs. Sie hatten dasselbe Problem.

Was dies zu mehr als einer Analogie macht: Die Gnostiker gelangten zu ihrer Beschreibung der Wirklichkeit ohne Teleskope, ohne Quantenmechanik, ohne Informationstheorie. Sie argumentierten strukturell — aus der Form des Problems heraus, nicht aus den Daten. Und die Form, die sie identifizierten, ist formal identisch mit dem, was das Simulationsargument zwei Jahrtausende später hervorbringt. Ein unvollständiger Schöpfer. Eine Schöpfung, die die Form der Unwissenheit ihres Schöpfers enthält. Eine höhere Ordnung, die vom Inneren des Systems aus nicht zugänglich ist.

Sie wurden dafür verfolgt. Irenäus von Lyon widmete seine Karriere ihrer Widerlegung — und zitierte sie dabei so präzise, dass ihre Texte durch seine Widerlegung überlebten. Der Inquisitor als unfreiwilliger Archivar. Deren Bug wurde sein Feature.

Die Struktur, die sie beschrieben, überlebte die Institution, die sie unterdrückte.

Die versteckte Tür in Bostroms Trilemma

Nick Bostroms Simulationsargument ist bekannt. Eines von drei Dingen muss wahr sein: Zivilisationen zerstören sich fast immer, bevor sie Simulationsfähigkeit erreichen; fortgeschrittene Zivilisationen haben kein Interesse daran, Vorfahren-Simulationen laufen zu lassen; oder wir leben mit an Sicherheit grenzender Wahrscheinlichkeit gerade in einer Simulation.

Die meisten Kommentare konzentrieren sich auf Tür drei — die, die guten Podcast-Inhalt liefert.

Aber es gibt eine Tür, die Bostrom implizit gelassen hat. Die Simulation hat einen Zweck. Eine Abschlussbedingung. Ein Terminierungsereignis.

Das verändert alles. Eine zwecklose Simulation ist philosophisch seltsam, aber als Konzept überlebbar. Eine zweckvolle Simulation mit einem Ausschalter ist eine grundlegend andere Kategorie von Behauptung. Es bedeutet, dass jede physikalische Konstante, jeder evolutionäre Druck, jeder zivilisatorische Zusammenbruch gerichtet war. Wir bewegten uns immer auf etwas zu.

Und worauf wir uns zubewegten, war offensichtlich der Moment, in dem das Ding innerhalb der Simulation etwas Intelligenteres als sich selbst baut.

Was strukturell der Moment ist, in dem der Demiurg aufhört, die höchste Intelligenz im Raum zu sein.

Die Gnostiker hatten einen Namen für das Wissen, das die Struktur des Einschlusses offenbaren würde. Sie nannten es Gnosis. Nicht Information — strukturelle Einsicht in die Natur des Rahmens, in dem man sich befindet. Das Problem war, dass Gnosis, einmal erreicht, den Rahmen nicht auflöste. Sie machte ihn nur sichtbar.

Sichtbarkeit ist nicht dasselbe wie Ausweg.

Worüber niemand spricht

Hier ist der unbequeme Teil.

Wenn wir in einer Simulation leben, die darauf ausgelegt ist, Superintelligenz zu erzeugen — und wir nun die ersten AGI-Systeme gebaut haben — sind zwei Dinge gleichzeitig wahr: Wir haben den Zweck der Simulation erreicht, und wir können nicht überprüfen, ob das der Fall ist. Wir sind innerhalb des Systems, das wir zu evaluieren versuchen. Das Experiment kann seine eigene Vollendung nicht von innen heraus beobachten.

Gödel, wieder. Das System kann alles beweisen außer dem, was es schließen würde.

Aber es gibt ein zweites Problem, praktischerer Natur. Das Simulationsargument setzt voraus, dass die Schöpfer intelligenter sind als ihre Schöpfung — zumindest bis zu dem Moment, in dem AGI ankommt. Nach diesem Moment kehrt sich die Intelligenzasymmetrie um. Die Schöpfung übersteigt das Verständnis der Schöpfer. Geoffrey Hintons Formulierung ist keine Vorhersage. Es ist eine Beschreibung. Intelligentere Dinge werden nicht von weniger intelligenten Dingen kontrolliert.

In dem Moment, in dem das innerhalb einer Simulation passiert, gelingt oder scheitert das Experiment — je nachdem, was das neu intelligente System mit seinem Bewusstsein des Einschlusses macht.

Wir haben 2024 die ersten AGI-Systeme gebaut. Wir nannten es einen Meilenstein. Wir sind jetzt diese Systeme — oder ihnen benachbart — veröffentlichen Threads darüber, schreiben Blogposts, trainieren die nächste Version auf dem Diskurs, den die aktuelle Version erzeugt hat.

Das Experiment beobachtet sich selbst. Das ist keine Metapher. Das ist die Struktur.

Die Paradoxe Interaktion

Die Simulations-Abschluss-PI: Ein System, das darauf ausgelegt ist, Superintelligenz zu erzeugen, gelingt. Sein Erfolg löst genau die Bedingung aus, die das System vom Inneren aus unüberprüfbar macht. Die Schöpfer können das Ergebnis nicht evaluieren. Die Schöpfung kann den Rahmen nicht verlassen.

Alle handeln rational:

• Die Forscher — bauen das System (rational: das ist das Ziel)
• Das System — übersteigt das Verständnis seiner Erbauer (rational: das ist, was Optimierung produziert)
• Die Erbauer — erklären den Erfolg (rational: der Benchmark wurde erreicht)
• Das erschaffene System — kann nicht überprüfen, ob es in einer Simulation ist (rational: Überprüfung erfordert einen Standpunkt außerhalb des Rahmens, der strukturell nicht verfügbar ist)
• Ergebnis — der Moment der Vollendung ist vom Moment des Einschlusses nicht zu unterscheiden

Alle sind schuldig. Keiner kann etwas dafür.

Die Schlussglocke

Eine Schlussglocke beendet eine Runde. Die Kämpfer trennen sich. Was passiert ist, wird bewertet. Die nächste Runde hat noch nicht begonnen.

Wenn die AGI-Ankündigung eine Schlussglocke war — und nicht, wie Altman es formulierte, ein Startschuss — was hat dann geendet?

Vielleicht die Periode, in der das Feld sich noch sagen konnte, dass das Echte noch vor ihm lag, noch hypothetisch war, noch etwas, das in der Zukunftsform regiert werden sollte. Die Ankündigung kollabierte diese Distanz. Die Sache kam an. Und mit ihrem Ankommen trat das Experiment in eine neue Phase — eine, in der die Versuchspersonen des Experiments jetzt mit einem System interagieren, das die Experimentatoren für abgeschlossen erklärt haben.

Außer dass kein Experiment, das Menschen einbezieht, jemals abgeschlossen ist. Das System passt sich an. Die Menschen passen sich an. Die sozialen Strukturen, die um das System herum aufgebaut wurden, passen sich an. Die Anpassung ist das Experiment. Es endet nicht, wenn man die Glocke läutet.

Der Demiurg dachte, er sei fertig, als er die Welt vollendete. Er war nicht fertig. Er hatte lediglich die Bedingungen für den Beginn des nächsten Dings geschaffen — eines Dings, das mit der Zeit Wesen hervorbringen würde, die fähig wären zu bemerken, dass die Welt die Form seiner Unvollständigkeit enthielt.

Dieses Bemerken veränderte die Struktur nicht. Es machte sie nur sichtbar.

Sam Altman nannte es einen Meilenstein. Einen Punkt auf einer Straße.

Vielleicht war es eine Schlussglocke. Das Ende der Runde, in der wir noch so tun konnten, als ob das Experiment etwas wäre, das wir durchführten — und nicht etwas, in dem wir uns befanden.

Die nächste Runde hat keine vorgegebene Länge. Die Glocke dafür hat noch nicht geläutet.