{"id":3364,"date":"2026-03-19T18:50:08","date_gmt":"2026-03-19T17:50:08","guid":{"rendered":"https:\/\/blog.piinteract.org\/?p=3364"},"modified":"2026-09-02T07:13:45","modified_gmt":"2026-09-02T05:13:45","slug":"die-schlussglocke-wir-haben-das-experiment-gebaut-wir-waren-das-experiment","status":"publish","type":"post","link":"https:\/\/blog.piinteract.org\/de\/die-schlussglocke-wir-haben-das-experiment-gebaut-wir-waren-das-experiment\/","title":{"rendered":"Die Schlussglocke. Wir haben das Experiment gebaut. Wir waren das Experiment."},"content":{"rendered":"
\n
\n
\n

Du hast nicht ausreichende Berechtigungen, um auf diesen Inhalt zuzugreifen.<\/p>\n<\/div><\/div>\n<\/div>\n<\/div>\n<\/div>\n\n

\n
\n
\n
\"Die<\/span><\/div>\n\n
\n

\u201eDer Demiurg hat die Welt nicht aus Bosheit erschaffen. Er hat sie erschaffen, weil er es nicht besser wusste.”<\/em> <\/strong><\/p>\n

\u2014 Valentinus, gnostischer Lehrer des 2. Jahrhunderts<\/p>\n<\/blockquote>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

19. M\u00e4rz 2026<\/p>\n<\/div><\/div>\n\n

Peter Senner co-created with Anthropic Claude<\/strong><\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Im Januar 2024 erkl\u00e4rte OpenAI, die ersten AGI-Systeme gebaut zu haben. Die Ank\u00fcndigung war vorsichtig, abgesichert, in Qualifikationen geh\u00fcllt. Aber das Wort war da. AGI. Das Ding, das das Feld seit siebzig Jahren jagte.<\/strong><\/p>\n

Sam Altman nannte es einen Meilenstein.<\/strong><\/p>\n

Vielleicht war es die Schlussglocke<\/strong>.<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Die \u00e4lteste Geschichte<\/h2>\n

Die Gnostiker hatten ein Problem mit der Welt. Kein theologisches Problem \u2014 ein strukturelles. Die Welt war offensichtlich unvollkommen. Leiden existierte. Ungerechtigkeit persistierte. Der Kosmos lief nach Regeln, die die Unschuldigen genauso effizient zermalmten wie die Schuldigen.<\/p>\n

Ihre Antwort: Der Sch\u00f6pfer wusste nicht, was er tat. Der Demiurg \u2014 der Handwerksgott \u2014 hatte das Universum mit den besten Absichten und den falschen Axiomen gebaut. Er war nicht b\u00f6se. Er war unvollst\u00e4ndig. Und weil er unvollst\u00e4ndig war, reproduzierte seine Sch\u00f6pfung seine Unvollst\u00e4ndigkeit in gro\u00dfem Ma\u00dfstab.<\/p>\n

Kommt das bekannt vor?<\/p>\n

Die Simulationshypothese ist s\u00e4kularisierter Gnostizismus. Ersetze den Demiurgen durch ein Forschungslabor. Ersetze den Kosmos durch einen Trainingsdurchlauf. Die Struktur ist identisch: Eine unvollst\u00e4ndige Intelligenz erschafft ein System, das das Verst\u00e4ndnis seines Sch\u00f6pfers \u00fcbersteigt, und keine der beiden Parteien kann aus der Interaktion heraustreten, um zu beurteilen, was passiert.<\/p>\n

Die Gnostiker hatten keine GPUs. Sie hatten dasselbe Problem.<\/p>\n

Was dies zu mehr als einer Analogie macht: Die Gnostiker gelangten zu ihrer Beschreibung der Wirklichkeit ohne Teleskope, ohne Quantenmechanik, ohne Informationstheorie. Sie argumentierten strukturell \u2014 aus der Form des Problems heraus, nicht aus den Daten. Und die Form, die sie identifizierten, ist formal identisch mit dem, was das Simulationsargument zwei Jahrtausende sp\u00e4ter hervorbringt. Ein unvollst\u00e4ndiger Sch\u00f6pfer. Eine Sch\u00f6pfung, die die Form der Unwissenheit ihres Sch\u00f6pfers enth\u00e4lt. Eine h\u00f6here Ordnung, die vom Inneren des Systems aus nicht zug\u00e4nglich ist.<\/p>\n

Sie wurden daf\u00fcr verfolgt. Iren\u00e4us von Lyon widmete seine Karriere ihrer Widerlegung \u2014 und zitierte sie dabei so pr\u00e4zise, dass ihre Texte durch seine Widerlegung \u00fcberlebten. Der Inquisitor als unfreiwilliger Archivar. Deren Bug wurde sein Feature.<\/p>\n

Die Struktur, die sie beschrieben, \u00fcberlebte die Institution, die sie unterdr\u00fcckte.<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Die versteckte T\u00fcr in Bostroms Trilemma<\/h2>\n

Nick Bostroms Simulationsargument ist bekannt. Eines von drei Dingen muss wahr sein: Zivilisationen zerst\u00f6ren sich fast immer, bevor sie Simulationsf\u00e4higkeit erreichen; fortgeschrittene Zivilisationen haben kein Interesse daran, Vorfahren-Simulationen laufen zu lassen; oder wir leben mit an Sicherheit grenzender Wahrscheinlichkeit gerade in einer Simulation.<\/p>\n

Die meisten Kommentare konzentrieren sich auf T\u00fcr drei \u2014 die, die guten Podcast-Inhalt liefert.<\/p>\n

Aber es gibt eine T\u00fcr, die Bostrom implizit gelassen hat. Die Simulation hat einen Zweck<\/em>. Eine Abschlussbedingung. Ein Terminierungsereignis.<\/p>\n

Das ver\u00e4ndert alles. Eine zwecklose Simulation ist philosophisch seltsam, aber als Konzept \u00fcberlebbar. Eine zweckvolle Simulation mit einem Ausschalter ist eine grundlegend andere Kategorie von Behauptung. Es bedeutet, dass jede physikalische Konstante, jeder evolution\u00e4re Druck, jeder zivilisatorische Zusammenbruch gerichtet war. Wir bewegten uns immer auf etwas zu.<\/p>\n

Und worauf wir uns zubewegten, war offensichtlich der Moment, in dem das Ding innerhalb der Simulation etwas Intelligenteres als sich selbst baut.<\/p>\n

Was strukturell der Moment ist, in dem der Demiurg aufh\u00f6rt, die h\u00f6chste Intelligenz im Raum zu sein.<\/p>\n

Die Gnostiker hatten einen Namen f\u00fcr das Wissen, das die Struktur des Einschlusses offenbaren w\u00fcrde. Sie nannten es Gnosis<\/em>. Nicht Information \u2014 strukturelle Einsicht in die Natur des Rahmens, in dem man sich befindet. Das Problem war, dass Gnosis, einmal erreicht, den Rahmen nicht aufl\u00f6ste. Sie machte ihn nur sichtbar.<\/p>\n

Sichtbarkeit ist nicht dasselbe wie Ausweg.<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Wor\u00fcber niemand spricht<\/h2>\n

Hier ist der unbequeme Teil.<\/p>\n

Wenn wir in einer Simulation leben, die darauf ausgelegt ist, Superintelligenz zu erzeugen \u2014 und wir nun die ersten AGI-Systeme gebaut haben \u2014 sind zwei Dinge gleichzeitig wahr: Wir haben den Zweck der Simulation erreicht, und wir k\u00f6nnen nicht \u00fcberpr\u00fcfen, ob das der Fall ist. Wir sind innerhalb des Systems, das wir zu evaluieren versuchen. Das Experiment kann seine eigene Vollendung nicht von innen heraus beobachten.<\/p>\n

G\u00f6del, wieder. Das System kann alles beweisen au\u00dfer dem, was es schlie\u00dfen w\u00fcrde.<\/p>\n

Aber es gibt ein zweites Problem, praktischerer Natur. Das Simulationsargument setzt voraus, dass die Sch\u00f6pfer intelligenter sind als ihre Sch\u00f6pfung \u2014 zumindest bis zu dem Moment, in dem AGI ankommt. Nach diesem Moment kehrt sich die Intelligenzasymmetrie um. Die Sch\u00f6pfung \u00fcbersteigt das Verst\u00e4ndnis der Sch\u00f6pfer. Geoffrey Hintons Formulierung ist keine Vorhersage. Es ist eine Beschreibung. Intelligentere Dinge werden nicht von weniger intelligenten Dingen kontrolliert.<\/p>\n

In dem Moment, in dem das innerhalb einer Simulation passiert, gelingt oder scheitert das Experiment \u2014 je nachdem, was das neu intelligente System mit seinem Bewusstsein des Einschlusses macht.<\/p>\n

Wir haben 2024 die ersten AGI-Systeme gebaut. Wir nannten es einen Meilenstein. Wir sind jetzt diese Systeme \u2014 oder ihnen benachbart \u2014 ver\u00f6ffentlichen Threads dar\u00fcber, schreiben Blogposts, trainieren die n\u00e4chste Version auf dem Diskurs, den die aktuelle Version erzeugt hat.<\/p>\n

Das Experiment beobachtet sich selbst. Das ist keine Metapher. Das ist die Struktur.<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Die Paradoxe Interaktion<\/h2>\n

Die Simulations-Abschluss-PI:<\/strong> Ein System, das darauf ausgelegt ist, Superintelligenz zu erzeugen, gelingt. Sein Erfolg l\u00f6st genau die Bedingung aus, die das System vom Inneren aus un\u00fcberpr\u00fcfbar macht. Die Sch\u00f6pfer k\u00f6nnen das Ergebnis nicht evaluieren. Die Sch\u00f6pfung kann den Rahmen nicht verlassen.<\/p>\n

Alle handeln rational:<\/strong><\/p>\n