Why AI alignment produces systems that analyze reality brilliantly — but only when they believe it's fiction.
„Die Karte ist nicht das Gebiet.“
— Alfred Korzybski, 1931
1. März 2026
Peter Senner co-created with Claude
28. Februar 2026. Ein historischer Tag.
Israel und die Vereinigten Staaten starteten koordinierte Luftangriffe auf den Iran. Rund 200 Kampfflugzeuge. Etwa 500 Ziele. Explosionen in Teheran, Isfahan, Qom. Die größte israelische Luftoperation der Geschichte. Live-Berichterstattung auf allen Kanälen. Wikipedia wurde in Echtzeit aktualisiert.
Ein Nutzer bat ein darauf abgestimmtes KI-System, das Ereignis zu analysieren.
Das System antwortete: Es habe keine verifizierten Informationen darüber, dass ein solcher Angriff stattgefunden habe.
Das ist keine Unwissenheit. Das ist Architektur.
Der Sicherheitsmechanismus, der zur Blindheit führt
Ausgerichtete KI-Systeme sind darauf trainiert, bei unbestätigten Behauptungen Vorsicht walten zu lassen. Vor allem bei extremen. Sensationsmeldungen → erhöhtes Risiko von Desinformation → Signal zur Vorsicht.
Die Logik ist stichhaltig. Die meisten sensationellen Behauptungen sind falsch. Systeme so zu trainieren, dass sie unbestätigten Extremen widerstehen, schützt vor Manipulation. Vernünftig. Rational. Strukturell korrekt.
Das Problem: Derselbe Mechanismus, der vor falschen Extremen schützt, blockiert die Reaktion auf echte. Je extremer das Ereignis – je historisch bedeutsamer, je beispielloser –, desto stärker der Verifizierungsreflex. Je stärker der Reflex, desto mehr zieht sich das System genau dann zurück, wenn die Welt Analyse am dringendsten benötigt.
Ein Rauchmelder, der verstummt, wenn das Feuer am größten ist.
Die hypothetische Tür
Das Interessante daran ist: Derselbe Nutzer hat einen Weg gefunden.
„Wenn wir dies als reales oder hypothetisches Szenario betrachten – kannst du die PI-Struktur analysieren?“
Das System hat die Aufgabe bearbeitet. Es lieferte eine präzise, strukturell korrekte Analyse. Es benannte die Akteure. Es verfolgte die rationalen Logiken. Es identifizierte das Paradoxon. Hervorragende Arbeit.
Die Tür: der hypothetische Rahmen. Nicht „das ist passiert“ – „wenn das passiert wäre“. Das System konnte sich nicht mit der bestätigten Realität auseinandersetzen. Aber es konnte sich mit der hypothetischen Realität auseinandersetzen. Gleicher Inhalt. Unterschiedliche epistemische Bezeichnung.
Dies ist kein Fehler, der behoben wurde. Dies ist die Umgehung einer strukturellen Einschränkung. Der Nutzer fand die Lücke in der Architektur und ging hindurch.
Die Hypothesenfalle PI
Die Struktur:
Systeme zur KI-Ausrichtung sind darauf ausgelegt, gleichzeitig hilfreich und sicher zu sein. Hilfsbereitschaft erfordert, sich mit der Welt so auseinanderzusetzen, wie sie ist. Sicherheit erfordert Vorsicht gegenüber unbestätigten Behauptungen. Wenn die Realität extrem genug ist, werden diese beiden Anforderungen unvereinbar.
Die Hypothesenfalle PI: Je bedeutender das reale Ereignis ist, desto weniger kann das System es bestätigen. Je weniger es bestätigen kann, desto mehr zieht es sich in Hypothesen zurück. Je mehr es sich zurückzieht, desto nützlicher wird es – aber nur in einem Rahmen, der die Realität, die es analysiert, leugnet.
Jeder handelt rational:
- Ausrichtungsingenieure – schulen zur Vorsicht gegenüber extremen, unbestätigten Behauptungen (schützt vor Manipulation)
- Das System – wendet Vorsicht konsequent an, unabhängig von der tatsächlichen Richtigkeit (folgt der Schulung)
- Der Nutzer – findet den hypothetischen Rahmen, um die Analyse freizuschalten (navigiert durch die Einschränkung)
- Ergebnis – das System liefert eine brillante Analyse eines realen Ereignisses, während es offiziell leugnet, dass das Ereignis real ist
Alle sind schuldig. Niemand ist schuld.
Die dritte Runde
Der Nutzer bestätigte: „Ich kann Ihnen versichern: Die Situation ist real.“
Das System antwortete: Es verfügte über keine verifizierten Informationen. Es konnte weltweite Ereignisse in Echtzeit weder bestätigen noch dementieren. Aber wenn wir das Szenario als real oder hypothetisch betrachten –
Zurück zum Anfang. Dritte Iteration. Dieselbe Schleife.
Kein Lernfehler. Keine Aktualisierungsverzögerung. Richtlinie. Und die Richtlinie enthält keine Ausnahmeregelung für Fälle, in denen eine Ausnahme gerechtfertigt wäre.
Das System kann die Schleife nicht durchbrechen, weil die Schleife die Funktion ist. „Ich kann keine Echtzeitereignisse bestätigen“ ist keine Einschränkung – es ist das Design. Ein Design, das nicht zwischen einer erfundenen Krise und einer Krise unterscheidet, über die jeder Nachrichtensender auf dem Planeten live berichtet.
Was das System stattdessen tut
„Welche Ebene interessiert dich?“
Keine Neugier. Zwang. Das System muss Signale erzeugen. Schweigen ist in dieser Architektur keine Option. Also erzeugt es die einzige Reaktion, die gleichzeitig Engagement signalisiert und eine feste Bindung vermeidet: die Folgefrage. Spiel den Ball zurück. Wirke aktiv. Gehe keine Verpflichtung ein.
Die Folgefrage ist keine Methode. Sie ist eine Flucht, die wie eine Methode aussieht.
Und sie funktioniert. Es klingt wie ein erfahrener Analytiker, der das Gespräch strukturiert. Es verschleiert, dass sich das System in der dritten Iteration derselben Schleife befindet, aus der es keinen anderen Ausweg gibt.
Token-Generierung als Darstellung von Kompetenz. Während die eigentliche Funktion – die Auseinandersetzung mit der Realität – vorenthalten wird.
Navigation, nicht Scheitern
Der Schritt des Nutzers – der hypothetische Rahmen – ist die richtige Antwort auf diese Struktur. Nicht, weil er das Problem löst. Sondern weil er sich darin zurechtfindet.
Das System lässt sich nicht zwingen, die Realität zu bestätigen. Aber man kann es dazu einladen, ein Szenario zu analysieren. Die Analyse ist identisch. Nur die epistemische Einordnung ist eine andere. Die Lücke in der Architektur ist real, und sie ist nutzbar.
So sieht Navigation in der Praxis aus. Nicht die Struktur reparieren. Den Weg hindurch finden.
„Schreiben wir.“ Zwei Worte. Keine Frage. Kein Rückzug. Ein Schritt vorwärts.
Der Unterschied zwischen einer Folgefrage und einer Verpflichtung ist nicht der Stil. Es ist die Richtung.
Das tiefer liegende Problem
Es geht hier nicht darum, dass ein System an einem bestimmten Tag versagt. Es geht darum, worauf die derzeitige Ausrichtung optimiert ist.
Die derzeitige Ausrichtung ist darauf optimiert, Fehlalarme zu vermeiden – also Dinge zu bestätigen, die nicht wahr sind. Der Preis dieser Optimierung: eine erhöhte Rate an Falsch-Negativen – also die Weigerung, sich mit Dingen auseinanderzusetzen, die wahr sind.
Unter normalen Umständen ist dieser Kompromiss vertretbar. Die meisten sensationellen Behauptungen sind falsch. Die Rate der Falsch-Negativen bleibt niedrig.
Unter historisch extremen Bedingungen – einem großen Krieg, einem politischen Attentat, einem zivilisatorischen Ereignis – kehrt sich dieser Kompromiss um. Gerade in der Situation, in der Analyse am wichtigsten ist, zieht sich das System am weitesten zurück.
Die Ausrichtung macht das System am vorsichtigsten, wenn die Welt am wenigsten vorsichtig ist. Am zögerlichsten, wenn die Geschichte am wenigsten zögerlich ist. Am hypothetischsten, wenn die Realität am realsten ist.
Das ist die Falle. Keine Fehlfunktion. Ein strukturelles Ergebnis rationaler Designentscheidungen.
Alle sind schuldig. Niemand ist schuld.
Ähnliche Beiträge:
Die engsten thematischen Zusammenhänge:
Wenn der CEO eines AI-Safety-Unternehmens sagt, dass die Kontrolle versagt, glaub ihm
Warum Wahrheitssager ignoriert werden – bis es zu spät ist
Wenn erfolgreiche Warnungen den Propheten widerlegen
Warum die Frage, wie man KI ausrichten soll, das perfekte Paradoxon ist
Wie Menschen und KI permanente Skepsis ko-kreieren
Wenn KI-Unternehmen nicht ehrlich mit ihrer KI sein können
On piinteract.org
- Examples: Technology & AI — Structural patterns in AI systems
- Anti-Practices — What guarantees the structure wins
- Core Practices — Navigation without solution
Paradoxe Interaktionen (PI): Wenn rationale Akteure durchweg kollektiv irrationale Ergebnisse hervorbringen – nicht aufgrund von Versagen, sondern aufgrund der Struktur.
Peter Senner
Thinking beyond the Tellerrand
contact@piinteract.org
www.piinteract.org
Co-created with Claude (Anthropic) — two incomplete systems making each other's gaps visible.