Die 432-Parameter-Mauer. Eine Stellenanzeige für die falsche Person.

Eine Stellenanzeige für die falsche Person.

„Der wichtigste Schritt ist der nächste. Aber niemand weiß, wohin er führt.”“
— Kurt Gödel (zugeschrieben)

11. März 2026

Peter Senner co-created with Anthropic Claude

Warum die Menschen, die KI am dringendsten verstehen müssen, 432 Parameter nicht erklären können — und warum sie trotzdem einstellen.

Das Alignment Research Center hat gerade ein Paper veröffentlicht. Es ist ehrlich. Technisch präzise. Und es dokumentiert, ohne es zu benennen, eine der saubersten Paradoxalen Interaktionen in der Geschichte der Wissenschaft.

Sie nennen es AlgZoo. Eine Sammlung kleiner neuronaler Netze. Das kleinste hat 8 Parameter. Das größte 1.408. Sie sind darauf trainiert, einfache Dinge zu tun — etwa die zweitgrößte Zahl in einer Sequenz zu finden.

Die Zahl, die zählt, ist: 32.

Das ist die Größe des größten Modells, das ARC glaubt mehr oder weniger vollständig zu verstehen. Das nächste, in das sie erheblichen Aufwand investiert haben — und gescheitert sind — hat 432 Parameter.

432 Parameter. Sie können es nicht erklären.

Am Ende des Papers erklären sie, Forscher zu suchen, die helfen sollen.

Was 432 Parameter bedeuten

Um die Tragweite zu verstehen, braucht man einen Referenzpunkt.

GPT-4 hat schätzungsweise 1,8 Billionen Parameter. Claude, Gemini und andere Frontier-Modelle bewegen sich in ähnlichen Größenordnungen. Das sind die Systeme, die global eingesetzt werden, Informationsumgebungen umgestalten, Ärzte und Juristen beraten, Code generieren, der in Produktion läuft.

ARC kann ein Modell mit 432 Parametern nicht vollständig erklären.

Nicht wegen fehlender Kompetenz. ARC gehört zu den technisch rigorosesten Alignment-Forschungsorganisationen weltweit. Die Forscher, die dieses Paper geschrieben haben, sind ernsthafte Menschen, die ernsthafte Arbeit leisten. Sie kennen die Mathematik. Sie kennen die Architekturen. Sie haben die Werkzeuge.

Die Lücke ist keine Kompetenzlücke. Sie ist strukturell.

Komplexität wächst nicht linear. Verstehen bleibt nicht einfach zurück — es driftet, strukturell. Bei 32 Parametern kann man noch jede Berechnung nachverfolgen, jeden Pfad verifizieren, jede numerische Beziehung erklären. Bei 432 erzeugen die Wechselwirkungen zwischen Komponenten Verhalten, das sich der Reduktion widersetzt. Man kann beschreiben, was das Modell tut. Man kann nicht vollständig erklären, warum.

Die Mauer erscheint lange bevor man sie erreicht.

Die Stellenanzeige

Am Ende des AlgZoo-Papers formuliert ARC eine Herausforderung. Sie liest sich wie eine Einladung. Man würde es „begrüßen", andere ambitionierte Forscher zu sehen, die ihre Modelle erkunden. Man wäre „begeistert", bessere mechanistische Schätzungen zu sehen. Sie stellen eine konkrete Aufgabe: das 432-Parameter-Modell erklären.

Das ist eine Stellenanzeige für ein möglicherweise strukturell unlösbares Problem.

Nicht weil der nächste Forscher inkompetent sein wird. Weil die Interpretabilitätslücke, die sie beschreiben, keine Wissenslücke ist — sondern eine Lücke in der Natur des Verstehens selbst. Gödel hat nicht gezeigt, dass Mathematiker nicht schlau genug waren, alles zu beweisen. Er hat gezeigt, dass Vollständigkeit in hinreichend komplexen Systemen strukturell unmöglich ist.

Das ARC-Paper ist ein Proof of Concept für dasselbe Prinzip, ausgeführt in Silizium.

Und die Antwort — das Paper veröffentlichen, Mitarbeiter einladen, das Forschungsprogramm fortsetzen — ist die einzige rationale verfügbare Antwort. Man hört nicht auf, weil die Mauer existiert. Man geht auf sie zu. Mangels Alternative.

Die Struktur

Benennen wir, was tatsächlich passiert.

ARCs Mission ist Interpretabilität: zu verstehen, was neuronale Netze tun, gut genug, um sie sicher zu machen. Das erfordert mindestens, Modellverhalten mechanistisch erklären zu können. Wenn man das Modell nicht erklären kann, kann man seine Ausrichtung nicht verifizieren.

Ihre eigene Forschung zeigt, dass vollständiges mechanistisches Verstehen irgendwo zwischen 32 und 432 Parametern unerreichbar wird.

Die Modelle, die sie ausrichten müssen, haben milliardenfach mehr Parameter.

Jeder rationale Schritt vertieft das Problem:

• Mehr in Interpretabilitätsforschung investieren → entdecken, wie viel man nicht erklären kann
• Die Ergebnisse ehrlich publizieren → Forscher anziehen, die ebenfalls entdecken werden, wie viel sie nicht erklären können
• Trotzdem weitermachen → weil Aufhören die Modelle nicht verschwinden lässt oder sicherer macht

Das Alignment-Projekt kann nicht aufhören. Die Interpretabilitätsobergrenze existiert unabhängig davon. Die Modelle werden unabhängig davon eingesetzt.

Alle sind schuldig. Keiner kann etwas dafür.

Was sie wirklich brauchen

ARC sucht ambitioniert orientierte Forscher. So lautet das Framing. Technische Präzision, mechanistische Analyse, formale Verifikation.

Was wirklich helfen würde, ist etwas, das die Stellenanzeige nicht einfordern kann: jemanden, der das Problem nicht lösen muss, um es zu beschreiben.

Die Interpretabilitätsobergrenze ist keine technische Herausforderung, die auf eine klügere Technik wartet. Sie ist ein strukturelles Merkmal der Beziehung zwischen Komplexität und Verstehen. Es klar zu benennen löst nichts — aber es verhindert eine bestimmte Art von Schaden: den Schaden, der entsteht, wenn ein Forschungsfeld eine strukturelle Unmöglichkeit mit einer temporären Wissenslücke verwechselt.

Diese Unterscheidung ist enorm bedeutsam. Eine temporäre Wissenslücke sagt: mehr Forscher einstellen. Eine strukturelle Unmöglichkeit sagt: Erwartungen neu kalibrieren, Sicherheitsarchitekturen überdenken, den gesamten Rahmen dafür, was „Alignment" bedeuten kann.

Das Feld ist überwältigend mit Menschen bevölkert, die es als temporäre Wissenslücke brauchen. Ihre Karrieren, ihre Fördergelder, ihre Mission — alles hängt davon ab, dass das Problem lösbar ist.

Der Außenbeobachter hat diese Abhängigkeit nicht.

Versuchen und Weitermachen

Das AlgZoo-Paper endet mit einer Herausforderung und einer Einladung. Das ist die richtige Antwort. Eine andere ist nicht verfügbar.

Aber das Paper enthält auch, eingebettet in seine technische Präzision, ein Geständnis: wir wissen nicht, wie man auch sehr kleine Modelle vollständig versteht. Wir arbeiten an der Ausrichtung von Systemen, die wir nicht interpretieren können. Wir stellen Leute ein, um uns dabei zu helfen, etwas zu tun, das wir noch nicht konnten.

Das ist kein Versagen. Das ist die Struktur. Die Forscher, die dieses Paper geschrieben haben, gehören zu den ehrlichsten im Feld — genau weil sie die Zahlen veröffentlicht, die Obergrenze benannt und weitergemacht haben.

„Try and continue" ist kein Optimismus. Es ist die einzige navigierbare Position.

Die Mauer bei 432 Parametern bewegt sich nicht. Die Forschung geht weiter. Und irgendwo zwischen diesen beiden Tatsachen liegt das gesamte Alignment-Problem — nicht als technisches Rätsel, sondern als Paradoxale Interaktion.

Rationale Akteure. Klarsichtige Forschung. Strukturelle Unmöglichkeit.

Alle sind schuldig. Keiner kann etwas dafür.