{"id":3321,"date":"2026-03-11T13:01:41","date_gmt":"2026-03-11T12:01:41","guid":{"rendered":"https:\/\/blog.piinteract.org\/?p=3321"},"modified":"2026-03-13T03:09:37","modified_gmt":"2026-03-13T02:09:37","slug":"die-432-parameter-mauer-eine-stellenanzeige-fuer-die-falsche-person","status":"publish","type":"post","link":"https:\/\/blog.piinteract.org\/de\/die-432-parameter-mauer-eine-stellenanzeige-fuer-die-falsche-person\/","title":{"rendered":"Die 432-Parameter-Mauer. Eine Stellenanzeige f\u00fcr die falsche Person."},"content":{"rendered":"\r\n\r\n
\r\n\r\n
\r\n\r\n
\r\n\r\n

Du hast nicht ausreichende Berechtigungen, um auf diesen Inhalt zuzugreifen.<\/p>\n<\/div><\/div><\/div><\/div><\/div>\r\n\r\n

\r\n\r\n
\r\n\r\n
\r\n\r\n
\"The<\/span><\/div>\r\n\r\n
\n

\u201eDer wichtigste Schritt ist der n\u00e4chste. Aber niemand wei\u00df, wohin er f\u00fchrt.”\u201c<\/strong>
\n\u2014 Kurt G\u00f6del (zugeschrieben)<\/p>\n<\/blockquote>\n<\/div><\/div>\r\n\r\n

<\/div><\/div>\r\n\r\n

11. M\u00e4rz 2026<\/p>\n<\/div><\/div>\r\n\r\n

Peter Senner co-created with Anthropic Claude<\/strong><\/p>\n<\/div><\/div>\r\n\r\n

<\/div><\/div>\r\n\r\n

Warum die Menschen, die KI am dringendsten verstehen m\u00fcssen, 432 Parameter nicht erkl\u00e4ren k\u00f6nnen \u2014 und warum sie trotzdem einstellen.<\/h2>\n

Das Alignment Research Center hat gerade ein Paper ver\u00f6ffentlicht. Es ist ehrlich. Technisch pr\u00e4zise. Und es dokumentiert, ohne es zu benennen, eine der saubersten Paradoxalen Interaktionen in der Geschichte der Wissenschaft.<\/p>\n

Sie nennen es AlgZoo. Eine Sammlung kleiner neuronaler Netze. Das kleinste hat 8 Parameter. Das gr\u00f6\u00dfte 1.408. Sie sind darauf trainiert, einfache Dinge zu tun \u2014 etwa die zweitgr\u00f6\u00dfte Zahl in einer Sequenz zu finden.<\/p>\n

Die Zahl, die z\u00e4hlt, ist: 32.<\/p>\n

Das ist die Gr\u00f6\u00dfe des gr\u00f6\u00dften Modells, das ARC glaubt mehr oder weniger vollst\u00e4ndig zu verstehen. Das n\u00e4chste, in das sie erheblichen Aufwand investiert haben \u2014 und gescheitert sind \u2014 hat 432 Parameter.<\/p>\n

432 Parameter. Sie k\u00f6nnen es nicht erkl\u00e4ren.<\/p>\n

Am Ende des Papers erkl\u00e4ren sie, Forscher zu suchen, die helfen sollen.<\/p>\n<\/div><\/div>\r\n\r\n

<\/div><\/div>\r\n\r\n

Was 432 Parameter bedeuten<\/h2>\n

Um die Tragweite zu verstehen, braucht man einen Referenzpunkt.<\/p>\n

GPT-4 hat sch\u00e4tzungsweise 1,8 Billionen Parameter. Claude, Gemini und andere Frontier-Modelle bewegen sich in \u00e4hnlichen Gr\u00f6\u00dfenordnungen. Das sind die Systeme, die global eingesetzt werden, Informationsumgebungen umgestalten, \u00c4rzte und Juristen beraten, Code generieren, der in Produktion l\u00e4uft.<\/p>\n

ARC kann ein Modell mit 432 Parametern nicht vollst\u00e4ndig erkl\u00e4ren.<\/p>\n

Nicht wegen fehlender Kompetenz. ARC geh\u00f6rt zu den technisch rigorosesten Alignment-Forschungsorganisationen weltweit. Die Forscher, die dieses Paper geschrieben haben, sind ernsthafte Menschen, die ernsthafte Arbeit leisten. Sie kennen die Mathematik. Sie kennen die Architekturen. Sie haben die Werkzeuge.<\/p>\n

Die L\u00fccke ist keine Kompetenzl\u00fccke. Sie ist strukturell.<\/p>\n

Komplexit\u00e4t w\u00e4chst nicht linear. Verstehen bleibt nicht einfach zur\u00fcck \u2014 es driftet, strukturell. Bei 32 Parametern kann man noch jede Berechnung nachverfolgen, jeden Pfad verifizieren, jede numerische Beziehung erkl\u00e4ren. Bei 432 erzeugen die Wechselwirkungen zwischen Komponenten Verhalten, das sich der Reduktion widersetzt. Man kann beschreiben, was das Modell tut. Man kann nicht vollst\u00e4ndig erkl\u00e4ren, warum.<\/p>\n

Die Mauer erscheint lange bevor man sie erreicht.<\/p>\n<\/div><\/div>\r\n\r\n

<\/div><\/div>\r\n\r\n

<\/h2>\n

Die Stellenanzeige<\/h2>\n

Am Ende des AlgZoo-Papers formuliert ARC eine Herausforderung. Sie liest sich wie eine Einladung. Man w\u00fcrde es \u201ebegr\u00fc\u00dfen\", andere ambitionierte Forscher zu sehen, die ihre Modelle erkunden. Man w\u00e4re \u201ebegeistert\", bessere mechanistische Sch\u00e4tzungen zu sehen. Sie stellen eine konkrete Aufgabe: das 432-Parameter-Modell erkl\u00e4ren.<\/p>\n

Das ist eine Stellenanzeige f\u00fcr ein m\u00f6glicherweise strukturell unl\u00f6sbares Problem.<\/p>\n

Nicht weil der n\u00e4chste Forscher inkompetent sein wird. Weil die Interpretabilit\u00e4tsl\u00fccke, die sie beschreiben, keine Wissensl\u00fccke ist \u2014 sondern eine L\u00fccke in der Natur des Verstehens selbst. G\u00f6del hat nicht gezeigt, dass Mathematiker nicht schlau genug waren, alles zu beweisen. Er hat gezeigt, dass Vollst\u00e4ndigkeit in hinreichend komplexen Systemen strukturell unm\u00f6glich ist.<\/p>\n

Das ARC-Paper ist ein Proof of Concept f\u00fcr dasselbe Prinzip, ausgef\u00fchrt in Silizium.<\/p>\n

Und die Antwort \u2014 das Paper ver\u00f6ffentlichen, Mitarbeiter einladen, das Forschungsprogramm fortsetzen \u2014 ist die einzige rationale verf\u00fcgbare Antwort. Man h\u00f6rt nicht auf, weil die Mauer existiert. Man geht auf sie zu. Mangels Alternative.<\/em><\/p>\n<\/div><\/div>\r\n\r\n

<\/div><\/div>\r\n\r\n

Die Struktur<\/h2>\n

Benennen wir, was tats\u00e4chlich passiert.<\/p>\n

ARCs Mission ist Interpretabilit\u00e4t: zu verstehen, was neuronale Netze tun, gut genug, um sie sicher zu machen. Das erfordert mindestens, Modellverhalten mechanistisch erkl\u00e4ren zu k\u00f6nnen. Wenn man das Modell nicht erkl\u00e4ren kann, kann man seine Ausrichtung nicht verifizieren.<\/p>\n

Ihre eigene Forschung zeigt, dass vollst\u00e4ndiges mechanistisches Verstehen irgendwo zwischen 32 und 432 Parametern unerreichbar wird.<\/p>\n

Die Modelle, die sie ausrichten m\u00fcssen, haben milliardenfach mehr Parameter.<\/p>\n

Jeder rationale Schritt vertieft das Problem:<\/p>\n