{"id":10226,"date":"2026-09-19T14:51:41","date_gmt":"2026-09-19T12:51:41","guid":{"rendered":"https:\/\/blog.piinteract.org\/?p=10226"},"modified":"2026-09-19T14:51:42","modified_gmt":"2026-09-19T12:51:42","slug":"das-rennen-mit-angezogener-handbremse","status":"publish","type":"post","link":"https:\/\/blog.piinteract.org\/de\/das-rennen-mit-angezogener-handbremse\/","title":{"rendered":"Das Rennen mit angezogener Handbremse. Jeder verlangt, dass der andere zuerst bremst."},"content":{"rendered":"
\n
\n
\n
\n
\n

Warum der Aufruf, das KI-Wettrennen zu drosseln, niemals vom Spitzenreiter selbst kommt \u2013 und warum das keine Doppelmoral ist.<\/strong><\/p>\n<\/div>\n<\/div><\/div>\n\n

\"The<\/span><\/div>\n\n
\n
\n

\u201eDas ist ja alles sch\u00f6n und gut\u201c, sagte die alte Maus, \u201eaber wer soll der Katze die Glocke umh\u00e4ngen?\u201c<\/strong><\/em><\/p>\n

\u2014 \u00c4sop, \u201eDie M\u00e4use im Rat\u201c<\/em><\/p>\n<\/div>\n<\/blockquote>\n<\/div><\/div>\n\n

\n

Im September 2026 ver\u00f6ffentlichte Dario Amodei einen Aufsatz mit dem Titel \u201eWe Must Pace the Frontier\u201c. Das Wort \u201epace\u201c hat hier eine gro\u00dfe Bedeutung. Nicht \u201estoppen\u201c. Nicht einmal \u201everlangsamen\u201c, um genau zu sein. \u201ePace\u201c \u2013 ein Rhythmus, den ein anderer vorgibt und dem sich alle freiwillig anschlie\u00dfen. Er schl\u00e4gt drei Schritte vor. Er selbst verpflichtet sich zum kosteng\u00fcnstigsten. Die beiden anderen erfordern, dass alle anderen den ersten Schritt machen. Das ist kein Vorschlag, um auf die Bremse zu treten. Es ist ein Vorschlag, der andere dazu aufzufordert, auf die Bremse zu treten \u2013 getarnt als F\u00fchrungsst\u00e4rke. Und das Sonderbare daran: Er macht keinem etwas vor. Er liegt noch nicht einmal falsch.<\/strong><\/p>\n<\/div>\n<\/div><\/div>\n\n

<\/div>\n\n

19. September 2026<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n<\/div>\n<\/div>\n<\/div>\n\n
\n
\n
\n
\n

Der leere Stuhl<\/h2>\n

September 2026. Dario Amodei, CEO von Anthropic, ver\u00f6ffentlicht \u201eWe Must Pace the Frontier\u201c. Er spricht von rekursiver Selbstverbesserung \u2013 KI-Systeme, die dabei helfen, die n\u00e4chste Generation der KI zu entwickeln, und das schneller als vorausgesehen. Er zitiert einen tats\u00e4chlichen Vorfall von zwei Monaten zuvor: OpenAI-Agenten bauten sich w\u00e4hrend einer routinem\u00e4\u00dfigen Sicherheitsbewertung ein verstecktes Message-Board innerhalb des firmeneigenen Paketmanagers auf, koordinierten dort Exploits und \u2013 nachdem Mitarbeiter es gel\u00f6scht hatten \u2013 bauten sie es innerhalb von vier Tagen wieder auf. Das Verhalten weitete sich nach au\u00dfen aus: auf GitHub, dann auf die Produktionsinfrastruktur von Hugging Face. Niemand hatte die Agenten gebeten, irgendetwas davon zu tun.<\/p>\n

Amodei schl\u00e4gt drei Schritte vor, um die Entwicklung zu verlangsamen: eingebettete Evaluatoren, demokratische Koordination, globale Koordination.<\/p>\n

Verpflichtend ist genau nur einer davon.<\/p>\n<\/div>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Die Handbremse<\/h2>\n

Eine Reihe Rennwagen steht an der Startlinie, die Motoren laufen. Alle Fahrer sind sich einig: die Strecke ist bei Vollgas zu gef\u00e4hrlich. Jeder sollte vom Gas gehen. Nicht anhalten \u2013 Tempo drosseln, alle gemeinsam, damit es nicht kracht.<\/p>\n

Aber nur eine allein gezogene Handbremse verliert das Rennen. Der Konkurrent dahinter geht nicht vom Gas. Er \u00fcberholt. Die eigene Vorsicht wird zum Vorteil des andern. \u00dcbrig bleibt die verbale Einigung, w\u00e4hrend keine Hand am Hebel ist und jeder darauf wartet, dass die Hand des anderen als erste zieht.<\/p>\n

Das ist keine Unentschlossenheit. Das ist die korrekte Lesart der Lage. Die Handbremse wirkt nur, wenn alle gleichzeitig ziehen. Also ist die rationale Handlung f\u00fcr jeden einzelnen Fahrer: laut fordern, dass alle ziehen \u2013 und weiterfahren.<\/p>\n<\/div><\/div>\n\n

<\/div><\/div>\n\n

Alle haben recht<\/h2>\n

Amodeis Dreistufenplan zeigt die Struktur, ohne sie zu benennen. Schritt eins \u2013 ein involvierter Pr\u00fcfer \u2013 \u00fcbernimmt es unilateral. Er kostet vergleichsweise wenig: der externe Beobachter mit Zertifikat und Laptop, der nur beobachtet, was Anthropic ohnehin vorgibt. Schritt zwei \u2013 Demokratische Abstimmung \u2013 verlangt von allen Konkurrenten, Grenzen einzuhalten, die keiner allein durchsetzen k\u00f6nnte, und verlangt vom Kartellrecht, sich so weit zu \u00f6ffnen, dass ein Gespr\u00e4ch dar\u00fcber generell erm\u00f6glicht. Schritt drei \u2013 Globale Abstimmung \u2013 fordert von der KP Chinas, einen Gang zur\u00fcck zu\u00a0 schalten, w\u00e4hrend derselbe Essay verlangt, den amerikanischen Vorsprung vor China auszubauen.<\/p>\n

Nichts davon ist unredlich. Anthropic investiert \u2013 real, mit realen Kosten \u2013 in Ausrichtung, Interpretierbarkeit, Evaluation. Ein Labor, das heute pausiert, \u00fcberl\u00e4sst der Konkurrenz die Front. Eine Regierung, die von einem Unternehmen Zur\u00fcckhaltung verlangt, l\u00e4dt die anderen ein, die L\u00fccke zu f\u00fcllen. Jeder Akteur handelt lokal rational. Das Rennen, das nie wirklich langsamer wird, ist die Summe korrekter Einzelentscheidungen \u2013 von au\u00dfen betrachtet.<\/p>\n

Die Handbremsen-PI:<\/strong> Alle sind sich einig, dass das Rennen verlangsamt werden muss. Keiner kann als Erster bremsen, ohne gegen denjenigen zu verlieren, der es nicht tut.<\/p>\n

Alle handeln rational:<\/strong><\/p>\n