Am 24. Februar 2026 strich Anthropic eine entscheidende Klausel aus der eigenen Sicherheitsrichtlinie. Bis dahin hatte sich das Unternehmen in seiner „Responsible Scaling Policy” verpflichtet, die Entwicklung von KI notfalls bedingungslos zu pausieren. Die Begründung für die Streichung war bemerkenswert ehrlich: Eine einseitige Pause könne die Welt gefährlicher machen. Wenn ein Entwickler anhalte, um Sicherheitsmaßnahmen umzusetzen, während andere ungebremst weitertrainieren und ausliefern, sei das Ergebnis unsicherer als gar keine Pause. So steht es in der Ankündigung des Unternehmens zur Responsible Scaling Policy v3.0 vom 24. Februar 2026.
Rund 100 Tage später, Anfang Juni 2026, forderte Anthropic öffentlich genau jenen Stopp, den es intern als unrealistisch und gefährlich verworfen hatte. Diesmal für die ganze Welt! Wörtlich, zitiert bei ZDFheute und Tagesspiegel: „Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können.”
Erst gestrichen, dann gefordert. Das riecht nach Widerspruch, und die Debatte hat prompt eingesetzt: Ist der Appell PR, oder ist er ernst gemeint? Als Ethiker halte ich beide Deutungen für einen Fehlgriff. Sie zielen auf die Absicht hinter dem Appell. Der eigentliche Skandal liegt in seiner Struktur.
Marketing oder ernst gemeint? Beides trifft die ethische Frage nicht
Wer fragt, ob Anthropic den Stopp ernst meint, hat die Frage schon falsch gestellt. Denn der Vorschlag trägt seine Schwäche im Kleingedruckten: Er gilt nur, wenn alle mitmachen. Ein Verzicht, der an die Bedingung geknüpft ist, dass ausnahmslos jeder ihn leistet, ist keine moralische Pflicht. Er ist eine Verhandlungsposition.
Das ist kein rhetorischer Kniff, sondern ein klassisches Prüfkriterium der Ethik. Eine Pflicht muss sich nach Immanuel Kant universalisieren lassen: Ich handle nach einem Grundsatz, von dem ich wollen kann, dass alle nach ihm handeln, und zwar unabhängig davon, ob sie es tatsächlich tun. Kant nennt das den kategorischen Imperativ. Das Entscheidende steckt im Wort „kategorisch”: Die Pflicht bindet ohne Vorbedingung. „Ich halte an, aber nur, wenn du auch anhältst” ist genau die Form, die der berühmte Königsberger Philosoph dagegenstellt, den hypothetischen Imperativ. Er beschreibt kein moralisches Sollen, sondern ein taktisches Kalkül.
Anthropics Pause-Vorschlag entspricht der zweiten Form. Er externalisiert die interne Logik des Responsible Scaling auf die Weltebene: Wir würden pausieren, wenn wir sicher sein könnten, dass die anderen es auch tun. Damit ist der Appell nicht falsch, aber er ist auch keine Selbstverpflichtung. Er ist ein Angebot an einem Verhandlungstisch, an dem niemand sitzt.
Ob diese Position aufrichtig gemeint ist oder nicht, ändert daran nichts. Und ob sie funktioniert, müssen wir nicht spekulieren. Wir haben den Feldversuch bereits hinter uns.
Der KI-Entwicklungsstopp von 2023, den kein Labor einhielt
Am 22. März 2023 veröffentlichte das Future of Life Institute den Aufruf „Pause Giant AI Experiments”. Er forderte wörtlich, alle KI-Labore sollten das Training von Systemen, die leistungsfähiger sind als GPT-4, sofort für mindestens sechs Monate aussetzen. 31.810 Personen unterzeichneten den Aufruf damals, darunter die KI-Forscher Yoshua Bengio und Stuart Russell, der Apple-Mitgründer Steve Wozniak, der Historiker Yuval Noah Harari und Elon Musk. Prominenter konnte ein moralischer Appell kaum besetzt sein.
Und dann geschah: nichts. Kein Frontier-Labor pausierte messbar. Laut einer Epoch-AI-Analyse vom 28. Mai 2024, gestützt auf den Brieftext von futureoflife.org, wuchs der Trainings-Compute von Spitzenmodellen von 2010 bis Mai 2024 ununterbrochen um den Faktor 5,3 pro Jahr. GPT-4 vom März 2023 mit rund 2 mal 10 hoch 25 Rechenoperationen und Gemini Ultra vom Dezember 2023 mit rund 5 mal 10 hoch 25 Operationen liegen exakt auf dieser Wachstumslinie. Im geforderten Sechsmonatsfenster, vom 22. März bis zum 22. September 2023, gibt es keinen wirklichen Einbruch. Die Kurve verläuft, als hätte es den Aufruf nie gegeben.
Ein moralischer Appell mit 31.810 Unterschriften, gerichtet an eine Handvoll Labore, und die Wirkung auf die Trainingskurve ist statistisch nicht nachweisbar. Das ist keine Randnotiz. Das ist der empirische Beweis dafür, dass ein bedingter Verzicht sich selbst aushebelt.
Elon Musk unterschrieb, während xAI schon existierte
Am schärfsten zeigt das ein einzelner Unterzeichner. Elon Musk setzte seinen Namen am 22. März 2023 unter den Aufruf zum Entwicklungsstopp. Seine KI-Firma xAI war zu diesem Zeitpunkt bereits gegründet: laut Unternehmenshistorie am 9. März 2023, also 13 Tage vor seiner Unterschrift. Am 12. Juli 2023 kündigte er xAI öffentlich an, mit elf Forschern von DeepMind, OpenAI, Microsoft Research und Google. Das war 112 Tage nach seiner Unterschrift und damit noch innerhalb des Sechsmonatsfensters, das er selbst mitgefordert hatte. So berichtete es CNBC am 12. Juli 2023.
Man kann das für Zynismus halten. Ich halte es für die logische Konsequenz eines bedingten Verzichts. Wer unterschreibt, dass alle anhalten sollen, aber nicht darauf vertrauen kann, dass die anderen es tun, verhält sich rational, wenn er selbst weiterläuft. Der Appell bestraft den, der ihn befolgt, und belohnt den, der ihn unterschreibt und ignoriert. Musk hat beides an seiner Person vorgeführt.
Legt man die Ereignisse nebeneinander, wird das Muster sichtbar: Jeder Appell zum Anhalten fällt in ein Zeitfenster, in dem die tatsächliche Entwicklung ungebremst weiterläuft. Genau diese Lücke zwischen Forderung und Handeln ist keine Nachlässigkeit einzelner Akteure. Sie ist die vorhersehbare Folge einer Spielstruktur.
Wer stoppt zuerst? Das ungelöste Gefangenendilemma
Hinter beiden Episoden, 2023 wie 2026, steht dieselbe Spielstruktur. Es ist das Gefangenendilemma. Für jeden einzelnen Entwickler ist Weitermachen die dominante Strategie, egal was die anderen tun. Pausiert die Konkurrenz, gewinne ich Vorsprung. Pausiert sie nicht, darf ich nicht zurückfallen. Der kollektiv bessere Zustand, eine gemeinsame Atempause, ist individuell für niemanden erreichbar, solange kein Mechanismus die Zusage erzwingt.
Genau diese Dynamik prägt den internationalen KI-Wettbewerb zwischen USA, China und Europa: Kein Akteur kann es sich leisten, einseitig zu bremsen, solange die anderen beschleunigen. Und genau das hatte Anthropic im Februar 2026 selbst erkannt und ausgesprochen. Die Streichung der harten Pause-Klausel aus der Responsible Scaling Policy war nichts anderes als die nüchterne Diagnose des Dilemmas: Wer allein anhält, macht die Welt nicht sicherer, nur langsamer, und überlässt das Feld denen, die weniger vorsichtig sind.
Damit hat Anthropic im Juni 2026 eine Pause gefordert, deren Aussichtslosigkeit es 100 Tage zuvor selbst schriftlich begründet hatte. Das ist der Kern. Nicht die Frage nach dem Motiv, sondern die Tatsache, dass dieselbe Firma beide Seiten der Gleichung kennt und trotzdem die Seite wählt, die 2023 nachweislich verloren hat.
„Der Appell verschiebt das Overton-Fenster”, und warum das nicht reicht
Der stärkste Einwand gegen diese Lesart lautet: Ein öffentlicher Appell muss gar nicht binden, um zu wirken. Er verschiebt nach der Theorie des Overton-Fensters das Sagbare und schafft politische Deckung für verbindliche Regulierung. Und tatsächlich lässt sich das belegen. Laut Future of Life Institute löste der besagte Brief von 2023 Anhörungen im US-Senat, eine Stellungnahme des Europäischen Parlaments und einen Aufruf der UNESCO aus. Im September 2023 lieferte das Institut Empfehlungen für den britischen AI Safety Summit, der am 1. und 2. November 2023 in der Bletchley Declaration mündete, dem ersten gemeinsamen Grundsatzpapier von 28 Staaten und der EU zur KI-Sicherheit.
Der Einwand ist berechtigt, und er ist wichtig. Nur widerlegt er die These nicht, er bestätigt sie. Denn was hier wirkt, ist nie der Appell selbst, sondern das, was Staaten daraus machen. Die Bletchley Declaration ist eine Absichtserklärung ohne Sanktionen. Sie hat das Gefangenendilemma nicht aufgelöst, die Epoch-Kurve stieg mit 5,3 pro Jahr unbeirrt weiter. Der moralische Appell entfaltet Wirkung bestenfalls als Vorstufe zu erzwungener Regulierung. Als eigenständige Pflicht bindet er niemanden. Verbindlich wird ein Appell erst, wenn ein Mechanismus dahintersteht, der ihn durchsetzt, egal ob alle mitziehen oder nicht.
Und genau dieser bindende Mechanismus rückt jetzt näher. Ab August 2026 greifen die Pflichten des EU AI Act für Hochrisiko-Systeme nach Anhang III erstmals rechtlich verbindlich, mit Bußgeldern statt Appellen. Das ist der Unterschied zwischen einer Bitte und einer Pflicht: Die eine kann jeder folgenlos ignorieren, die andere kostet.
Von der moralischen Bitte zum bindenden Auslöser
Die eigentlich interessante Bewegung findet deshalb nicht auf der Bühne des Appells statt, sondern darunter. Die Debatte verschiebt sich vom moralischen Aufruf zum prozeduralen, bedingten Auslösemechanismus.
Anthropics Responsible Scaling Policy v3.0 zeigt das exemplarisch. An die Stelle der gestrichenen bedingungslosen Verpflichtung zum Entwicklungsstopp tritt ein zweistufiger Test: Anthropic pausiert nur, wenn es sich selbst als Marktführer einschätzt und das Katastrophenrisiko „material”, also erheblich, wird. Vierteljährliche „Frontier Safety Roadmaps” und „Risk Reports” flankieren das. Aus dem Versprechen „Wir halten an, wenn es gefährlich wird” ist eine überprüfbare Bedingung mit definierten Schwellen geworden. Dass Anthropics tatsächliche Marktstellung diese Selbsteinschätzung überhaupt plausibel macht, zeigt der Blick auf die Umsatzverschiebung zwischen Anthropic und OpenAI.
Man muss diesen Test nicht für ausreichend halten. Ein Auslöser, den das Unternehmen selbst definiert und selbst scharf schaltet, bleibt Selbstregulierung. Aber er ist ehrlicher als der Appell, weil er die Bedingung offen benennt, statt sie hinter moralischer Sprache zu verstecken. Dass die Branche diese Fragen ernster nimmt als früher, zeigt auch ein personeller Trend: KI-Firmen stellen in den USA immer mehr Philosophen fest an. Amanda Askell arbeitet bei Anthropic an genau diesen Fragen, Iason Gabriel und Henry Shevlin bei Google DeepMind. Ethik wandert auf diesem Weg vom offenen Brief in die Stellenbeschreibungen.
Diese Verschiebung ist die eigentliche gute Nachricht. Sie erklärt, warum der Ruf nach einer gesellschaftlichen Atempause, damit die Strukturen mit der Technik Schritt halten, ein reales Anliegen benennt, das über die Frage nach KI und Demokratie weit hinausreicht. Nur ist der weltweite Appell das schwächste Werkzeug, um es zu bedienen.
Fazit: Eine Pflicht, die alle voraussetzt, ist keine
Anthropics Forderung nach einem weltweiten KI-Entwicklungsstopp ist weder bloßes Marketing noch ein ernst gemeinter Stopp. Sie ist der ethische Fehler beider Deutungen. Ein Verzicht, der nur bindet, wenn alle mitmachen, ist keine moralische Pflicht, sondern eine Verhandlungsposition. Und der Brief von 2023 hat bewiesen, dass diese Position verliert: 31.810 Unterschriften, ein Unterzeichner, der zeitgleich sein eigenes KI-Labor gründete, und eine Trainingskurve, die den Appell nicht einmal bemerkte.
Die ehrliche Frage lautet deshalb nicht, ob Anthropic es diesmal ernst meint. Sie lautet: Hat die geforderte Pause einen Auslöser, der auch dann zündet, wenn nicht alle zustimmen? Der bedingte Test der Responsible Scaling Policy ist ein solcher Auslöser, wenn auch ein selbstgestellter. Der EU AI Act ist ab August 2026 ein zweiter, mit echten und wirksamen Sanktionen. Der offene Brief von 2023 war hingegen keiner, und deshalb blieb er wirkungslos.
Zwei dieser drei Antworten sind Positionen in einer Verhandlung. Nur eine ist eine Pflicht. Wer die nächste Verschiebung dieser Debatte nicht erst aus der Schlagzeile erfahren will, findet im KI-Syndikat Newsletter die Einordnungen dazu.
Fakt aber bleibt: Wer 2023 aufmerksam hingeschaut hat, weiß, welche Seite dieses Tisches gewinnt.