Meta-Chef Mark Zuckerberg lehnt einen koordinierten Entwicklungsstopp für besonders leistungsfähige KI-Modelle ab. In einem Beitrag vom Dienstag, 15. September 2026, argumentierte Zuckerberg, dass KI-Unternehmen selbst genügend Anreize hätten, bei der Entwicklung ihrer Modelle auf Sicherheit zu achten. Damit positioniert sich der Meta-Gründer anders als mehrere prominente Vertreter der KI-Branche, die zuletzt für eine Verlangsamung der Entwicklung oder stärkere gemeinsame Sicherheitsmechanismen geworben haben.
Die Debatte um eine KI-Pause hat damit eine neue politische und wirtschaftliche Dimension erreicht. Dabei geht es allerdings nicht um einen bereits beschlossenen internationalen Entwicklungsstopp. Unterschiedliche Unternehmen, Wissenschaftler, politische Akteure und Initiativen diskutieren vielmehr darüber, ob die Entwicklung besonders leistungsfähiger Modelle verlangsamt werden sollte und wie Sicherheitsstandards kontrolliert werden können.
Zuckerberg erklärte auf der Plattform X, jedes KI-Labor habe die Verantwortung und einen eigenen wirtschaftlichen Anreiz, Modelle nur in einem Tempo zu trainieren, bei dem die Sicherheit gewährleistet werden könne. Zudem könnten die Unternehmen selbst Maßnahmen ergreifen, wenn zusätzliche Prüfungen notwendig seien. Reuters zufolge verwies Zuckerberg unter anderem darauf, dass Unternehmen erhebliche Haftungsrisiken drohten, wenn ihre Systeme Schäden verursachten.
Seine Position bedeutet dabei nicht, dass Meta Sicherheitsprüfungen grundsätzlich ablehnt. Zuckerberg sprach sich für Sicherheitsarbeit innerhalb der Unternehmen und für externe Bewertungen aus. Meta habe nach seiner Darstellung beispielsweise die Einführung eines KI-Agenten verzögert, um zusätzliche Sicherheitsfragen zu klären. Einen verbindlich koordinierten Stopp mehrerer Anbieter hält er jedoch nicht für erforderlich.
Auch Nvidia-Chef Jensen Huang wandte sich gegen eine generelle Verlangsamung. Er argumentierte, schnelle Entwicklung und sichere Veröffentlichung von Produkten seien nicht zwangsläufig Gegensätze. Damit stehen Meta und Nvidia einer Gruppe von Branchenvertretern gegenüber, die derzeit stärkere gemeinsame Begrenzungen fordern.
Auslöser der jüngsten Diskussion waren unter anderem Warnungen von Anthropic-Chef Dario Amodei. Er forderte eine gezieltere Begrenzung des Tempos bei der Entwicklung besonders fortgeschrittener Modelle. Nach seiner Vorstellung sollen unabhängige Prüfer stärkeren Zugang zu KI-Unternehmen erhalten, gemeinsame Sicherheitsstandards entstehen und auch Regierungen international zusammenarbeiten.
Amodei spricht dabei nicht ausschließlich von einem vollständigen und dauerhaften Entwicklungsverbot. Sein Konzept zielt nach den veröffentlichten Vorschlägen auf ein kontrollierteres Tempo bei sogenannten Frontier-Modellen und auf die Möglichkeit weitergehender Einschränkungen, wenn bestimmte Fähigkeiten nicht ausreichend sicher beherrscht werden können.
OpenAI-Chef Sam Altman unterstützte Forderungen nach stärkeren Sicherheitsmechanismen und unabhängigen Bewertungen. Nach Angaben der Associated Press sprach er sich für eine kontrollierte Geschwindigkeit der Entwicklung aus, ohne einen generellen dauerhaften Stopp der KI-Forschung zu verlangen. Auch Elon Musk äußerte sich unterstützend zu stärkeren gemeinsamen Sicherheitsmaßnahmen.
Damit unterscheiden sich auch die Positionen innerhalb der Gruppe, die eine Verlangsamung befürwortet. Begriffe wie Pause, Slowdown oder kontrolliertes Entwicklungstempo beschreiben nicht überall dasselbe regulatorische Modell.
Auch in Deutschland beschäftigt die Diskussion inzwischen die Bundesregierung. Das Bundesministerium für Digitales und Staatsmodernisierung erklärte bei der Regierungspressekonferenz am 14. September, die Warnungen führender KI-Entwickler würden ernst genommen. Ein Entwicklungsstopp sei für Europa allerdings kein gangbarer Weg. Ziel der Bundesregierung sei es zugleich, die digitale Souveränität zu stärken und die KI-Entwicklung in Europa voranzutreiben.
Statt eines Moratoriums setzt die Bundesregierung unter anderem auf das neu aufgebaute nationale KI-Sicherheitsinstitut. Dieses habe seine Arbeit aufgenommen und solle sicherheitsrelevante Risiken identifizieren. Nach Angaben des Digitalministeriums arbeitet das Institut bereits mit entsprechenden Einrichtungen in Großbritannien und Frankreich zusammen. Bundesdigitalminister Karsten Wildberger hatte sich zudem für eine internationale KI-Aufsicht und eine engere globale Zusammenarbeit ausgesprochen.
Die Bundesregierung bringt die Fragen nach eigenen Angaben auch in die G7 ein. Dabei seien insbesondere die USA und China für eine wirksame internationale Regelung entscheidend. Der Nationale Sicherheitsrat der Bundesregierung habe sich bereits zweimal mit den Sicherheitsrisiken fortgeschrittener KI beschäftigt.
Eine Forderung nach einem generellen deutschen KI-Moratorium ist daraus nicht entstanden.
Außerhalb der Bundesregierung gibt es dagegen weitergehende Forderungen. Die Initiative PauseAI Deutschland demonstrierte am 15. September vor dem Brandenburger Tor in Berlin für eine weltweit koordinierte Unterbrechung bestimmter KI-Entwicklungen.
Nach Angaben der Organisation sollen Systeme nicht weiterentwickelt werden, wenn ihre sichere Kontrollierbarkeit nicht nachgewiesen werden könne. PauseAI fordert die Bundesregierung auf, sich für ein entsprechendes internationales Abkommen einzusetzen. Dabei handelt es sich um eine Forderung der Initiative und nicht um eine beschlossene Position der Bundesregierung oder der Europäischen Union.
In der Europäischen Union trifft die aktuelle Diskussion auf ein bereits bestehendes gesetzliches Regelwerk. Der AI Act sieht keinen allgemeinen Entwicklungsstopp für fortgeschrittene KI vor. Stattdessen gelten abgestufte Anforderungen, die sich nach Art und Risiko der Systeme richten.
Für Anbieter sogenannter General-Purpose-AI-Modelle gelten seit dem 2. August 2025 unter anderem Pflichten zur technischen Dokumentation, zum Umgang mit dem Urheberrecht und zur Veröffentlichung von Informationen über Trainingsinhalte. Für besonders leistungsfähige Modelle mit systemischem Risiko kommen zusätzliche Anforderungen hinzu. Anbieter müssen der Europäischen Kommission entsprechende Modelle melden sowie Risiken bewerten und reduzieren, Sicherheitsmaßnahmen treffen und schwerwiegende Vorfälle melden.
Seit dem 2. August 2026 kann die EU-Kommission die GPAI-Vorschriften auch durchsetzen und bei Verstößen Sanktionen verhängen. Gleichzeitig gelten zusätzliche Transparenzanforderungen für bestimmte KI-Systeme und KI-generierte Inhalte.
Das europäische Modell unterscheidet sich damit sowohl von der Forderung nach einem vollständigen Moratorium als auch von einer weitgehend freiwilligen Selbstkontrolle der Unternehmen.
Die entscheidende Trennlinie innerhalb der Branche verläuft derzeit weniger zwischen Befürwortern und Gegnern von KI als zwischen unterschiedlichen Vorstellungen darüber, wie Sicherheitsrisiken kontrolliert werden sollen.
Amodei und weitere Vertreter fordern mehr gemeinsame Regeln, unabhängige Prüfungen und gegebenenfalls eine Drosselung besonders schneller Entwicklungsschritte. Zuckerberg hält dagegen stärkere Eigenverantwortung einzelner Labore für ausreichend und verweist auf wirtschaftliche und rechtliche Anreize für sichere Systeme. Die Bundesregierung wiederum lehnt einen Entwicklungsstopp ab, fordert aber internationale Aufsicht und baut staatliche Sicherheitsstrukturen aus.
Ein weltweit koordinierter Stopp für fortgeschrittene KI-Modelle war am 16. September 2026 nicht beschlossen. Die Europäische Union verfolgt mit dem AI Act stattdessen einen risikobasierten Ansatz, der leistungsfähige Modelle weiter zulässt, deren Anbieter aber mit zunehmender Leistungsfähigkeit strengeren Sicherheits-, Dokumentations- und Kontrollpflichten unterwirft.
Texte werden mit Unterstützung von KI-Tools erstellt und vor Veröffentlichung redaktionell geprüft. Mehr dazu