Die Debatte über das Tempo bei besonders leistungsfähiger Künstlicher Intelligenz verschärft sich in den USA. Führende Vertreter von Anthropic, OpenAI und Google DeepMind haben sich dafür ausgesprochen, die Entwicklung sogenannter Frontier-KI stärker mit Sicherheitsprüfungen und einer Koordination zwischen den Unternehmen zu verbinden. US-Präsident Donald Trump weist Warnungen vor einer außer Kontrolle geratenen KI dagegen zurück und bezeichnet entsprechende Szenarien als Hoax.
Ausgangspunkt der jüngsten Debatte ist ein Vorstoß von Anthropic-Chef Dario Amodei. Er sprach sich dafür aus, das Tempo bei der Entwicklung immer leistungsfähigerer KI-Systeme so anzupassen, dass Sicherheitsforschung und Kontrollmechanismen Schritt halten können. Dabei geht es nicht um einen vollständigen Entwicklungsstopp, sondern um eine koordinierte Verlangsamung bei besonders fortgeschrittenen Modellen.
Amodei schlug unter anderem vor, unabhängigen Prüfern weitreichenden Zugang zu den Systemen der KI-Unternehmen zu geben. Sie sollen kontrollieren können, ob Sicherheitsvorgaben eingehalten werden und wie sich neue Modelle während ihrer Entwicklung verhalten. Anthropic kündigte an, diesen Teil des Konzepts selbst umzusetzen. Darüber hinaus wirbt Amodei für eine stärkere Abstimmung zwischen führenden KI-Unternehmen und langfristig auch zwischen Staaten.
Hintergrund sind zunehmend leistungsfähige KI-Systeme, die komplexe Aufgaben mit weniger menschlicher Anleitung ausführen können. Umstritten ist vor allem, wie schnell solche Fähigkeiten weiterentwickelt werden sollten und welche Risiken realistisch zu erwarten sind. Für konkrete Wahrscheinlichkeiten einer künftigen Katastrophe gibt es keinen wissenschaftlichen Konsens.
OpenAI-Chef Sam Altman stellte sich grundsätzlich hinter Amodeis Vorstoß. Er erklärte öffentlich, dass OpenAI ebenfalls unabhängigen Prüfern einen mit Mitarbeitern vergleichbaren Zugang ermöglichen wolle. Altman sprach sich außerdem dafür aus, die Entwicklung an der technologischen Spitze kontrollierter voranzutreiben.
Auch Demis Hassabis, Chef von Google DeepMind und leitender Wissenschaftler beim Google-Mutterkonzern Alphabet, unterstützte die grundsätzliche Richtung. Zugleich machte er deutlich, dass die konkrete Ausgestaltung noch geklärt werden müsse. Eine formelle gemeinsame Vereinbarung von OpenAI, Anthropic und Google über feste Entwicklungsgrenzen, Rechenbudgets oder verschobene Modellstarts wurde bislang nicht bekanntgegeben.
Damit ist die Forderung nach einer Verlangsamung der Frontier-KI-Entwicklung bislang vor allem ein politischer und unternehmerischer Vorstoß führender Branchenvertreter. Einen verbindlichen branchenweiten Mechanismus gibt es nicht. Auch ist nicht bekannt, dass eines der beteiligten Unternehmen wegen der neuen Debatte bereits ein bestimmtes KI-Modell gestrichen oder einen festgelegten Trainingslauf gestoppt hätte.
US-Präsident Donald Trump positionierte sich am Montag deutlich gegen die Forderungen nach zusätzlichen Beschränkungen. In mehreren Beiträgen auf seiner Plattform Truth Social bezeichnete er die Vorstellung, KI könne die Welt übernehmen und die Menschheit zerstören, als Hoax. Er argumentierte zugleich, die USA dürften ihre technologische Führungsposition gegenüber China nicht durch weitreichende Einschränkungen gefährden.
Trump verglich die Warnungen außerdem mit anderen Themen, die er in der Vergangenheit wiederholt als unzutreffend oder übertrieben dargestellt hat. Dabei stellte er die KI-Warnungen ausdrücklich neben den von ihm so bezeichneten Global Warming Scam. Die Aussage ist eine politische Bewertung des US-Präsidenten. Sie ändert nichts daran, dass die Risiken leistungsfähiger KI derzeit international Gegenstand wissenschaftlicher, wirtschaftlicher und regulatorischer Debatten sind.
Trump vertritt zugleich die Position, dass bestehende staatliche Möglichkeiten ausreichten, um gegen konkrete Verstöße von KI-Unternehmen vorzugehen. Weitere umfangreiche Beschränkungen betrachtet er als möglichen Nachteil für die amerikanische Technologieindustrie. Damit steht der Präsident in einem zunehmenden Gegensatz zu Teilen der KI-Branche, die gerade wegen des schnellen technischen Fortschritts stärkere Sicherheitsmechanismen verlangen.
Die Auseinandersetzung reicht über die USA hinaus. Leistungsfähige KI-Systeme werden inzwischen von Unternehmen und Forschungseinrichtungen in mehreren Staaten entwickelt. Eine Verlangsamung, die nur einzelne Firmen oder ein einzelnes Land betrifft, könnte deshalb wirtschaftliche und geopolitische Folgen haben. Gerade der Wettbewerb zwischen den USA und China spielt in der amerikanischen Diskussion eine zentrale Rolle.
Amodeis Konzept setzt deshalb langfristig auf internationale Abstimmung. Ob sich dafür gemeinsame Regeln finden lassen, ist offen. Staaten verfolgen unterschiedliche wirtschaftliche und sicherheitspolitische Interessen, während sich die technische Leistungsfähigkeit der Systeme schnell verändert. Parallel arbeiten Regierungen und internationale Organisationen an Regeln für besonders leistungsfähige KI, ohne dass bislang ein weltweit einheitliches System entstanden ist.
Die jüngsten Äußerungen zeigen dennoch eine ungewöhnliche Annäherung konkurrierender Unternehmen bei der Sicherheitsfrage. Anthropic fordert ausdrücklich ein langsameres Tempo, OpenAI unterstützt zentrale Elemente des Konzepts und Google DeepMind hält die Richtung für richtig. Daraus ist jedoch noch keine verbindliche gemeinsame KI-Bremse entstanden.
Der politische Konflikt wird dadurch klarer: Teile der führenden KI-Industrie wollen zusätzliche Zeit für Prüfungen, Sicherheitsforschung und externe Kontrolle gewinnen. Trump hält eine solche Verlangsamung dagegen für unnötig und warnt vor Nachteilen im internationalen Technologiewettbewerb. Wie weit die Unternehmen ihre öffentlichen Zusagen tatsächlich in konkrete Grenzen für neue Modelle übersetzen, ist bislang nicht festgelegt.
Texte werden mit Unterstützung von KI-Tools erstellt und vor Veröffentlichung redaktionell geprüft. Mehr dazu