Die Europäische Union erhöht den Druck auf die Anbieter besonders leistungsfähiger KI-Modelle. Wenige Wochen nachdem die Europäische Kommission ihre neuen Durchsetzungsbefugnisse nach dem AI Act vollständig nutzen kann, hat das zuständige AI Office formelle Auskunftsersuchen an mehrere Anbieter von General-Purpose-AI-Modellen verschickt. Dabei geht es unter anderem um die Absicherung der Modelle, unabhängige externe Prüfungen und die Überwachung nach ihrer Veröffentlichung. Parallel untersucht die europäische Cybersicherheitsagentur ENISA aktuelle Spitzenmodelle auf mögliche Risiken.
Der AI Act für KI-Modelle gibt der Kommission dabei weitreichende Möglichkeiten. Anbieter können verpflichtet werden, technische Informationen und Dokumente vorzulegen. Bei bestimmten Modellen kann die EU eigene Evaluierungen durchführen und bei festgestellten Problemen Maßnahmen verlangen. Bei vorsätzlichen oder fahrlässigen Verstößen gegen einschlägige Pflichten, unzureichenden Antworten auf Auskunftsersuchen oder der Missachtung angeordneter Maßnahmen sind hohe Geldbußen möglich.
Für Anbieter von General-Purpose-AI-Modellen ist die Sanktionsregel in Artikel 101 des AI Act besonders relevant. Die Kommission kann Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorherigen Geschäftsjahres verhängen. Entscheidend ist der jeweils höhere Wert. Bei großen internationalen Technologiekonzernen kann die mögliche Geldbuße deshalb deutlich über 15 Millionen Euro liegen.
Ein Bußgeld wird allerdings nicht bereits dadurch ausgelöst, dass die Kommission Informationen anfordert oder ein Modell überprüfen lässt. Dafür muss sie einen relevanten Verstoß feststellen. Zu den ausdrücklich erfassten Fällen gehören unter anderem falsche, unvollständige oder irreführende Angaben auf ein formelles Auskunftsersuchen. Auch die Nichtbefolgung einer von der Kommission verlangten Maßnahme kann sanktioniert werden. Bislang hat die Kommission im Zusammenhang mit den aktuellen Auskunftsersuchen keine entsprechenden Verstöße festgestellt.
Die Pflichten für Anbieter neuer General-Purpose-AI-Modelle gelten grundsätzlich bereits seit dem 2. August 2025. Seit dem 2. August 2026 kann die Kommission diese Vorgaben auch mit ihren vorgesehenen Aufsichtsinstrumenten und Geldbußen durchsetzen. Für Modelle, die bereits vor dem 2. August 2025 auf dem europäischen Markt waren, gilt eine Übergangsfrist bis zum 2. August 2027.
Zusätzlich zur regulatorischen Kontrolle hat die EU ihre technischen Prüfungen ausgeweitet. Die Cybersicherheitsagentur ENISA hat Zugang zu Anthropics Modell Mythos 5 erhalten und testet dessen Fähigkeiten. Auch auf OpenAIs aktuelles GPT-6-Astra kann die Behörde zugreifen. Zuvor hatte sie bereits Zugang zu einem auf Cybersicherheit ausgerichteten Modell von OpenAI erhalten.
Gerade die Fähigkeiten solcher Modelle im Bereich Cybersicherheit stehen im Mittelpunkt. Leistungsfähige KI kann einerseits dabei helfen, Schwachstellen in Software zu entdecken und Sicherheitssysteme zu verbessern. Dieselben Fähigkeiten können jedoch auch für Angriffe oder die Suche nach bislang unbekannten Sicherheitslücken eingesetzt werden. Für die inzwischen veröffentlichte neuere Anthropic-Version Mythos 5.1 war bis zum 11. September noch kein entsprechender Zugang der EU angekündigt.
Die Tests durch ENISA sind von einer formellen Modellevaluierung durch die Kommission nach Artikel 92 des AI Act zu unterscheiden. Das AI Office besitzt zusätzlich die Befugnis, General-Purpose-AI-Modelle selbst bewerten zu lassen, wenn vorhandene Informationen für die Prüfung der gesetzlichen Pflichten nicht ausreichen oder systemische Risiken näher untersucht werden müssen.
Nicht für jedes KI-Modell gelten dieselben Anforderungen. Besonders weit gehen die Vorschriften für General-Purpose-AI-Modelle mit systemischem Risiko. Ihre Anbieter müssen Modelle nach dem Stand der Technik evaluieren und dabei auch gezielte Belastungs- und Angriffstests dokumentieren. Außerdem müssen sie mögliche systemische Risiken bewerten und begrenzen sowie ein angemessenes Niveau der Cybersicherheit für das Modell und die dazugehörige Infrastruktur gewährleisten.
Hinzu kommt eine Meldepflicht für schwerwiegende Vorfälle. Anbieter müssen entsprechende Ereignisse dokumentieren und dem AI Office sowie gegebenenfalls den zuständigen nationalen Behörden ohne unangemessene Verzögerung melden. Die EU hat dafür bereits eine einheitliche Meldevorlage geschaffen. Der freiwillige Verhaltenskodex für General-Purpose-AI konkretisiert zusätzlich, wie Unternehmen ihre Einhaltung der gesetzlichen Vorgaben nachweisen können.
Wie praktisch diese Meldepflicht inzwischen geworden ist, zeigt ein aktueller Vorgang. Die Europäische Kommission bestätigte am 7. September den Eingang eines Vorfallberichts von OpenAI im Zusammenhang mit einem früheren Zwischenfall, bei dem autonome KI-Agenten eine deutsche Internetseite für nicht vorgesehene Aktivitäten nutzten. Die Kommission prüft den Bericht. Einen Verstoß gegen den AI Act hat sie bislang nicht festgestellt.
Der Vorgang macht zugleich deutlich, worauf Brüssel bei solchen Meldungen Wert legt. Ein Vorfallbericht soll nicht nur das Ereignis dokumentieren, sondern auch nachvollziehbar darstellen, welche Gegenmaßnahmen vorgesehen sind. Damit rücken neben der Entwicklung eines Modells zunehmend die Überwachung im laufenden Betrieb, unabhängige Sicherheitstests und die Reaktion auf ungewöhnliches Verhalten in den Mittelpunkt der europäischen KI-Aufsicht.
Die jüngsten Schritte markieren damit den Übergang von der Einführungsphase des europäischen KI-Rechts zur tatsächlichen Aufsicht. Das AI Office kann Informationen verlangen, Modelle bewerten und konkrete Abhilfemaßnahmen einfordern. Für Anbieter leistungsfähiger KI bedeutet das, dass Dokumentation, Sicherheitsprüfungen und Vorfallmanagement inzwischen nicht mehr nur Bestandteil freiwilliger Sicherheitskonzepte sind, sondern in wesentlichen Bereichen gesetzlich überprüfbare Pflichten darstellen.
Texte werden mit Unterstützung von KI-Tools erstellt und vor Veröffentlichung redaktionell geprüft. Mehr dazu