Neue AI-Act-Regeln: Was Unternehmen jetzt beachten müssen

Heute startet das Summer Game Fest 2026: Was Gamer zur großen Show wissen müssen
Grzegorz Walczak

Teilen:

Seit dem 2. August 2026 gilt ein weiterer großer Teil der europäischen KI-Verordnung. Für Unternehmen bedeutet das vor allem neue Transparenzpflichten beim Einsatz bestimmter KI-Systeme. Nutzer müssen in festgelegten Fällen erkennen können, dass sie mit künstlicher Intelligenz interagieren oder dass Inhalte mit KI erzeugt beziehungsweise verändert wurden. Gleichzeitig beginnt die reguläre Durchsetzung weiterer Vorschriften durch die zuständigen Behörden.

Anzeige

Die AI Act Pflichten für Unternehmen hängen dabei stark davon ab, wie künstliche Intelligenz eingesetzt wird. Nicht jedes Unternehmen, das beispielsweise eine handelsübliche KI-Software nutzt, unterliegt automatisch denselben Anforderungen wie ein Anbieter eines eigenen KI-Systems. Zudem wurden wichtige Vorschriften für Hochrisiko-KI kurz vor ihrem ursprünglich geplanten Start verschoben.

Chatbots müssen sich als KI zu erkennen geben

Eine der seit dem 2. August 2026 geltenden Neuerungen betrifft interaktive KI-Systeme. Anbieter müssen Systeme grundsätzlich so gestalten, dass Menschen darüber informiert werden, wenn sie direkt mit künstlicher Intelligenz kommunizieren. Dazu können beispielsweise Chatbots oder andere automatisierte Dialogsysteme gehören.

Die Pflicht entfällt nach dem AI Act insbesondere dann, wenn aus Sicht einer angemessen informierten und aufmerksamen Person offensichtlich ist, dass es sich um ein KI-System handelt. Ziel der Regelung ist, eine Verwechslung zwischen menschlicher und maschineller Kommunikation zu verhindern. Die EU-Kommission veröffentlichte dazu im Juli 2026 eigene Leitlinien.

Anzeige

Für Unternehmen kann die Vorschrift etwa relevant werden, wenn ein KI-Chatbot im Kundenservice, auf einer Internetseite oder innerhalb eines digitalen Dienstes eingesetzt wird. Entscheidend sind die konkrete Funktion und die Rolle des Unternehmens als Anbieter oder Betreiber des jeweiligen Systems.

KI-Bilder und andere synthetische Inhalte müssen erkennbar sein

Neue Vorgaben gelten auch für Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen oder verändern können. Solche Systeme müssen ihre Ausgaben grundsätzlich in einem maschinenlesbaren Format kennzeichnen, damit künstlich erzeugte oder manipulierte Inhalte technisch erkannt werden können.

Für Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht wurden, gibt es allerdings eine begrenzte Übergangsfrist. Die entsprechenden technischen Kennzeichnungspflichten nach Artikel 50 Absatz 2 müssen für diese Systeme nach der aktuellen Fassung der Verordnung spätestens ab dem 2. Dezember 2026 erfüllt werden. Bereits vor dem 2. August 2026 erzeugte Inhalte müssen nach Angaben der EU-Kommission nicht nachträglich gekennzeichnet werden.

Die Kommission hat zusätzlich einen freiwilligen Verhaltenskodex veröffentlicht, der Unternehmen bei der praktischen Umsetzung der Kennzeichnung unterstützen soll. Die Teilnahme an diesem Kodex ersetzt die gesetzlichen Anforderungen jedoch nicht.

Besondere Kennzeichnungspflichten für Deepfakes

Auch Unternehmen und andere Organisationen, die KI-Systeme einsetzen, können unmittelbar von den Transparenzregeln betroffen sein. Werden künstlich erzeugte oder manipulierte Bild-, Audio- oder Videoinhalte verbreitet, die realen Personen, Gegenständen, Orten oder Ereignissen täuschend ähnlich erscheinen, müssen solche Deepfakes grundsätzlich als künstlich erzeugt oder manipuliert kenntlich gemacht werden.

Weitere Transparenzpflichten betreffen den Einsatz von Emotionserkennung und biometrischer Kategorisierung. Betroffene Personen müssen grundsätzlich darüber informiert werden, wenn sie einem solchen System ausgesetzt sind.

Auch KI-generierte Texte zu Themen von öffentlichem Interesse können kennzeichnungspflichtig sein. Der AI Act sieht jedoch Ausnahmen vor, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Hochrisiko-Pflichten wurden erneut verschoben

Nicht alle ursprünglich für August 2026 erwarteten Regelungen sind bereits wirksam. Besonders relevant ist die Verschiebung der umfangreichen Anforderungen an sogenannte Hochrisiko-KI-Systeme.

Dazu zählen je nach Einsatzbereich etwa bestimmte Systeme in Beschäftigung und Personalmanagement, Bildung, kritischer Infrastruktur, Migration oder biometrischen Anwendungen. Die hierfür vorgesehenen Anforderungen umfassen unter anderem Risikomanagement, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Anforderungen an Genauigkeit, Robustheit und Cybersicherheit.

Nach der 2026 beschlossenen Änderung gelten diese Vorschriften für eigenständige Hochrisiko-Systeme nach Anhang III nun ab dem 2. Dezember 2027. Für Hochrisiko-KI, die als Sicherheitskomponente in bestimmten regulierten Produkten eingesetzt wird, ist der Start auf den 2. August 2028 verschoben worden. Der Rat der Europäischen Union hatte der entsprechenden Änderung Ende Juni 2026 endgültig zugestimmt.

Damit wäre die pauschale Aussage falsch, seit dem 2. August 2026 müssten sämtliche Unternehmen bereits alle Hochrisiko-Anforderungen des AI Act erfüllen.

Weitere Pflichten gelten bereits seit 2025

Der AI Act wurde schrittweise eingeführt. Bereits seit dem 2. Februar 2025 gelten unter anderem die Verbote bestimmter KI-Praktiken sowie die Verpflichtung, bei Mitarbeitern und anderen Personen, die im Auftrag eines Unternehmens mit KI-Systemen arbeiten, ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Dabei sollen technische Kenntnisse, Erfahrung, Ausbildung und der konkrete Einsatzkontext berücksichtigt werden.

Seit dem 2. August 2025 gelten außerdem wesentliche Vorschriften für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, häufig als General Purpose AI oder GPAI bezeichnet. Dazu gehören unter anderem Dokumentations- und Informationspflichten sowie Vorgaben zum Umgang mit dem europäischen Urheberrecht. Für besonders leistungsfähige Modelle mit systemischen Risiken bestehen zusätzliche Anforderungen an Risikobewertung und Sicherheit.

Ältere GPAI-Modelle, die bereits vor dem 2. August 2025 auf dem Markt waren, genießen eine Übergangsfrist bis zum 2. August 2027.

Verstöße können hohe Bußgelder nach sich ziehen

Mit der zunehmenden Anwendbarkeit der Verordnung gewinnt auch die behördliche Durchsetzung an Bedeutung. Seit dem 2. August 2026 überwachen nationale Behörden gemeinsam mit dem europäischen AI Office die Vorschriften innerhalb ihrer jeweiligen Zuständigkeiten.

Bei Verstößen gegen bestimmte Vorgaben können nach dem AI Act Bußgelder von bis zu 15 Millionen Euro oder bis zu 3 Prozent des weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres verhängt werden. Für kleinere Unternehmen sieht die Verordnung Regeln zur Verhältnismäßigkeit der Sanktionen vor. Bei Verstößen gegen verbotene KI-Praktiken können die gesetzlichen Höchstgrenzen noch höher liegen.

Welche konkreten Anforderungen ein Unternehmen erfüllen muss, hängt daher nicht allein davon ab, ob es KI verwendet. Maßgeblich sind unter anderem die Art des Systems, der Verwendungszweck sowie die Frage, ob das Unternehmen selbst Anbieter ist oder ein fremdes KI-System einsetzt. Seit dem 2. August 2026 sind insbesondere die Transparenzregeln zu einem unmittelbar relevanten Bestandteil dieser europäischen Regulierung geworden.

Teilen:

Münster Map
Zum Aktivieren tippen
Route anzeigen

Mehr Beiträge:

Texte werden mit Unterstützung von KI-Tools erstellt und vor Veröffentlichung redaktionell geprüft. Mehr dazu