Künstliche Intelligenz hält zunehmend Einzug in deutsche Unternehmen. Gleichzeitig passen viele Betriebe ihre Sicherheitsstrukturen nur langsam an die damit verbundenen Gefahren an. Das zeigt die neue KI-Sicherheitsstudie 2026 des Bundesamtes für Sicherheit in der Informationstechnik und des TÜV-Verbands. Demnach haben 17 Prozent der befragten Unternehmen innerhalb eines Jahres einen bestätigten oder vermuteten Cyberangriff beziehungsweise einen vergleichbaren sicherheitsrelevanten Vorfall registriert, bei dem KI eine Rolle gespielt haben soll. Spezielle Abläufe für solche Sicherheitsvorfälle gibt es dagegen erst bei 11 Prozent der Unternehmen, die KI einsetzen oder ihren Einsatz planen.
Die Studie unterscheidet ausdrücklich zwischen bestätigten und lediglich vermuteten Fällen. Vier Prozent aller befragten Unternehmen berichteten ausschließlich von bestätigten Vorfällen mit KI-Bezug. Elf Prozent nannten Verdachtsfälle, weitere zwei Prozent hatten nach eigenen Angaben beide Varianten erlebt. Zusammengenommen ergeben sich daraus die 17 Prozent. Die Zahlen beruhen auf Angaben der Unternehmen und bedeuten deshalb nicht, dass in jedem dieser Fälle der Einsatz von KI technisch nachgewiesen wurde. Gerade bei KI-Cyberangriffe in Unternehmen ist diese Unterscheidung wichtig, weil die Herkunft und eingesetzte Technik eines Angriffs nicht immer unmittelbar feststellbar sind.
Besonders häufig nannten die betroffenen Unternehmen auffällig realistisch gestaltete Phishing-Mails. 90 Prozent der Firmen mit einem bestätigten oder vermuteten KI-Vorfall berichteten von dieser Methode. 40 Prozent nannten automatisierte Angriffsskripte, die nach Schwachstellen suchen oder Zugriffe vorbereiten können. Deepfakes in Form manipulierter Audio- oder Videoaufnahmen spielten bei 11 Prozent dieser Unternehmen eine Rolle. Diese Prozentwerte beziehen sich auf die Teilgruppe mit entsprechenden Vorfällen oder Verdachtsfällen und nicht auf sämtliche befragten Firmen.
Besonders deutlich wird die Lücke bei den organisatorischen Abläufen. Von den Unternehmen, die KI bereits verwenden oder innerhalb der kommenden zwölf Monate einsetzen wollen, verfügen 11 Prozent über Prozesse, die speziell auf Sicherheitsvorfälle mit KI-Bezug zugeschnitten sind. Weitere 20 Prozent arbeiten derzeit an entsprechenden Regelungen. 43 Prozent greifen auf ihre allgemeinen IT-Sicherheitsprozesse zurück, ohne diese bislang um besondere KI-Regeln ergänzt zu haben. Ein Viertel verfügt nach eigenen Angaben über keine entsprechenden Regelungen.
Die 11 Prozent sind damit kein allgemeiner Maßstab dafür, ob ein Unternehmen insgesamt gegen Cyberangriffe geschützt ist. Auch allgemeine Sicherheitsmaßnahmen wie Zugriffsschutz, Notfallplanung, Softwareupdates oder Netzwerküberwachung können KI-gestützte Angriffe erschweren. Die Studie zeigt vielmehr, dass KI-spezifische Szenarien bislang vergleichsweise selten in eigene Prozesse überführt wurden.
Die Sicherheitsfrage gewinnt auch deshalb an Bedeutung, weil KI inzwischen in einem großen Teil der Wirtschaft eingesetzt wird. 49 Prozent der befragten Unternehmen nutzen nach der Studie bereits KI-Anwendungen. Weitere neun Prozent planen einen Einstieg innerhalb der kommenden zwölf Monate. 42 Prozent verwenden derzeit keine KI und planen dies auch nicht. Die Befragung wurde von Forsa im Auftrag von BSI und TÜV-Verband durchgeführt. Zwischen dem 22. Juni und 31. Juli 2026 wurden 505 Verantwortliche aus Unternehmen telefonisch befragt.
Bei den KI-Anwendungen dominiert generative künstliche Intelligenz. Rund drei Viertel der Unternehmen mit bestehender oder geplanter KI-Nutzung verwenden entsprechende Systeme für Texte, Bilder, Programmcode oder Sprache. Häufig kommen fertige Anwendungen zum Einsatz. Gleichzeitig zeigt die Studie, dass die Technologie zunehmend enger mit internen Daten, betrieblichen Abläufen und bestehenden IT-Systemen verbunden wird. Damit wächst neben dem möglichen Produktivitätsgewinn auch die Zahl der Schnittstellen, die Unternehmen absichern müssen.
BSI und TÜV-Verband betrachten nicht nur Angriffe von außen. Unternehmen müssen zugleich verhindern, dass die von ihnen eingesetzten KI-Systeme sensible Informationen preisgeben, manipuliert werden oder ungeprüfte Ergebnisse in wichtige Geschäftsprozesse gelangen. 67 Prozent der Unternehmen mit KI-Nutzung oder entsprechenden Planungen lassen kritische Ergebnisse deshalb von Menschen kontrollieren. 64 Prozent beschränken Zugriffsrechte, 62 Prozent treffen Maßnahmen zum Schutz sensibler Daten.
Weniger verbreitet sind systematische Tests und eine laufende Überwachung. 52 Prozent testen KI-Anwendungen vor ihrem Einsatz auf Sicherheit und weitere Kriterien. Nur 40 Prozent protokollieren oder überwachen die KI-Nutzung. Bei organisatorischen Maßnahmen bieten 56 Prozent Schulungen an. Jeweils 45 Prozent führen Risikobewertungen durch oder haben formale Freigabeprozesse eingerichtet. 42 Prozent prüfen die Anbieter ihrer KI-Lösungen.
Aus den Ergebnissen leiten BSI und TÜV-Verband mehrere Prioritäten ab. Unternehmen sollen zunächst die KI-Kompetenz ihrer Beschäftigten ausbauen und klare Verantwortlichkeiten für die Technologie schaffen. Dazu gehören auch ein Überblick über eingesetzte Anwendungen, verbindliche Nutzungsregeln und eine Bewertung der jeweiligen Risiken. Sicherheitsmaßnahmen sollten bereits vor der Einführung beginnen und anschließend fortgeführt werden. Dazu zählen kontrollierte Zugriffsrechte, der Schutz sensibler Daten, Tests gegen manipulierte Eingaben sowie die Überwachung kritischer Systeme.
Gleichzeitig bleibt klassische IT-Sicherheit die Grundlage. BSI und TÜV empfehlen unter anderem, Angriffsflächen zu reduzieren, Schwachstellen und Sicherheitsupdates systematisch zu bearbeiten, Zugänge abzusichern und Wiederanlaufverfahren vorzubereiten. Beschäftigte sollten auf täuschend echte Phishing-Nachrichten und manipulierte Stimmen oder Videos vorbereitet werden. Besonders sensible Zahlungs- oder Datenfreigaben sollten zusätzlich über einen unabhängigen Kommunikationsweg bestätigt werden. Bestehende Notfallpläne sollten Szenarien wie Datenabfluss, manipulierte Inhalte oder unerwünschte Aktionen von KI-Systemen berücksichtigen.
Die Ergebnisse passen zu einer Entwicklung, die auch die europäische Cybersicherheitsagentur ENISA beschreibt. In ihrem im September veröffentlichten Threat Landscape 2026 stellt die Behörde eine zunehmende Nutzung von KI durch kriminelle und andere böswillige Akteure fest. KI werde bislang vor allem eingesetzt, um bestehende Methoden effizienter zu machen. Gleichzeitig schafft die Integration von KI in Unternehmenssysteme zusätzliche Angriffsflächen. Social Engineering und Phishing bleiben wichtige Werkzeuge für Angreifer.
Damit verändert KI die Cybergefahr nicht allein durch völlig neue Angriffstechniken. Entscheidend ist auch die Möglichkeit, bekannte Methoden schneller, in größerem Umfang und überzeugender einzusetzen. Für Unternehmen entsteht deshalb eine doppelte Aufgabe: Sie müssen ihre klassische IT-Sicherheit auf einem hohen Niveau halten und gleichzeitig neue Risiken berücksichtigen, die aus dem Einsatz und der Manipulation von KI-Systemen entstehen.
Texte werden mit Unterstützung von KI-Tools erstellt und vor Veröffentlichung redaktionell geprüft. Mehr dazu