Künstliche Intelligenz verändert nicht nur Geschäftsprozesse und technische Anwendungen, sondern auch die Cyberbedrohungslage. Klassische Sicherheitsmaßnahmen bleiben unverzichtbar, reichen bei KI-Systemen jedoch nicht immer aus. Mit der im Oktober 2026 veröffentlichten ISO/IEC 27090 liegt nun ein internationaler Orientierungsrahmen vor, der sich gezielt mit Sicherheitsbedrohungen und Kompromittierungen von KI-Systemen befasst. (iso.org)
Für Betreiber kritischer Infrastrukturen ist die Norm besonders relevant. KI wird dort zunehmend in operativen, administrativen und technischen Prozessen eingesetzt – von Dokumentation und Datenanalyse über Ressourcenplanung und Abrechnung bis zur Cyberabwehr. Gleichzeitig verarbeiten diese Systeme sensible personenbezogene und geschäftliche Daten und können Entscheidungen beeinflussen, die erhebliche Auswirkungen auf betroffene Personen, Beschäftigte und den operativen Betrieb haben.
Warum KI zusätzliche Sicherheitsmaßnahmen benötigt
KI-Systeme basieren weiterhin auf Software, Infrastruktur, Schnittstellen und Zugriffsrechten. Sie sind deshalb grundsätzlich denselben Cyberrisiken ausgesetzt wie andere IT-Systeme. Hinzu kommen jedoch spezifische Angriffs- und Manipulationsmöglichkeiten, die Daten, Modelle sowie Ein- und Ausgaben betreffen.
Ein Angreifer kann beispielsweise versuchen,
- Trainings- oder Referenzdaten gezielt zu manipulieren,
- das Verhalten eines Modells durch präparierte Eingaben zu beeinflussen,
- vertrauliche Informationen aus einem Modell abzuleiten,
- ein Modell durch wiederholte Abfragen teilweise zu rekonstruieren,
- Schutzmechanismen durch sogenannte Prompt-Injection-Angriffe zu umgehen oder
- manipulierte Ausgaben in nachgelagerte Systeme und Prozesse einzuschleusen.
Die Konsequenzen gehen über klassische Datenverluste hinaus. Ein kompromittiertes KI-System kann plausible, aber falsche Ergebnisse erzeugen, ohne dass die Manipulation unmittelbar erkennbar ist. In kritischen Geschäftsprozessen können daraus fehlerhafte Priorisierungen, unzutreffende Entscheidungsvorlagen oder Störungen sicherheitskritischer Prozesse entstehen.
Was die ISO/IEC 27090 leistet
Die ISO/IEC 27090 gibt Organisationen Orientierung, wie KI-spezifische Sicherheitsbedrohungen über den gesamten Lebenszyklus verstanden, erkannt und behandelt werden können. Sie betrachtet dabei nicht den Einsatz von KI zur Cyberabwehr, sondern den Schutz der KI-Systeme selbst. (iso.org)
Die Norm ist als fachliche Leitlinie einzuordnen. Sie begründet kein eigenständiges zertifizierbares Managementsystem und ersetzt weder eine organisationsbezogene Risikoanalyse noch bestehende Anforderungen an Informationssicherheit, Datenschutz oder KI-Governance.
Ihr Nutzen liegt insbesondere darin, eine gemeinsame Arbeitsgrundlage für mehrere bislang häufig getrennt agierende Bereiche zu schaffen:
- Informationssicherheit,
- Datenschutz,
- KI- und Datenmanagement,
- IT-Architektur und Anwendungsentwicklung,
- Einkauf und Lieferantenmanagement,
- Risikomanagement und Compliance sowie
- Interne Revision.
Damit unterstützt die Norm einen wesentlichen Governance-Grundsatz: Die Sicherheit eines KI-Systems ist keine isolierte Aufgabe der IT, sondern eine gemeinsame Verantwortung entlang seines gesamten Lebenszyklus.
Verhältnis zu ISO/IEC 27001 und ISO/IEC 42001
Die ISO/IEC 27090 tritt nicht an die Stelle etablierter Managementsysteme. Sie ergänzt sie um eine spezifische Sicherheitsperspektive.
Die ISO/IEC 27001 definiert die Anforderungen an ein Informationssicherheitsmanagementsystem. Über Risikoanalyse, Sicherheitsmaßnahmen, Überwachung und kontinuierliche Verbesserung schafft sie die organisatorische Grundlage. Die ISO/IEC 27090 kann innerhalb dieses ISMS genutzt werden, um KI-bezogene Informationswerte, Bedrohungen und Kontrollbedarfe systematischer zu erfassen.
Die ISO/IEC 42001 adressiert dagegen das Management künstlicher Intelligenz insgesamt. Sie umfasst neben Sicherheit beispielsweise auch Verantwortlichkeiten, Transparenz, Auswirkungen und den verantwortungsvollen Einsatz von KI. Die ISO/IEC 27090 fokussiert demgegenüber auf Sicherheitsbedrohungen gegen KI-Systeme. Beide Perspektiven ergänzen sich, sind aber nicht deckungsgleich. (iso.org)
Für Organisationen ergibt sich daraus ein integriertes Zielbild:
- ISO/IEC 27001 bildet die Grundlage des ISMS,
- ISO/IEC 42001 strukturiert die übergreifende KI-Governance,
- ISO/IEC 27090 vertieft die Behandlung KI-spezifischer Sicherheitsrisiken.
Hinzu kommen die rechtlichen Anforderungen, insbesondere aus Datenschutzrecht, NIS2-Umsetzung, KRITIS-Regulierung und EU AI Act.
Was Betreiber jetzt praktisch tun sollten
Die Veröffentlichung der Norm ist kein Anlass, ein weiteres isoliertes Managementsystem aufzubauen. Sinnvoller ist ihre risikoorientierte Integration in bestehende Strukturen.
1. KI-Inventar vervollständigen
Zunächst muss bekannt sein, welche KI-Systeme tatsächlich eingesetzt werden. Dazu gehören nicht nur offiziell beschaffte Anwendungen, sondern auch KI-Funktionen innerhalb vorhandener Software, Pilotprojekte, Eigenentwicklungen und möglicherweise nicht freigegebene Anwendungen.
Für jedes System sollten mindestens Zweck, Betreiber, Anbieter, Datenarten, Schnittstellen, Modellherkunft, Kritikalität und verantwortliche Stelle dokumentiert werden.
2. KI-spezifische Bedrohungen bewerten
Die klassische IT-Risikoanalyse sollte um Bedrohungen erweitert werden, die Daten, Modelle und deren Verhalten betreffen. Dabei ist zu prüfen:
- Können Daten oder Wissensbestände manipuliert werden?
- Lassen sich vertrauliche Informationen über Ein- oder Ausgaben offenlegen?
- Wie wird eine missbräuchliche oder ungewöhnliche Nutzung erkannt?
- Welche Folgen hätte eine systematisch fehlerhafte Ausgabe?
- Können nachgelagerte Systeme manipulierte Inhalte automatisiert übernehmen?
3. Beschaffung und Lieferantensteuerung erweitern
Viele Organisationen entwickeln KI-Systeme nicht selbst, sondern beziehen sie über Hersteller, Plattformanbieter oder bestehende Softwarelieferanten. Die Sicherheitsanforderungen müssen deshalb Bestandteil von Ausschreibung, Vertragsgestaltung und Lieferantenkontrolle werden.
Relevant sind unter anderem Herkunft und Veränderbarkeit der Modelle, Verwendung von Kundendaten, Sicherheitsprüfungen, Protokollierung, Schwachstellenmanagement, Unterauftragnehmer, Updates sowie Melde- und Unterstützungsleistungen bei Vorfällen.
4. Überwachung und Reaktion organisieren
Ein KI-System darf nach der Inbetriebnahme nicht als statisch betrachtet werden. Datenbestände, Modelle, Betriebsbedingungen und Schutzmechanismen können sich verändern. Organisationen benötigen daher festgelegte Verfahren zur Überwachung von Fehlverhalten, auffälligen Eingaben, Datenabflüssen, Manipulationsversuchen und Qualitätsverschlechterungen.
Auch das Incident Management sollte KI-bezogene Szenarien berücksichtigen. Verantwortlichkeiten und Eskalationswege müssen bereits vor einem Vorfall geklärt sein.
5. Nachweise und Prüfungen etablieren
Entscheidungen, Risikobewertungen, Tests, Freigaben und Überwachungsmaßnahmen sollten nachvollziehbar dokumentiert werden. Das ist nicht nur für Audits relevant, sondern auch für die interne Steuerung und die Erfüllung regulatorischer Rechenschaftspflichten.
Die Interne Revision kann prüfen, ob KI-Anwendungen vollständig erfasst, Verantwortlichkeiten eindeutig, Risiken nachvollziehbar bewertet und Kontrollen tatsächlich wirksam sind.
Einordnung für Governance und Management
Die ISO/IEC 27090 ist keine zusätzliche regulatorische Pflicht und kein Zertifikat, das Organisationen kurzfristig erwerben müssten. Ihr Wert liegt vielmehr in der Konkretisierung eines bislang häufig unterschätzten Handlungsfeldes.
Für Betreiber kritischer Infrastrukturen liefert sie einen geeigneten Referenzrahmen, um bestehende Informationssicherheitsprozesse auf KI-Systeme auszudehnen. Entscheidend ist dabei nicht die formale Einführung einer weiteren Norm, sondern die belastbare Verbindung von Informationssicherheit, KI-Governance, Datenschutz, operativen Risikomanagement und Lieferantensteuerung.
Die zentrale Managementfrage lautet daher nicht, ob ein Betreiber die ISO/IEC 27090 „umsetzt“. Sie lautet:
Können wir nachvollziehbar darlegen, welche KI-Systeme wir einsetzen, welchen spezifischen Sicherheitsbedrohungen sie ausgesetzt sind und ob unsere technischen und organisatorischen Kontrollen diese Risiken angemessen behandeln?
Wer diese Frage heute nicht belastbar beantworten kann, sollte die Veröffentlichung der ISO/IEC 27090 als Anlass für eine strukturierte Bestandsaufnahme nutzen.
Quelle und weiterführende Informationen:
International Organization for Standardization: ISO/IEC 27090 explained, abgerufen am 22. Oktober 2026.
Normübersicht: ISO/IEC 27090:2026.
Hinweis: Dieser Beitrag enthält eine fachliche Einordnung und keine vollständige Darstellung der Norm. Maßgeblich ist die veröffentlichte Originalfassung der ISO/IEC 27090:2026.