KI-Governance für den CISO: das Zusammenspiel von AI Act, ISO 42001 und NIST AI RMF

Problem in der Praxis

In vielen Organisationen entsteht KI-Governance reaktiv und an mehreren Stellen gleichzeitig. Der Einkauf bewertet KI-Tools, die Fachbereiche führen Assistenten ein, das Rechtsteam liest den AI Act, und die Security stellt fest, dass Modelle und Trainingsdaten längst produktiv im Einsatz sind. Es fehlt eine gemeinsame Steuerungslogik.

Typisch ist eine Trennung der Welten: Die juristische Bewertung des AI Act bleibt ein Dokument, das Managementsystem bleibt ein Auditthema, und die Risikomethodik bleibt eine Folie aus einem Workshop. Jede Säule wird einzeln betrieben, aber niemand führt sie zusammen. Das Ergebnis sind doppelte Arbeit, Lücken zwischen den Disziplinen und die Unsicherheit, ob die Organisation ihre KI-Risiken tatsächlich beherrscht.

Verschärft wird das durch die mehrfach veränderte Rechtslage: Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat die Hochrisiko-Stichtage des AI Act im Juli 2026 verbindlich verschoben. Wer seine Planung allein an einem einzelnen Stichtag aufhängt, riskiert trotzdem Fehlsteuerung, denn andere Pflichten gelten längst. Der CISO braucht deshalb ein Modell, das unabhängig vom konkreten Stichtag funktioniert.

CISO-Einordnung

Die drei Säulen lassen sich klar voneinander abgrenzen.

Recht (EU AI Act, Verordnung (EU) 2024/1689): Der AI Act ist eine EU-Verordnung und gilt damit unmittelbar in allen Mitgliedstaaten, ohne nationales Umsetzungsgesetz. Er folgt einem risikobasierten Ansatz mit verbotenen Praktiken, Hochrisiko-KI, Regeln für Universalmodelle (GPAI) und Transparenzpflichten für bestimmte Systeme. Für den CISO besonders relevant ist die Anforderung an Genauigkeit, Robustheit und Cybersicherheit von Hochrisiko-KI (Art. 15). Genau hier verbindet sich das KI-Recht mit der klassischen Informationssicherheit, etwa gegen Manipulation, Data Poisoning oder adversariale Angriffe. Auch die Pflicht der Anbieter und Betreiber, die Entwicklung der KI-Kompetenz ihres Personals und anderer in ihrem Auftrag mit Betrieb und Nutzung von KI-Systemen befasster Personen durch geeignete Maßnahmen zu unterstützen (AI Literacy, Art. 4 in der Fassung der Verordnung (EU) 2026/1744; ein bestimmtes Kompetenzniveau ist ausdrücklich nicht zu garantieren), ist eine Governance-Aufgabe.

Managementsystem (ISO/IEC 42001:2023): Die Norm beschreibt ein KI-Managementsystem (AI Management System, AIMS) und ist die erste zertifizierbare Norm dieser Art. Sie folgt derselben harmonisierten Struktur (Annex SL) wie ISO/IEC 27001 und ISO 9001 und ist deshalb in ein bestehendes ISMS integrierbar. Sie liefert das organisatorische Gerüst, mit dem viele Anbieter- und Betreiberpflichten des AI Act überhaupt erst betreibbar werden: Rollen, Richtlinien, Lebenszyklus-Steuerung, Daten-Governance, Auswirkungsbetrachtung und Lieferantensteuerung.

Risikomethodik (NIST AI RMF, NIST AI 100-1): Das im Januar 2023 veröffentlichte Rahmenwerk ist freiwillig, nicht bindend und als US-Regierungswerk gemeinfrei (Public Domain). Seine vier Kernfunktionen GOVERN, MAP, MEASURE und MANAGE liefern eine prozessuale Methodik, die sich gut auf das Risikomanagement des AI Act und insbesondere auf Art. 15 abbilden lässt. Das ergänzende Generative AI Profile (NIST AI 600-1, Juli 2024) adressiert Risiken generativer KI und flankiert damit die GPAI-Thematik.

Warum gehört KI ins ISMS? Weil die Schnittstelle bereits existiert. Art. 15 des AI Act knüpft inhaltlich an genau die Schutzziele und Maßnahmen an, die ein ISMS nach ISO/IEC 27001 ohnehin steuert: Zugriffskontrolle, Kryptografie, Schwachstellen- und Patch-Management, sichere Entwicklung sowie Logging und Monitoring. ISO/IEC 42001 ist über die gemeinsame Struktur an dieses ISMS andockbar. Ein eigenes, isoliertes KI-Governance-Silo dupliziert Risiko- und Auditprozesse, die im ISMS bereits laufen.

Umsetzungsperspektive

Aus CISO-Sicht bietet sich eine Integration in vier Schritten an, ohne ein zweites Steuerungssystem aufzubauen.

• Bestand sichtbar machen: Ein KI-Inventar erfassen (eigene, eingekaufte und eingebettete KI), Rollen je System klären (Anbieter, Betreiber, Einführer, Händler) und je Anwendung die AI-Act-Risikoklasse einordnen.
• Pflichten ableiten: Aus der Risikoklasse die konkreten rechtlichen Anforderungen ableiten und ihnen Owner zuweisen. Der AI Act liefert das Soll, das ISMS die Verantwortlichkeiten und die Nachweisführung.
• Methodik anwenden: Die NIST-Funktionen GOVERN, MAP, MEASURE, MANAGE als wiederholbaren Risikoprozess je KI-System nutzen und seine Ergebnisse in das bestehende Risikoregister des ISMS einspeisen.
• Managementsystem verankern: ISO/IEC 42001 als Erweiterung des ISMS denken, mit gemeinsamen Governance-, Audit- und Verbesserungszyklen statt paralleler Strukturen. Ein Statement of Applicability und eine risikobasierte Auswahl von Maßnahmen sind aus dem ISO-27001-Betrieb bereits vertraut.

Die zeitliche Planung sollte robust gegen weitere Rechtsänderungen sein. Verbotene Praktiken und die AI-Literacy-Pflicht gelten bereits seit dem 02.02.2025, die GPAI-Pflichten greifen seit dem 02.08.2025, der allgemeine Geltungsbeginn samt Transparenzpflichten (Art. 50) bleibt der 02.08.2026. Für die Hochrisiko-Pflichten gelten nach Art. 113 Abs. 3 Buchst. c der Verordnung (EU) 2024/1689 in der Fassung der Digital-Omnibus-Verordnung (EU) 2026/1744 (Art. 1 Nr. 40, in Kraft seit 27.07.2026) der 02.12.2027 für Anhang-III-Systeme und der 02.08.2028 für Anhang-I-Systeme (Stand 2026-08-02). Sinnvoll ist, die Fähigkeit deutlich vor dem Stichtag aufzubauen, statt die gewonnene Zeit verstreichen zu lassen.

Typische Fehler

1. KI-Governance wird als reines Rechtsthema behandelt und von der Security getrennt, obwohl Art. 15 sie direkt verknüpft.
2. Es wird ein zweites, isoliertes Steuerungssystem neben dem ISMS aufgebaut, mit doppelten Risiko- und Auditprozessen.
3. Die ISO/IEC-42001-Zertifizierung wird als automatischer Konformitätsnachweis für den AI Act missverstanden.
4. Die Planung wird allein an einem einzelnen Frist-Datum aufgehängt, statt an der Steuerungsfähigkeit; verschobene Hochrisiko-Stichtage werden als generelle Entwarnung missverstanden.
5. Eingekaufte und eingebettete KI in Standardsoftware wird übersehen, weil nur eigene Modelle betrachtet werden.
6. AI Literacy wird vergessen, obwohl Maßnahmen zur Unterstützung des Kompetenzaufbaus eine ausdrückliche Pflicht sind (Art. 4).

Risiken und Trade-offs

Der zentrale Trade-off liegt zwischen Integration und Eigenständigkeit. Eine zu enge Verschmelzung mit dem ISMS kann die Besonderheiten von KI verwischen, etwa Modell-Drift, Trainingsdaten-Governance oder Auswirkungen auf betroffene Personen. Eine zu starke Trennung erzeugt Doppelstrukturen und Reibung. Die tragfähige Mitte ist ein gemeinsamer Governance-Kern mit KI-spezifischen Erweiterungen.

Ein rechtliches Risiko ist die Annahme einer Vermutungswirkung. Eine ISO/IEC-42001-Zertifizierung erleichtert die Umsetzung vieler AI-Act-Pflichten, erzeugt nach derzeitigem Stand aber keine automatische Konformitätsvermutung unter dem AI Act. Diese Wirkung ist erst harmonisierten Normen vorbehalten; deren Stand ist zu verfolgen und zu prüfen.

Das größte Planungsrisiko sind die Fristen selbst, allerdings mit umgekehrtem Vorzeichen als früher. Die Digital-Omnibus-Verordnung (EU) 2026/1744 (ABl. L, 2026/1744 vom 24.07.2026, in Kraft seit 27.07.2026) hat die Hochrisiko-Stichtage verbindlich verschoben: Anhang-III-Systeme ab 02.12.2027, Anhang-I-Systeme (Art. 6 Abs. 1) ab 02.08.2028 (Art. 113 Abs. 3 Buchst. c der Verordnung (EU) 2024/1689 in der Fassung von Art. 1 Nr. 40 der Verordnung (EU) 2026/1744; Stand 2026-08-02). Das Risiko liegt nun darin, die Verschiebung als generelle Entwarnung zu lesen: Der allgemeine Geltungsbeginn samt Transparenzpflichten (Art. 50) bleibt der 02.08.2026, die bereits geltenden Stufen (Verbote, AI Literacy, GPAI) laufen weiter, und ab 02.12.2026 kommen die neuen Art.-5-Verbote für KI-generiertes nicht einvernehmliches Intimmaterial und Darstellungen sexuellen Kindesmissbrauchs hinzu. Wer den Fähigkeitsaufbau auf 2027 vertagt, steht bei diesen Pflichten trotzdem im Verzug.

Schließlich besteht ein Sanktionsrisiko: Der AI Act sieht abgestufte Bußgelder vor, mit dem höchsten Rahmen für verbotene Praktiken. Das macht eine frühe, belastbare Einordnung der eigenen KI-Anwendungen geschäftsrelevant.

Entscheidungspunkte

• Wird KI-Governance organisatorisch ins bestehende ISMS integriert oder als eigenes System geführt?
• Welche KI-Anwendungen fallen in welche Risikoklasse, und in welcher Rolle (Anbieter oder Betreiber) ist die Organisation jeweils?
• Strebt die Organisation eine ISO/IEC-42001-Zertifizierung an, und mit welchem Geltungsbereich?
• Wird das NIST AI RMF als verbindliche Hausmethodik für KI-Risiken gesetzt oder nur punktuell genutzt?
• Wie wird die Planung gegen mögliche AI-Act-Fristverschiebungen abgesichert (kapazitätsorientiert statt datumsfixiert)?
• Wer trägt die Gesamtverantwortung für KI-Governance auf Leitungsebene?

Praktische Empfehlungen

1. Verankern Sie KI-Governance im ISMS und nutzen Sie dessen Risiko-, Audit- und Verbesserungszyklen, statt parallele Strukturen aufzubauen.
2. Trennen Sie die drei Säulen begrifflich klar: AI Act = Pflicht, ISO/IEC 42001 = Managementsystem, NIST AI RMF = Methodik.
3. Bauen Sie zuerst ein vollständiges KI-Inventar mit Rollen- und Risikoklassen-Zuordnung auf, inklusive eingekaufter und eingebetteter KI.
4. Behandeln Sie Art. 15 als Brücke zur Informationssicherheit und mappen Sie KI-Robustheit auf bestehende ISMS-Maßnahmen.
5. Planen Sie kapazitätsorientiert und nutzen Sie die durch die Verordnung (EU) 2026/1744 verschobenen Hochrisiko-Stichtage (02.12.2027 / 02.08.2028) für den Aufbau, nicht für das Aufschieben.
6. Setzen Sie AI Literacy früh um und dokumentieren Sie den Kompetenzaufbau.
7. Holen Sie für die verbindliche Frist- und Konformitätsbewertung eine aktuelle juristische Prüfung am finalen Rechtstext ein.

Relevante Normreferenzen

• Verordnung (EU) 2024/1689 (EU AI Act): EU-Recht, frei zugänglich und zitierbar über EUR-Lex; maßgeblich sind Originaltext und Anhänge in der jeweils geltenden Fassung, zuletzt geändert durch die Digital-Omnibus-Verordnung (EU) 2026/1744 (ABl. L, 2026/1744 vom 24.07.2026, in Kraft seit 27.07.2026; EUR-Lex CELEX 32026R1744, Abruf 2026-08-02).
• ISO/IEC 42001:2023 (AI-Managementsystem): nur als Strukturreferenz; lizenzierte Norm, keine Wiedergabe von Control-Wortlauten.
• ISO/IEC 27001:2022 (ISMS): nur als Strukturreferenz; Fundament für die Integration von KI in die Informationssicherheit.
• NIST AI 100-1 (AI RMF 1.0) und NIST AI 600-1 (Generative AI Profile): gemeinfrei (Public Domain), als Methodik- und Mapping-Referenz nutzbar.
• Richtlinie (EU) 2022/2555 (NIS2): komplementärer Cybersicherheitsrahmen, überschneidet sich konzeptionell mit Art. 15 des AI Act.