NIST AI RMF: Govern, Map, Measure, Manage als Steuerungsmodell für KI-Risiken

Problem in der Praxis

Viele Organisationen behandeln KI-Risiken als technisches Modellthema und überlassen sie den Data-Science-Teams. Governance, Recht und Security kommen erst spät ins Spiel, meist wenn ein Modell bereits produktiv ist oder ein Aufsichts- oder Kundenfragebogen Nachweise verlangt. Dann fehlen Kontextbeschreibung, Risikobewertung, Messgrößen und Verantwortlichkeiten.

Gleichzeitig entsteht regulatorischer Druck. Der EU AI Act verlangt für Hochrisiko-KI ein Risikomanagement über den Lebenszyklus, Daten-Governance, Dokumentation und menschliche Aufsicht. Viele Teams suchen daher nach einer praktischen Methodik, die diese Anforderungen operationalisierbar macht, ohne selbst rechtlich bindend zu sein. Genau diese Lücke füllt das AI RMF: Es liefert eine prozessuale Sprache für KI-Risiken, die sich auf rechtliche Pflichten und auf Managementsysteme abbilden lässt.

Das eigentliche Problem ist also selten fehlendes Wissen über einzelne Modelle, sondern fehlende Steuerung: Wer entscheidet über den Einsatz, anhand welcher Kriterien, mit welchen Messpunkten und welcher Eskalation?

CISO-Einordnung

Das AI RMF besteht aus zwei Teilen. Teil 1 beschreibt Grundlagen und die Merkmale vertrauenswürdiger KI, etwa gültig und zuverlässig, sicher, robust und widerstandsfähig, erklärbar, datenschutzfreundlich, fair beziehungsweise bias-bewusst sowie transparent und rechenschaftspflichtig. Teil 2 bildet den Core mit vier Funktionen:

• Govern ist die übergreifende Funktion. Sie verankert Kultur, Verantwortlichkeiten, Policies und Aufsicht über den gesamten KI-Lebenszyklus und macht die anderen drei Funktionen überhaupt wiederholbar.
• Map schafft Kontext: Anwendungsfall, Beteiligte, Zweck, betroffene Personen, Annahmen und die daraus folgenden Risiken und Auswirkungen werden identifiziert und eingeordnet.
• Measure adressiert Methoden und Metriken: Die Trustworthiness-Merkmale werden bewertet, Risiken werden mit geeigneten quantitativen und qualitativen Verfahren verfolgt.
• Manage priorisiert und behandelt Risiken (mindern, transferieren, vermeiden, akzeptieren), steuert Restrisiken und verbindet KI-Risiken mit Vorfallreaktion.

Diese Logik ist bewusst generisch. Sie ersetzt keine Norm und keinen Rechtsakt, sondern beschreibt die Managementlogik, die jedes belastbare KI-Programm braucht. Wer NIST-Frameworks kennt, erkennt die Verwandtschaft zum Cybersecurity Framework (CSF): Beide arbeiten funktionsbasiert und betonen Govern als Klammer. NIST stellt zum AI RMF begleitend ein Playbook sowie Crosswalks bereit, also Zuordnungen zu anderen Rahmenwerken. Das macht das AI RMF zu einer guten Brücke zwischen vorhandener Cybersicherheits-Governance und neuer KI-Governance.

Wichtig für die Einordnung: Das AI RMF ist freiwillig und nicht bindend. Es ist kein Compliance-Ersatz für den EU AI Act, aber eine brauchbare Methodik- und Mapping-Referenz, um regulatorische Pflichten strukturiert umzusetzen.

Umsetzungsperspektive

Aus CISO-Sicht ist das AI RMF kein Einführungsprojekt, sondern ein Steuerungsmuster, das sich an bestehende Strukturen andocken lässt:

• Govern zuerst: KI-Verantwortlichkeiten, ein Inventar eingesetzter KI-Systeme, Freigabe- und Eskalationswege sowie eine KI-Policy bilden den stabilen Kern. Ohne diese Klammer bleiben Map, Measure und Manage Einzelaktionen.
• Map als wiederkehrende Disziplin: Für jeden relevanten Anwendungsfall werden Zweck, Datenquellen, betroffene Personen und Schadenspotenziale beschrieben. Das ist die Grundlage jeder späteren Risikoeinstufung, auch im Sinne des AI Act.
• Measure pragmatisch: Statt Modellmetriken um ihrer selbst willen werden wenige aussagekräftige Messpunkte je Trustworthiness-Merkmal definiert und regelmäßig erhoben.
• Manage entscheidungsorientiert: Jedes wesentliche KI-Risiko erhält Owner, Behandlungsoption, Restrisiko und eine dokumentierte Managemententscheidung.

Für generative KI bietet NIST mit dem Generative AI Profile (NIST AI 600-1, veröffentlicht am 26. Juli 2024) das erste sektorübergreifende Profil zum AI RMF. Es benennt GenAI-spezifische Risikokategorien und ordnet vorgeschlagene Maßnahmen den vier Kernfunktionen zu. Für Organisationen, die LLMs oder andere Generative-KI-Dienste einführen, ist dieses Profil ein nützlicher, frei nutzbarer Ausgangspunkt, um typische GenAI-Risiken nicht zu übersehen.

Da das AI RMF Public Domain ist, können Inhalte ohne Lizenzhürde übernommen, angepasst und in eigene Vorlagen überführt werden. Das unterscheidet es deutlich von lizenzierten Normen.

Typische Fehler

1. Das AI RMF wird als reines Modell- oder Data-Science-Thema verstanden statt als Governance-Klammer über den Lebenszyklus.
2. Map und Measure werden übersprungen, weil die Versuchung groß ist, direkt in technische Maßnahmen zu springen.
3. Govern bleibt formal: Policies existieren, aber Owner, Freigaben und Eskalationen sind im Alltag unklar.
4. Das AI RMF wird mit dem EU AI Act gleichgesetzt und als Compliance-Nachweis missverstanden, obwohl es freiwillig und nicht bindend ist.
5. Crosswalks werden als fertige Compliance-Mappings behandelt, statt sie als Orientierung zu prüfen und an den eigenen Kontext anzupassen.

Risiken und Trade-offs

Ein zu mechanisches AI-RMF-Setup erzeugt viele Artefakte, aber wenig Steuerung. Vier Funktionen können zu vier Aktenordnern werden, wenn die Govern-Klammer und echte Entscheidungen fehlen. Umgekehrt führt ein zu schlankes Vorgehen dazu, dass GenAI- oder Hochrisiko-Anwendungen ohne ausreichende Map- und Measure-Tiefe in Produktion gehen.

Ein zweiter Trade-off betrifft die Abgrenzung zur Regulierung. Das AI RMF ist hervorragend geeignet, um den EU AI Act prozessual zu unterfüttern, insbesondere das Risikomanagement und die Anforderungen an Genauigkeit, Robustheit und Cybersicherheit nach Artikel 15. Es erzeugt aber keine Rechtskonformität und keine Vermutungswirkung. Wer beides verwechselt, riskiert Lücken in der rechtlichen Pflichterfüllung.

Drittens besteht das Risiko der Doppelstruktur. Wer KI-Governance völlig getrennt von ISMS und Cybersicherheits-Governance aufbaut, schafft Redundanz und Reibung. Die funktionsbasierte Verwandtschaft zwischen AI RMF und NIST CSF sowie die Integrierbarkeit in bestehende Managementsysteme sprechen dafür, KI-Risiken in vorhandene Risikoprozesse einzubetten statt parallel zu führen.

Entscheidungspunkte

• Soll das AI RMF als organisationsweite Methodik-Referenz dienen oder zunächst nur für ausgewählte Hochrisiko- und GenAI-Anwendungsfälle?
• Wie wird die Govern-Funktion konkret verankert: eigene KI-Governance-Rolle, erweitertes ISMS-Gremium oder bestehender Risikoausschuss?
• Welche Trustworthiness-Merkmale sind für das Unternehmen prioritär und mit welchen Messpunkten werden sie belegt?
• Wie wird das Generative AI Profile genutzt, wenn LLM- oder GenAI-Dienste eingeführt werden?
• Wie werden AI-RMF-Ergebnisse mit den AI-Act-Pflichten und mit einem möglichen AI-Managementsystem nach ISO/IEC 42001 verzahnt?

Praktische Empfehlungen

1. Starten Sie mit Govern und einem KI-Inventar, nicht mit Werkzeugen oder Metriken.
2. Behandeln Sie Map als Pflichtschritt vor jeder Modellfreigabe: Ohne Kontext keine belastbare Risikoeinstufung.
3. Definieren Sie wenige, aussagekräftige Messpunkte je Trustworthiness-Merkmal statt vieler Kennzahlen ohne Entscheidungsbezug.
4. Verbinden Sie jedes wesentliche KI-Risiko mit Owner, Behandlungsoption, Restrisiko und Managemententscheidung.
5. Nutzen Sie das Generative AI Profile als frei verfügbaren Startpunkt für GenAI-Risiken, prüfen Sie es aber gegen den eigenen Anwendungsfall.
6. Verankern Sie KI-Risiken in den bestehenden Risiko- und Cybersicherheitsprozessen und nutzen Sie das AI RMF als Brücke zu AI Act, ISO/IEC 42001 und ISO/IEC 27001, ohne diese gleichzusetzen.

Relevante Normreferenzen

• NIST AI 100-1 (AI Risk Management Framework 1.0, veröffentlicht Januar 2023): freiwilliges, sektorübergreifendes Rahmenwerk mit den vier Funktionen Govern, Map, Measure, Manage. Public Domain, frei nutzbar.
• NIST AI 600-1 (Generative AI Profile, veröffentlicht 26. Juli 2024): erstes sektorübergreifendes Profil zum AI RMF mit GenAI-spezifischen Risikokategorien. Public Domain.
• EU AI Act (Verordnung (EU) 2024/1689): risikobasierter Rechtsrahmen; Artikel 15 (Genauigkeit, Robustheit, Cybersicherheit) ist ein zentraler Anknüpfungspunkt für das AI RMF. EU-Recht, frei zitierbar. Hinweis: Maßgeblich für die Anwendungstermine ist Art. 113 (Hochrisiko Anhang III ab 02.08.2026, Anhang I ab 02.08.2027); eine Verschiebung mehrerer Fristen ist über das Vorhaben Digital Omnibus nur vorgeschlagen und noch nicht im Amtsblatt. Konkrete Termine sind zu prüfen.
• ISO/IEC 42001:2023 (AI-Managementsystem) und ISO/IEC 27001 (ISMS): lizenzierte Normen, hier ausschließlich als Strukturreferenz erwähnt; keine Wiedergabe von Controls oder Wortlauten.