Der EU AI Act: risikobasierter Ansatz und Pflichten

Problem in der Praxis

In den meisten Organisationen ist KI längst im Einsatz, bevor jemand sie als regulierten Gegenstand betrachtet. Fachbereiche nutzen Chatbots, HR testet Bewerberscreening, der Support bindet ein Universalmodell ein, und im Hintergrund laufen eingekaufte Funktionen mit KI-Komponenten. Niemand hat eine vollständige Liste, niemand kennt die jeweilige Risikoklasse.

Wenn dann die Frage nach AI-Act-Konformität kommt, entsteht dieselbe Hektik wie bei einem unvorbereiteten Audit: Welche KI setzen wir ein? Sind wir Anbieter oder Betreiber? Fällt ein System unter Anhang III? Welche Fristen gelten? Ohne Inventar und Einstufungsverfahren ist keine dieser Fragen belastbar zu beantworten.

Erschwerend wirkt, dass die Fristen des AI Act derzeit in Bewegung sind. Das verleitet dazu, Pflichten pauschal aufzuschieben - ein Fehler, denn die praktisch wichtigsten Regelungen gelten bereits.

CISO-Einordnung

Der risikobasierte Ansatz lässt sich entlang der vier Stufen ordnen, ohne die Anhänge zu reproduzieren:

• Verbotene Praktiken (Art. 5): unannehmbares Risiko, das gar nicht erst zulässig ist. Beispiele sind manipulative oder ausnutzende Systeme, behördliches Social Scoring, bestimmte Fälle biometrischer Echtzeit-Fernidentifizierung sowie Emotionserkennung am Arbeitsplatz und in der Bildung. Die Aufzählung ist hier bewusst verkürzt; maßgeblich ist der Verordnungstext.
• Hochrisiko-KI (Art. 6 mit Anhang III und Anhang I): Systeme in sensiblen Bereichen wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalwesen, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Justiz - oder KI als Sicherheitskomponente in bereits regulierten Produkten. Hier liegt das Gros der materiellen Pflichten.
• GPAI - Universalmodelle (Kapitel V): Basismodelle mit breitem Einsatzspektrum, mit einem verschärften Sonderregime für Modelle mit systemischem Risiko.
• Transparenzpflichten (Art. 50): begrenztes Risiko, das vor allem Kennzeichnung verlangt - etwa bei Chatbot-Interaktion, Deepfakes und synthetischen Inhalten.

Die eigene Pflichtenlage hängt von der Rolle ab. Der AI Act adressiert unter anderem Anbieter, Betreiber, Einführer, Händler und Produkthersteller. Die meisten Unternehmen sind zunächst Betreiber zugekaufter KI, können aber durch eigene Entwicklung oder wesentliche Veränderung zum Anbieter mit deutlich größerem Pflichtenkreis werden. Auch Anbieter aus Drittstaaten sind erfasst, sobald der KI-Output in der EU genutzt wird (Marktortprinzip).

Umsetzungsperspektive

Eine belastbare AI-Act-Steuerung baut der CISO am besten auf einem vorhandenen ISMS auf, statt eine parallele Struktur zu errichten:

• KI-Inventar: vollständige Erfassung eingesetzter und geplanter KI-Systeme inklusive Zweck, Datenarten und Rolle (Anbieter/Betreiber).
• Einstufung: ein wiederholbares Verfahren, das jedes System einer Risikoklasse zuordnet und die Einstufung dokumentiert.
• Pflichten-Mapping: Ableitung der konkreten Pflichten je Klasse. Für Hochrisiko-KI sind das unter anderem Risikomanagement über den Lebenszyklus, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit nach Art. 15.
• AI Literacy (Art. 4): Nachweis eines ausreichenden KI-Kompetenzniveaus bei Anbietern und Betreibern - eine Pflicht, die unabhängig von der Risikoklasse besteht.
• Taktung: regelmäßige Aktualisierung von Inventar, Einstufung und Nachweisen, eingebettet in die bestehende Review-Logik.

Art. 15 ist dabei die natürliche Brücke zur klassischen Informationssicherheit: Robustheit gegen Manipulation, Data Poisoning und adversariale Angriffe sowie Cybersicherheit lassen sich an etablierte ISMS-Mechanismen und an die prozessualen Funktionen des NIST AI RMF (Govern, Map, Measure, Manage) anlehnen.

Typische Fehler

1. KI-Systeme werden eingesetzt, ohne dass eine Risikoeinstufung erfolgt.
2. Die eigene Rolle wird falsch eingeschätzt - oft wird übersehen, dass man durch Eigenentwicklung zum Anbieter wird.
3. Pflichten werden pauschal aufgeschoben, obwohl verbotene Praktiken und AI Literacy bereits gelten.
4. Der AI Act wird allein der Rechtsabteilung überlassen, ohne technische und sicherheitsbezogene Einbindung.
5. Vorgeschlagene Fristverschiebungen werden als Entwarnung missverstanden, statt sie konservativ zu behandeln.

Risiken und Trade-offs

Das größte Risiko ist eine Fehleinstufung in beide Richtungen. Wer Hochrisiko-Pflichten übersieht, riskiert empfindliche Sanktionen: Verstöße gegen verbotene Praktiken nach Art. 5 können mit bis zu 35 Mio. EUR oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, sonstige Verstöße mit bis zu 15 Mio. EUR oder 3 Prozent, falsche oder unvollständige Angaben mit bis zu 7,5 Mio. EUR oder 1 Prozent. Wer dagegen jedes KI-System wie Hochrisiko behandelt, bindet unnötig Ressourcen und verliert Akzeptanz im Geschäft.

Ein zweiter Trade-off betrifft die Fristen. Die Hochrisiko-Termine sind über das im November 2025 vorgeschlagene Paket "Digital Omnibus on AI" voraussichtlich Gegenstand einer Verschiebung; diskutiert werden spätere Stichtage für Anhang III und Anhang I. Diese vorgeschlagene Verschiebung ist jedoch noch nicht im Amtsblatt veröffentlicht und daher rechtlich nicht gesichert - die Details sind ausdrücklich zu prüfen. Konservativ gilt: Bis zur formellen Annahme und Veröffentlichung bleiben die Anwendungstermine aus Art. 113 der Verordnung (EU) 2024/1689 maßgeblich (Anhang III ab 02.08.2026, Anhang I ab 02.08.2027). Planung auf das spätere Datum ist ein bewusst eingegangenes Restrisiko.

Entscheidungspunkte

• Welche KI-Systeme setzen wir ein, und in welcher Rolle (Anbieter oder Betreiber)?
• Welche Systeme fallen potenziell unter verbotene Praktiken oder Hochrisiko?
• Bauen wir die AI-Act-Steuerung in das bestehende ISMS ein oder separat?
• Planen wir Hochrisiko-Pflichten auf die ursprünglichen oder auf die geplanten späteren Fristen - und wer trägt das Restrisiko dieser Entscheidung?
• Wie stellen wir AI Literacy nachweisbar sicher?

Praktische Empfehlungen

1. Erstellen Sie zuerst ein vollständiges KI-Inventar - ohne Inventar keine belastbare Compliance.
2. Führen Sie ein dokumentiertes Einstufungsverfahren entlang der vier Risikostufen ein.
3. Behandeln Sie verbotene Praktiken und AI Literacy als bereits geltende Pflichten und setzen Sie sie vorrangig um.
4. Nutzen Sie Art. 15 als Andockpunkt für bestehende ISMS-Maßnahmen und das NIST AI RMF als prozessuale Referenz.
5. Datieren Sie Hochrisiko-Fristen konservativ und verfolgen Sie den finalen Rechtstext, bevor Sie auf spätere Termine planen.

Relevante Normreferenzen

• Verordnung (EU) 2024/1689 (EU AI Act / KI-VO): zentrale Rechtsgrundlage, in Kraft seit 01.08.2024; maßgeblich für die Anwendungstermine ist Art. 113. Verbotene Praktiken und AI Literacy gelten seit 02.02.2025, GPAI-Pflichten seit 02.08.2025 (mit Übergangsregelung für bereits vor dem 02.08.2025 in Verkehr gebrachte GPAI-Modelle, für die eine spätere Anpassungsfrist greift - Details an Art. 111/113 prüfen); grundsätzliche Anwendung und damit Anhang-III-Hochrisiko sowie Transparenzpflichten ab 02.08.2026, Anhang-I-Hochrisiko (Art. 6 Abs. 1) ab 02.08.2027. Eine Verschiebung der Hochrisiko-Termine ist über den Digital Omnibus nur vorgeschlagen und noch nicht im Amtsblatt - zu prüfen.
• NIST AI RMF (AI 100-1, AI 600-1): freiwilliges Rahmenwerk, Public Domain, als Methodik- und Mapping-Referenz nutzbar.
• ISO/IEC 42001:2023: zertifizierbare AI-Management-Norm, hier nur als Strukturbezug (reference-only).
• ISO/IEC 27001: ISMS-Fundament für die Cybersicherheits- und Robustheitsanforderungen, hier nur als Strukturbezug (reference-only).