Der EU AI Act: risikobasierter Ansatz und Pflichten

Problem in der Praxis

In den meisten Organisationen ist KI längst im Einsatz, bevor jemand sie als regulierten Gegenstand betrachtet. Fachbereiche nutzen Chatbots, HR testet Bewerberscreening, der Support bindet ein Universalmodell ein, und im Hintergrund laufen eingekaufte Funktionen mit KI-Komponenten. Niemand hat eine vollständige Liste, niemand kennt die jeweilige Risikoklasse.

Wenn dann die Frage nach AI-Act-Konformität kommt, entsteht dieselbe Hektik wie bei einem unvorbereiteten Audit: Welche KI setzen wir ein? Sind wir Anbieter oder Betreiber? Fällt ein System unter Anhang III? Welche Fristen gelten? Ohne Inventar und Einstufungsverfahren ist keine dieser Fragen belastbar zu beantworten.

Erschwerend wirkt, dass sich die Fristenlandschaft des AI Act geändert hat: Die Digital-Omnibus-Verordnung (EU) 2026/1744 (ABl. L, 2026/1744 vom 24.07.2026, in Kraft seit 27.07.2026) hat die Hochrisiko-Anwendungstermine verbindlich nach hinten verschoben. Das verleitet dazu, Pflichten pauschal aufzuschieben - ein Fehler, denn die praktisch wichtigsten Regelungen gelten bereits, und der allgemeine Geltungsbeginn zum 02.08.2026 wurde nicht verschoben.

CISO-Einordnung

Der risikobasierte Ansatz lässt sich entlang der vier Stufen ordnen, ohne die Anhänge zu reproduzieren:

• Verbotene Praktiken (Art. 5): unannehmbares Risiko, das gar nicht erst zulässig ist. Beispiele sind manipulative oder ausnutzende Systeme, behördliches Social Scoring, bestimmte Fälle biometrischer Echtzeit-Fernidentifizierung sowie Emotionserkennung am Arbeitsplatz und in der Bildung. Die Aufzählung ist hier bewusst verkürzt; maßgeblich ist der Verordnungstext. Die Verordnung (EU) 2026/1744 (Art. 1 Nr. 7) ergänzt Art. 5 um Verbote von KI-Systemen, die nicht einvernehmlich erstelltes intimes Material bestimmbarer Personen oder Darstellungen sexuellen Kindesmissbrauchs (CSAM) erzeugen oder manipulieren; diese neuen Verbote gelten ab dem 02.12.2026 (Art. 113 Abs. 3 Buchst. a in der Fassung von Art. 1 Nr. 40, Stand 2026-08-02).
• Hochrisiko-KI (Art. 6 mit Anhang III und Anhang I): Systeme in sensiblen Bereichen wie Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalwesen, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Justiz - oder KI als Sicherheitskomponente in bereits regulierten Produkten. Hier liegt das Gros der materiellen Pflichten.
• GPAI - Universalmodelle (Kapitel V): Basismodelle mit breitem Einsatzspektrum, mit einem verschärften Sonderregime für Modelle mit systemischem Risiko.
• Transparenzpflichten (Art. 50): begrenztes Risiko, das vor allem Kennzeichnung verlangt - etwa bei Chatbot-Interaktion, Deepfakes und synthetischen Inhalten.

Die eigene Pflichtenlage hängt von der Rolle ab. Der AI Act adressiert unter anderem Anbieter, Betreiber, Einführer, Händler und Produkthersteller. Die meisten Unternehmen sind zunächst Betreiber zugekaufter KI, können aber durch eigene Entwicklung oder wesentliche Veränderung zum Anbieter mit deutlich größerem Pflichtenkreis werden. Auch Anbieter aus Drittstaaten sind erfasst, sobald der KI-Output in der EU genutzt wird (Marktortprinzip).

Umsetzungsperspektive

Eine belastbare AI-Act-Steuerung baut der CISO am besten auf einem vorhandenen ISMS auf, statt eine parallele Struktur zu errichten:

• KI-Inventar: vollständige Erfassung eingesetzter und geplanter KI-Systeme inklusive Zweck, Datenarten und Rolle (Anbieter/Betreiber).
• Einstufung: ein wiederholbares Verfahren, das jedes System einer Risikoklasse zuordnet und die Einstufung dokumentiert.
• Pflichten-Mapping: Ableitung der konkreten Pflichten je Klasse. Für Hochrisiko-KI sind das unter anderem Risikomanagement über den Lebenszyklus, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit nach Art. 15.
• AI Literacy (Art. 4): Maßnahmen, welche die Entwicklung der KI-Kompetenz des eigenen Personals und anderer Personen unterstützen, die im Auftrag der Organisation mit dem Betrieb und der Nutzung von KI-Systemen befasst sind - eine Pflicht, die unabhängig von der Risikoklasse besteht. Ein bestimmtes Kompetenzniveau ist nach Art. 4 in der Fassung der Verordnung (EU) 2026/1744 (Art. 1 Nr. 5) ausdrücklich nicht zu garantieren (Stand 2026-08-02).
• Taktung: regelmäßige Aktualisierung von Inventar, Einstufung und Nachweisen, eingebettet in die bestehende Review-Logik.

Art. 15 ist dabei die natürliche Brücke zur klassischen Informationssicherheit: Robustheit gegen Manipulation, Data Poisoning und adversariale Angriffe sowie Cybersicherheit lassen sich an etablierte ISMS-Mechanismen und an die prozessualen Funktionen des NIST AI RMF (Govern, Map, Measure, Manage) anlehnen.

Typische Fehler

1. KI-Systeme werden eingesetzt, ohne dass eine Risikoeinstufung erfolgt.
2. Die eigene Rolle wird falsch eingeschätzt - oft wird übersehen, dass man durch Eigenentwicklung zum Anbieter wird.
3. Pflichten werden pauschal aufgeschoben, obwohl verbotene Praktiken und AI Literacy bereits gelten.
4. Der AI Act wird allein der Rechtsabteilung überlassen, ohne technische und sicherheitsbezogene Einbindung.
5. Die durch die Verordnung (EU) 2026/1744 verschobenen Hochrisiko-Fristen werden als generelle Entwarnung missverstanden, obwohl der allgemeine Geltungsbeginn 02.08.2026 (u. a. Transparenzpflichten) unverändert bleibt und ab 02.12.2026 neue Art.-5-Verbote hinzukommen.

Risiken und Trade-offs

Das größte Risiko ist eine Fehleinstufung in beide Richtungen. Wer Hochrisiko-Pflichten übersieht, riskiert empfindliche Sanktionen: Verstöße gegen verbotene Praktiken nach Art. 5 können mit bis zu 35 Mio. EUR oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, sonstige Verstöße mit bis zu 15 Mio. EUR oder 3 Prozent, falsche oder unvollständige Angaben mit bis zu 7,5 Mio. EUR oder 1 Prozent. Wer dagegen jedes KI-System wie Hochrisiko behandelt, bindet unnötig Ressourcen und verliert Akzeptanz im Geschäft.

Ein zweiter Trade-off betrifft die Fristen. Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 08.07.2026 (ABl. L, 2026/1744 vom 24.07.2026) ist am 27.07.2026 in Kraft getreten und hat die Verschiebungen verbindlich gemacht (Stand 2026-08-02): Anhang-III-Hochrisiko (eigenständige Systeme) von 02.08.2026 auf 02.12.2027; Anhang-I-Hochrisiko (Produktintegration, Art. 6 Abs. 1) von 02.08.2027 auf 02.08.2028 (jeweils Art. 113 Abs. 3 Buchst. c der Verordnung (EU) 2024/1689 in der Fassung von Art. 1 Nr. 40 der Verordnung (EU) 2026/1744); zudem neue Art.-5-Verbote für KI-generiertes nicht einvernehmliches Intimmaterial und CSAM mit Geltung ab 02.12.2026. Der Trade-off liegt jetzt in der Nutzung der gewonnenen Zeit: Wer Daten-Governance, Dokumentation und Robustheitsnachweise erst 2027 beginnt, unterschätzt die Vorlaufzeiten; wer die Verschiebung ignoriert, bindet Ressourcen früher als rechtlich nötig. Unverändert gelten der allgemeine Geltungsbeginn 02.08.2026 und die bereits laufenden Stufen.

Entscheidungspunkte

• Welche KI-Systeme setzen wir ein, und in welcher Rolle (Anbieter oder Betreiber)?
• Welche Systeme fallen potenziell unter verbotene Praktiken oder Hochrisiko?
• Bauen wir die AI-Act-Steuerung in das bestehende ISMS ein oder separat?
• Wie nutzen wir die bis zu den geltenden Hochrisiko-Stichtagen (Anhang III: 02.12.2027, Anhang I: 02.08.2028, Art. 113 in der Fassung der Verordnung (EU) 2026/1744) verbleibende Zeit: aktiver Fähigkeitsaufbau oder Verschiebung des Programms - und wer verantwortet die Vorlaufzeiten für Daten-Governance und Nachweise?
• Welche Maßnahmen zur Entwicklung der KI-Kompetenz (Art. 4) setzen wir um, und wie dokumentieren wir sie?

Praktische Empfehlungen

1. Erstellen Sie zuerst ein vollständiges KI-Inventar - ohne Inventar keine belastbare Compliance.
2. Führen Sie ein dokumentiertes Einstufungsverfahren entlang der vier Risikostufen ein.
3. Behandeln Sie verbotene Praktiken und AI Literacy als bereits geltende Pflichten und setzen Sie sie vorrangig um.
4. Nutzen Sie Art. 15 als Andockpunkt für bestehende ISMS-Maßnahmen und das NIST AI RMF als prozessuale Referenz.
5. Planen Sie Hochrisiko-Pflichten auf die geltenden Stichtage der Verordnung (EU) 2026/1744 (Anhang III: 02.12.2027, Anhang I: 02.08.2028) und terminieren Sie den Fähigkeitsaufbau rückwärts von diesen Daten; behandeln Sie den 02.08.2026 (allgemeiner Geltungsbeginn, u. a. Transparenzpflichten) und den 02.12.2026 (neue Art.-5-Verbote) als weiterhin feste Termine.

Relevante Normreferenzen

• Verordnung (EU) 2024/1689 (EU AI Act / KI-VO): zentrale Rechtsgrundlage, in Kraft seit 01.08.2024; maßgeblich für die Anwendungstermine ist Art. 113 in der jeweils geltenden Fassung. Verbotene Praktiken und AI Literacy gelten seit 02.02.2025, GPAI-Pflichten seit 02.08.2025 (mit Übergangsregelung für bereits vor dem 02.08.2025 in Verkehr gebrachte GPAI-Modelle, für die eine spätere Anpassungsfrist greift - Details an Art. 111/113 prüfen); allgemeiner Geltungsbeginn und damit u. a. Transparenzpflichten ab 02.08.2026.
• Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI) vom 08.07.2026: ABl. L, 2026/1744 vom 24.07.2026, in Kraft seit 27.07.2026 (Art. 4); ändert die Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230. Hochrisiko-Stichtage verbindlich verschoben (Art. 1 Nr. 40: Anhang III auf 02.12.2027, Anhang I auf 02.08.2028), neue Art.-5-Verbote (nicht einvernehmliches Intimmaterial, CSAM) ab 02.12.2026 (Art. 1 Nr. 7), Übergangsregeln in Art. 111 n. F. (Art. 1 Nr. 39). Quelle: EUR-Lex CELEX 32026R1744 (Abruf 2026-08-02). (Stand 2026-08-02)
• NIST AI RMF (AI 100-1, AI 600-1): freiwilliges Rahmenwerk, Public Domain, als Methodik- und Mapping-Referenz nutzbar.
• ISO/IEC 42001:2023: zertifizierbare AI-Management-Norm, hier nur als Strukturbezug (reference-only).
• ISO/IEC 27001: ISMS-Fundament für die Cybersicherheits- und Robustheitsanforderungen, hier nur als Strukturbezug (reference-only).