KI in Maschinen: selbstentwickelndes Verhalten, notifizierte Stelle und die AI-Act-Schnittstelle

Problem in der Praxis

Das Thema trifft Hersteller in zwei Wellen. Die erste ist technisch: Ein Team ersetzt eine fest programmierte Sicherheitslogik durch ein gelerntes Modell und entdeckt spät, dass der Weg der internen Fertigungskontrolle versperrt ist; Kapazität einer notifizierten Stelle, Prüfbarkeit des Modells und Nachweisdaten fehlen im Plan. Die zweite ist regulatorisch: Es kursieren widersprüchliche Aussagen, ob AI Act oder MVO gilt; Quellen mit Stand vor dem 24.07.2026 beschreiben den Digital Omnibus noch als nicht veröffentlicht.

Dazwischen liegt eine wichtige Abgrenzung: Das Drittprüfungsregime erfasst nur ML-basierte selbstentwickelnde Systeme mit Sicherheitsfunktion, nicht fest vorprogrammierte Automatisierung ohne Lern- oder Weiterentwicklungsfähigkeit (Erwägungsgründe 54 und 55).

CISO-Einordnung

Die Maschinenverordnung (VO (EU) 2023/1230) reguliert Künstliche Intelligenz in Maschinen über das Konzept des vollständig oder teilweise selbstentwickelnden Verhaltens unter Verwendung von Ansätzen des maschinellen Lernens: Sicherheitsfunktionen dieser Art erfordern zwingend eine notifizierte Stelle und unterliegen konkreten Konstruktionsanforderungen. Sicherheitsbauteile sind physische oder digitale Bauteile einschließlich Software (Artikel 3 Nummer 3); Anhang II nennt nicht erschöpfend Software mit Sicherheitsfunktion (Nummer 18) und ML-Sicherheitsbauteile (Nummer 19). Scharf wird die Regulierung über Anhang I Teil A: Nummer 5 erfasst Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten, Nummer 6 Maschinen mit eingebetteten solchen Systemen, nur in Bezug auf diese Systeme. Artikel 25 Absatz 2 lässt für Teil-A-Kategorien nur drei Verfahren zu: EU-Baumusterprüfung (Modul B) plus Baumusterkonformität (Modul C), umfassende Qualitätssicherung (Modul H) oder Einzelprüfung (Modul G); Modul A fehlt. Ein bereits unabhängig geprüftes, eigenständig in Verkehr gebrachtes Bauteil zwingt die Maschine nicht allein wegen des Einbaus in eine erneute Drittprüfung (Erwägungsgrund 54); Anhang I ist per delegierten Rechtsakten fortschreibbar (Artikel 6).

Zweite Säule sind die Konstruktionsanforderungen aus Anhang III Abschnitt 1.2.1 für selbstentwickelnde Steuerungssysteme: Handlungen dürfen die festgelegte Aufgabe und den festgelegten Bewegungsbereich nicht überschreiten; die Aufzeichnung der Daten über den sicherheitsrelevanten Entscheidungsprozess muss aktiviert sein, die Daten sind ein Jahr aufzubewahren (Behördenzugriff nur auf begründetes Verlangen); die Maschine muss jederzeit korrigierbar sein, um ihre inhärente Sicherheit zu wahren. Dazu kommen das Verbot gefährlicher Änderungen von Einstellungen oder Regeln auch in der Lernphase und das Rückverfolgungsprotokoll für nachträglich hochgeladene Sicherheitssoftware-Versionen (zugänglich bis zu fünf Jahre nach dem Hochladen). Die Risikobeurteilung muss vorhersehbare Gefährdungen aus der bestimmungsgemäßen Veränderung des selbstentwickelnden Verhaltens einschließen (Allgemeine Grundsätze Nummer 1); die Security-Seite vertieft mvo-002.

Dritte Säule ist die AI-Act-Schnittstelle, Stand 2026-08-01. Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 08.07.2026 (ABl. L, 2026/1744 vom 24.07.2026, in Kraft seit dem 27.07.2026) ordnet das Zusammenspiel neu:

• Der Maschinen-Eintrag wandert von Anhang I Abschnitt A (bisher die alte Richtlinie 2006/42/EG) nach Abschnitt B des AI Act und verweist auf die VO (EU) 2023/1230. Für Hochrisiko-KI zu Abschnitt-B-Produkten gelten nach dem neuen Artikel 2 Absatz 2 AI Act nur noch Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112; die Artikel 57 bis 59 nur, soweit sektoral übernommen.
• Die Einstufung bleibt beim AI Act: Hochriskant ist ein KI-System nach Artikel 6 Absatz 1, wenn es Sicherheitsbauteil eines gelisteten Produkts oder selbst ein solches Produkt ist und eine Drittkonformitätsbewertung vorgeschrieben ist; bei MVO-Produkten greift das über Anhang I Teil A.
• Die materiellen KI-Anforderungen kommen per delegierten Rechtsakten in Anhang III der MVO (zu berücksichtigen: Kapitel III Abschnitt 2 sowie Artikel 17, 19, 72 und 73 AI Act); sie gelten ab dem 02.08.2028. Der geänderte Artikel 47 Absatz 2 überträgt die Befugnis für fünf Jahre ab dem 27.07.2026 und bezeichnet die Delegationsnorm als Artikel 8 Absatz 3; da der Änderungsbefehl die angefügten Absätze nicht nummeriert und am 2026-08-01 keine konsolidierte Fassung vorlag, ist die endgültige Absatzzählung vor zitatgenauer Verwendung zu prüfen.
• Übergangsweise gilt der neue Artikel 20 Absatz 10: Bis MVO-eigene Normen oder gemeinsame Spezifikationen für Hochrisiko-KI vorliegen, begründet Konformität mit AI-Act-Normen oder gemeinsamen Spezifikationen (Artikel 40 beziehungsweise 41 AI Act) die Konformitätsvermutung für die betreffenden Anhang-III-Anforderungen; Normenstand zu prüfen.
• Die AI-Act-Hochrisikofristen sind verschoben: Anhang-I-Systeme (Artikel 6 Absatz 1) auf den 02.08.2028, Anhang-III-Systeme auf den 02.12.2027; die delegierten MVO-Rechtsakte liegen bewusst auf demselben Datum.

Einen eigenen Geltungsbeginn für die geänderten MVO-Artikel regelt die VO (EU) 2026/1744 nicht; sie folgen der Anwendungsstaffel der MVO (Geltung ab 20.01.2027, Artikel 47 seit 20.07.2024; Ableitung aus Artikel 54). Den AI Act erklären ai-002 und ai-003; deren Angaben zum Omnibus-Verfahrensstand sind überholt.

Umsetzungsperspektive

Für ein ML-Sicherheitsbauteil oder eine Maschine mit eingebettetem ML-Sicherheitssystem zwischen 2026 und 2028 bewährt sich:

• Einstufung zuerst: Je System dokumentiert klären, ob selbstentwickelndes Verhalten, maschinelles Lernen und eine Sicherheitsfunktion vorliegen; die Abgrenzung zur vorprogrammierten Automatisierung ist begründungspflichtiger Einzelfall.
• Verfahrensweg festlegen: Modul B plus C, H oder G wählen, die notifizierte Stelle früh einbinden; ihre Verfügbarkeit mit passendem Scope ist Tatsachenfrage am Projektanfang (Notifizierungsregime anwendbar seit dem 20.01.2024).
• Nachweisfähigkeit konstruieren: Begrenzung, aktivierte Entscheidungsaufzeichnung, Korrigierbarkeit, geschützte Lernphase und Versionsprotokoll in die Architektur übersetzen; nachträglich kaum einbaubar.
• Konvergenz einplanen: Bis zum 02.08.2028 mit den MVO-Anforderungen arbeiten, delegierte Rechtsakte beobachten, Artikel 20 Absatz 10 erst nach Prüfung des Normenstands einplanen; ISO/IEC 42001 und NIST AI RMF nur als Nennung (ai-004, ai-005).

Typische Fehler

1. Ein ML-Sicherheitsfeature wird ohne Einstufungsprüfung nach Anhang I Teil A entwickelt; die zwingende notifizierte Stelle fällt erst vor Markteinführung auf.
2. Umgekehrt wird jede Software pauschal in das Drittprüfungsregime geschoben, obwohl vorprogrammierte Automatisierung nicht erfasst ist.
3. Entscheidungsaufzeichnung und Versionsprotokoll werden als nachgelagerte Dokumentation behandelt statt als Konstruktionsanforderung.
4. Die Planung stützt sich auf Darstellungen mit Stand vor dem 24.07.2026 und verfehlt die neue Aufgabenteilung.
5. Artikel 20 Absatz 10 wird eingeplant, ohne den realen Normenstand zu prüfen.
6. Verfügbarkeit und Scope notifizierter Stellen bleiben ungeklärt, obwohl sie den kritischen Pfad bestimmen.

Risiken und Trade-offs

Der erste Trade-off ist die Technologieentscheidung: Ein selbstentwickelndes ML-System kann Sicherheitsfunktionen leistungsfähiger machen, kauft das aber mit Drittprüfung und höherem Nachweisaufwand ein; eine fest programmierte Lösung bleibt regulatorisch leichter, unter Umständen zulasten der Funktion; die Wahl gehört bewusst getroffen.

Der zweite liegt im Timing: Die kommenden delegierten Rechtsakte können Anforderungen ergänzen, deren Inhalt heute nicht feststeht; konservativ ist, Architektur und Dokumentation an den AI-Act-Anforderungen (Kapitel III Abschnitt 2) anschlussfähig zu halten. Drittens bleibt Statusunsicherheit (Absatzzählung des geänderten Artikels 8, Normenstand, Verfügbarkeit notifizierter Stellen); diese Punkte sind offen zu führen.

Entscheidungspunkte

• Welche Systeme haben selbstentwickelndes Verhalten mit maschinellem Lernen und gewährleisten Sicherheitsfunktionen, und wer dokumentiert die Einstufung?
• Fällt das System unter Anhang I Teil A Nummer 5 (eigenständiges Bauteil) oder Nummer 6 (eingebettet), und welches Verfahren nach Artikel 25 Absatz 2 passt?
• Wie werden die Anforderungen aus Anhang III Abschnitt 1.2.1 architektonisch umgesetzt und im Betrieb getragen?
• Wie werden 20.01.2027 und 02.08.2028 in der Roadmap berücksichtigt, wer beobachtet delegierte Rechtsakte und Normenstand?

Praktische Empfehlungen

1. Führen Sie eine dokumentierte Einstufungsentscheidung je System ein, getragen von Safety, Security und Produktverantwortung gemeinsam.
2. Binden Sie die notifizierte Stelle früh ein und behandeln Sie Verfügbarkeit und Scope als Projektrisiko.
3. Konstruieren Sie Nachweisfähigkeit von Anfang an: Begrenzung, Entscheidungsaufzeichnung, Korrigierbarkeit, geschützte Lernphase, Versionsprotokoll.
4. Planen Sie bis zum 02.08.2028 aktiv: MVO als Arbeitsgrundlage, delegierte Rechtsakte und Normenstand beobachten, Artikel 20 Absatz 10 erst nach Prüfung einsetzen.
5. Nutzen Sie für die KI-Governance die Struktur des ai-governance-Tracks statt einer maschinenspezifischen Parallelorganisation.

Relevante Normreferenzen

• Maschinenverordnung, Verordnung (EU) 2023/1230 (ABl. L 165 vom 29.06.2023, S. 1, berichtigte Fassung): Artikel 3 Nummer 3, Artikel 6, Artikel 25 Absatz 2, Anhang I Teil A Nummern 5 und 6, Anhang II Nummern 18 und 19, Anhang III Allgemeine Grundsätze Nummer 1 und Abschnitt 1.2.1, Erwägungsgründe 12, 54, 55; Geltung ab 20.01.2027.
• Digital-Omnibus-Verordnung (EU) 2026/1744 (in Kraft seit 27.07.2026): Artikel 1 (AI Act, Anhang I Abschnitt B, Fristverschiebungen), Artikel 3 (MVO: Delegationsnorm in Artikel 8, Artikel 20 Absatz 10, Artikel 47); delegierte KI-Rechtsakte ab 02.08.2028.
• EU AI Act, Verordnung (EU) 2024/1689: Artikel 6 Absatz 1, Artikel 2 Absatz 2 (geänderte Fassung), Kapitel III Abschnitt 2, Artikel 40 und 41; Grundlagen im ai-governance-Track.
• Harmonisierte Normen und gemeinsame Spezifikationen unter MVO und AI Act: lizenzpflichtig, nur Referenz; Stand prüfen.