normakte / Maschinen mit KI
Nicht jede Software mit „KI“ macht eine Maschine zur Hochrisiko-Maschine. Entscheidend ist, ob ein lernendes System Sicherheitsfunktionen gewährleistet – dann ändern sich Verfahren und Anforderungen.
Zwei Kategorien betreffen lernende Systeme: Nr. 5 Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten; Nr. 6 Maschinen mit solchen eingebetteten Systemen, die nicht gesondert in Verkehr gebracht wurden – und zwar nur in Bezug auf diese Systeme. Für beide ist eine notifizierte Stelle zwingend (Art. 25 Abs. 2).
Ist in eine Maschine ein System eingebettet, dessen Sicherheitsbauteile bereits als gesondert in Verkehr gebrachte Bauteile von Dritten bewertet wurden, muss die Maschine deswegen nicht erneut zertifiziert werden (Erwägungsgrund 54).
| Anforderung | Inhalt | Fundstelle |
|---|---|---|
| Grenzen | Die Steuerung darf die Maschine keine Handlungen ausführen lassen, die über ihre festgelegte Aufgabe und ihren Bewegungsbereich hinausgehen | 1.2.1 Abs. 2 Buchst. a |
| Aufzeichnung | Daten zum sicherheitsrelevanten Entscheidungsprozess werden aufgezeichnet und ein Jahr für die Behörden gespeichert | 1.2.1 Abs. 2 Buchst. b |
| Korrektur | Die Maschine muss jederzeit korrigiert werden können, um ihre inhärente Sicherheit zu wahren | 1.2.1 Abs. 2 Buchst. c |
| Lernphase | Änderungen von Einstellungen oder Regeln, auch während der Lernphase, sind zu verhindern, wenn sie gefährlich sein könnten | 1.2.1 Abs. 1 Buchst. d |
| Rückverfolgung | Eingriffe und hochgeladene Versionen der Sicherheitssoftware bleiben bis zu fünf Jahre nachvollziehbar | 1.2.1 Abs. 1 Buchst. f |
| Interaktion | Schnittstelle an vorhersehbare Eigenschaften der Bediener anpassen; gegebenenfalls geplante Handlungen verständlich mitteilen | 1.1.6 Buchst. f, g |
Die Beurteilung umfasst Gefährdungen, die im Lebenszyklus auftreten können und beim Inverkehrbringen vorhersehbar sind, weil sich das Verhalten oder die Logik bestimmungsgemäß weiterentwickelt (Anhang III Teil B Nr. 1). Die Grenzen der Sicherheitsfunktionen werden in der Risikobeurteilung festgelegt (1.2.1 Abs. 1 Buchst. d). Auf begründeten Antrag sind Quellcode oder Programmierlogik der Behörde zugänglich zu machen (Art. 10 Abs. 3).
Die KI-Verordnung (EU) 2024/1689 erfasst KI-Systeme, die Sicherheitsbauteile von Produkten nach den in ihrem Anhang I genannten Harmonisierungsvorschriften sind, als Hochrisiko-Systeme. Mit dem Digital-Omnibus zur KI, den der Rat am 29. Juni 2026 (Verordnung (EU) 2026/1744) endgültig gebilligt hat, wird die Maschinenverordnung nach den vorliegenden Zusammenfassungen innerhalb dieses Anhangs verschoben: KI in Maschinen soll dann vor allem über die Maschinenverordnung geregelt werden, die die Kommission dafür durch delegierte Rechtsakte ergänzen kann; die Pflichten für solche Hochrisiko-Systeme sollen ab dem 2. August 2028 gelten. Prüfen Sie den im Amtsblatt veröffentlichten Text, bevor Sie Ihre Planung darauf stützen.
Nein. Teil A greift nur, wenn ein System mit selbstentwickelndem Verhalten durch maschinelles Lernen Sicherheitsfunktionen gewährleistet. Eine KI für Qualitätsprüfung ohne Sicherheitsfunktion fällt nicht darunter.
Erwägungsgrund 55 nimmt Software aus, die weder lern- noch weiterentwicklungsfähig ist. Ob ein konkretes Modell darunter fällt, ist technisch zu begründen und zu dokumentieren; im Zweifel mit einer notifizierten Stelle klären.
Die einjährige Aufzeichnung betrifft Steuerungen mit selbstentwickelndem Verhalten für einen in wechselndem Maße autonomen Betrieb. Die fünfjährige Rückverfolgung von Eingriffen und Software-Versionen gilt für Steuerungen allgemein (1.2.1).
Grenzen, Aufzeichnungen, Softwarestände und Verfahren in einer Akte. Testakte kostenlos bis 20.01.2027.
Quellen. Verordnung (EU) 2023/1230, ABl. L 165 vom 29.6.2023, einschließlich der Berichtigung vom 1.4.2025; Richtlinie 2006/42/EG für die bisherige Rechtslage. Zum Digital-Omnibus zur KI: Zusammenfassungen von Fachkanzleien (Stand Oktober 2026); maßgeblich ist der Text im Amtsblatt.
Die Angaben sind gegen den amtlichen Wortlaut geprüft, sinngemäß wiedergegeben und gekürzt; maßgeblich bleibt der amtliche Wortlaut.
normakte ist eine Schreib- und Rechenhilfe und ersetzt weder die Konformitätsbewertung noch eine notifizierte Stelle, eine sicherheitstechnische Beurteilung durch Fachleute oder eine Rechtsberatung.