KI-VO (EU) 2024/1689
Künstliche Intelligenz VO (EU) 2024/1689
Zum Volltext der
Verordnung (EU) 2024/1689 vom 13. Juni 2024 siehe
Inkrafttreten: 1. August 2024
Anzuwenden ab: 2. August 2026
EU-KIVO: Anwendungsbereich
Die EU-KIVO legt zum Anwendungsbereich folgendes fest:
Artikel 2
Anwendungsbereich
(1) Diese Verordnung gilt für
- a) Anbieter*), die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind;
- b) Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
- c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird;
- d) Einführer und Händler von KI-Systemen;
- e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen;
- f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
- g) betroffene Personen, die sich in der Union befinden.
2. […]
Wichtig aus dem Blickwinkel der EU-MVO ist dabei, dass die EU-KIVO u.a. folgende Wirtschaftakteure erfasst:
- Anbieter von KI-Systemen
nach dem Verständnis der EU-MVO: Hersteller von KI-Systemen - Einführer von KI-Systemen;
- Händler von KI-Systemen;
- Bevollmächtigte von Anbietern;
- Produkthersteller, die KI-Systeme in ihr Produkt, dass sie inverkehrbringen oder selbst betreiben integrieren. Diese sind nicht weiter definiert. Nach Erwägungsgrund 87 der EU-KIVO sind damit Hersteller im Sinne der EU-Harmonisierungsrechtsvorschriften gemeint, in deren Anwendungsbereich das Produkt mit dem integrierten KI-System fällt.
- Aus dem Blickwinkel der EU-MVO sind das:
Hersteller von Maschinen, dazugehörigen Produkten oder unvollständigen Maschinen
- Aus dem Blickwinkel der EU-MVO sind das:
*) Art. 3 Nr. 3 EU-KIVO:
„Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
Definition: KI-System
Artikel 3 - Begriffsbestimmungen
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
1. „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;
MBT-Kommentierung zum KI-System
Zum Thema “KI-System” siehe unsere Kommentierung:
Definition: KI-Modell mit allgemeinem Verwendungszweck
Artikel 3 - Begriffsbestimmungen
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
63. „KI-Modell mit allgemeinem Verwendungszweck“ ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden;
Anmerkung:
Wenig zielführend ist die Aussage, dass ein KI-Modell ein KI-Modell ist. Etwas mit sich selbt zu definieren hilft niemanden. Diese Art einer “Definition” findet sich aber nicht nur hier. So wird z.B. der “Endnutzer” in der EU-Marktüberwachungsverordnung auch mit sich selbst definiert.
KI-Regelungen in der EU-Maschinenverordnung (EU-MVO)
Die EU-MVO trifft auch eigene Regelungen zum Thema künstliche Intelligenz (KI).
Die EU-MVO legt u.a. in Anhang III, Nr. 1.2.1. zum Thema selbst entwickelnde Systeme fest:
"Steuerungssysteme für Maschinen oder dazugehörige Produkte, deren Verhalten oder Logik sich vollständig oder teilweise selbst entwickelt und die für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, müssen so konzipiert und gebaut sein, dass
a) sie nicht dazu führen, dass Maschinen oder dazugehörige Produkte Handlungen ausführen, die über ihre festgelegte Aufgabe und ihren festgelegten Bewegungsbereich hinausgehen;
b) [...]"
Erwägungsgrund 12 der EU-MVO erläutert hierzu:
"(12) In jüngster Zeit wurden fortschrittlichere Maschinen auf den Markt gebracht, die weniger abhängig von menschlichen Bedienern sind. Derartige Maschinen arbeiten an definierten Aufgaben und in strukturierten Umgebungen, können jedoch lernen, in diesem Kontext neue Tätigkeiten auszuführen und autonomer zu werden. Weitere, bereits vorhandene oder zu erwartende Verbesserungen von Maschinen umfassen die Informationsverarbeitung in Echtzeit, die Problemlösung, die Beweglichkeit, Sensorsysteme, das Lernen, die Anpassungsfähigkeit und die Fähigkeit, in unstrukturierten Umgebungen (zum Beispiel auf Baustellen) zu arbeiten. In dem Bericht der Kommission vom 19. Februar 2020 über die Auswirkungen von künstlicher Intelligenz, des Internets der Dinge und der Robotik auf die Sicherheit und Haftung wird festgestellt, dass die Entstehung neuer digitale Technologien, wie künstliche Intelligenz, das Internet der Dinge und die Robotik, neue Herausforderungen in Bezug auf die Produktsicherheit mit sich bringt. In dem Bericht wird die Schlussfolgerung gezogen, dass die aktuelle Gesetzgebung zur Produktsicherheit, einschließlich der Richtlinie 2006/42/EG, in dieser Hinsicht eine Reihe von Lücken enthält, die geschlossen werden müssen. Daher sollte diese Verordnung die Sicherheitsrisiken abdecken, die sich aus neuen digitalen Technologien ergeben."
Erwägungsgrund 54 und 55 der EU-MVO erläutern weiter:
"(54) Die Liste der Produkte in Anhang IV der Richtlinie 2006/42/EG basierte bisher auf dem Risiko, das von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung dieser Produkte oder von ihrer kritischen Schutzfunktion ausgeht. Es gibt jedoch im Maschinensektor neue Möglichkeiten für die Konstruktion und den Bau von Maschinen oder dazugehörigen Produkten, die unabhängig von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung höhere Risikofaktoren mit sich bringen könnten. So sollten beispielsweise Systeme mit selbstentwickelndem Verhalten, die Sicherheitsfunktionen gewährleisten, aufgrund ihrer Merkmale wie Datenabhängigkeit, Undurchsichtigkeit, Autonomie und Konnektivität, die die Wahrscheinlichkeit und Schwere von Schäden sehr stark erhöhen und die Sicherheit der Maschine oder des dazugehörigen Produkts ernsthaft beeinträchtigen könnten, in Anhang I aufgenommen werden. Daher sollte die Konformitätsbewertung eines Sicherheitsbauteils oder eines Systems mit selbstentwickelndem Verhalten, das Sicherheitsfunktionen gewährleistet, von unabhängigen Dritten durchgeführt werden, unabhängig davon, ob das Sicherheitsbauteil unabhängig in Verkehr gebracht wurde oder Teil eines in eine Maschine eingebetteten Systems ist, das in Verkehr gebracht wird. Wenn jedoch in eine Maschine ein System eingebettet ist, dessen Sicherheitsbauteile bereits einer Konformitätsbewertung durch unabhängige Dritte unterzogen wurde, als sie unabhängig in Verkehr gebracht wurde, sollte diese Maschine nicht allein aufgrund dessen von unabhängigen Dritten neu zertifiziert werden müssen, dass dieses System eingebettet wurde.
(55) Die Bestimmungen dieser Verordnung über die Konformitätsbewertung von Software, die Sicherheitsfunktionen gewährleistet, durch unabhängige Dritte sollten nur für Systeme mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten, gelten. Dagegen sollten diese Bestimmungen nicht für Software gelten, die weder lern- noch weiterentwicklungsfähig ist und nur für die Ausführung bestimmter automatisierter Funktionen von Maschinen oder dazugehörigen Produkten programmiert ist."
Externe weiterführende Informationen
Siehe hierzu der Überblick über die neue KI-Verordnung auf der Webseite von TaylorWessing:
Der Digital-Omnibus zur KI soll vereinfachen
Im Maschinenrecht erreicht er eher das Gegenteil.
Nach dem aktuellen Text zu 2025/0359(COD) (vom 18.06.2026) sollen Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der Verordnung (EU) 2024/1689, soweit sie in den Anwendungsbereich der Verordnung (EU) 2023/1230 fallen, künftig nicht mehr nach der bisherigen Systematik der KI-Verordnung behandelt werden.
Stattdessen wird die Kommission ermächtigt, den Anhang III der EU-Maschinenverordnung um entsprechende Sicherheits- und Gesundheitsschutzanforderungen zu erweitern.
Das klingt zunächst nach Entlastung. Bei näherer Betrachtung ist es aber vor allem eine Verschiebung.
Denn wenn die Anforderungen aus der KI-Verordnung im Maschinenrecht abgebildet werden müssen, verschwinden sie nicht. Sie stehen nur an anderer Stelle. Für Hersteller bedeutet das nicht automatisch weniger Pflichten, sondern eine neue Zuordnung derselben oder sehr ähnlicher Anforderungen. Aus einer Doppelregulierung wird damit nicht zwingend eine Vereinfachung.
Es entsteht vielmehr ein neuer Prüfpfad:
- Fällt das KI-System noch unmittelbar unter bestimmte Regelungen der KI-Verordnung?
- Welche Anforderungen werden künftig über Anhang III der EU-Maschinenverordnung relevant?
- Welche harmonisierten Normen oder gemeinsamen Spezifikationen können herangezogen werden?
- Und wie ist die Schnittstelle zwischen KI-System, Sicherheitsbauteil und Maschine sauber zu bestimmen?
Besonders kritisch ist der betroffene Produktkreis:
Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der KI-Verordnung sind nicht nur die viel diskutierten “KI-Sicherheitsbauteile mit selbstentwickelndem Verhalten”. Auch KI-Systeme,
- die als Sicherheitsbauteil eines Produkts verwendet werden
oder - selbst ein entsprechendes Produkt sind,
- wenn dieses Produkt zwingend einer Drittstellen-Konformitätsbewertung unterliegt,
sind erfasst.
Bei Produkten aus Anhang I Teil A der EU-Maschinenverordnung liegt diese Drittstellen-Konformitätsbewertung regelmäßig vor. Bei Produkten aus Anhang I Teil B liegt sie vor, wenn die einschlägigen grundlegenden Sicherheits- und Gesundheitsschutzanforderungen nicht vollständig durch harmonisierte Normen abgedeckt werden.
Damit können Konstellationen in den Blick geraten, an die bei der Gesetzgebung vermutlich kaum jemand gedacht hat.
Die eigentlich naheliegende Vorstellung, es gehe nur um „Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten“ nach Anhang I Teil A Nr. 5 der EU-Maschinenverordnung, greift zu kurz.
Solche Produkte werden auf absehbare Zeit kaum den Schwerpunkt des Marktes bilden. Viel relevanter sind die unscheinbaren Grenzfälle.
Beispiel:
- Ein Sicherheitsbauteil wird für ein Maschinen zum Heben von Personen oder von Personen und Gütern, bei denen die Gefährdung durch einen Absturz aus einer vertikalen Höhe von mehr als 3 m besteht nach Anhang I Teil B Nr. 14 der EU-Maschinenverordnung eingesetzt.
- Dieses Sicherheitsbauteil nutzt KI nicht zur eigentlichen Sicherheitsfunktion, sondern etwa zur Analyse, Diagnose oder Darstellung von Daten.
- Die GSGA aus Anhang III EU-MVO der Maschine können nicht vollständig über harmonisierte Normen abgedeckt werden.
- Damit sind die Voraussetzungen für ein Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der Verordnung (EU) 2024/1689 gegeben.
Mein Fazit:
- Die Industrie gewinnt nicht automatisch an Klarheit.
- Sie muss weiterhin die KI-Verordnung verstehen.
- Sie muss zusätzlich prüfen, welche Anforderungen künftig über die EU-Maschinenverordnung zurückkommen.
- Und sie muss sich noch genauer mit der Frage beschäftigen, wann KI in einem Maschinenprodukt regulatorisch relevant wird.
Vereinfachung sieht anders aus.
