KI-VO (EU) 2024/1689
Künstliche Intelligenz VO (EU) 2024/1689
Zum Volltext der
Verordnung (EU) 2024/1689 vom 13. Juni 2024 siehe
Inkrafttreten: 1. August 2024
Anzuwenden ab: 2. August 2026
EU-KI-Verordnung geändert
Mit der
wurden nicht nur die KI-Verordnung 2024/1689 geändert, sondern auch die folgenden EU-Verordnungen:
- Verordnung (EU) 2018/1139
Vorschriften für die Zivilluftfahrt - Verordnung (EU) 2023/1230
EU-Maschinenverordnung
Inkrafttreten und Geltung:
Artikel 4
Diese Verordnung tritt am dritten Tag nach ihrer Veröffentlichung im Amtsblatt der Europäischen Union in Kraft.
Diese Verordnung ist in allen ihren Teilen verbindlich und gilt unmittelbar in jedem Mitgliedstaat.
Damit ist die KI-OmnibusVO am 27. Juli 2026 in Kraft getreten.
Änderungen in der KI-Verordnung mit relevanz zur EU-Maschinenverordnung
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) wurde mit der KI-Omnibusverordnung (Verordnung (EU) 2026/1744) umfangreich geändert. Nachfolgend sollen allerdings nur die Änderungen mit besonderer Relevanz für die EU-Maschinenverordnung aufgeführt werden.
Artikel 1
Änderung der Verordnung (EU) 2024/1689
Die Verordnung (EU) 2024/1689 wird wie folgt geändert:
1. […]
2. Artikel 2 “Anwendungsbereich” wird wie folgt geändert:
a) Absatz 2 erhält folgende Fassung:
„(2) Für KI-Systeme, die als Hochrisiko-KI-Systeme gemäß Artikel 6 Absatz 1 eingestuft sind und im Zusammenhang mit Produkten stehen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, gelten nur Artikel 6 Absatz 1, Artikel 60a und Artikel 102 bis 112. Die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme gemäß dieser Verordnung im Rahmen der genannten Harmonisierungsrechtsvorschriften der Union übernommen wurden.“
b) Absatz 7 erhält folgende Fassung:
„(7) […]“
Auswirkung der Änderungen von Artikel 2
Nach dem neuen Artikel 2 Absatz 2 KI-VO gelten für maschinenbezogene Hochrisiko-KI-Systeme damit aus der KI-VO grundsätzlich nur noch:
- Artikel 6 “Einstufungsvorschriften für Hochrisiko-KI-Systeme” Absatz 1
“(1) Ungeachtet dessen, ob ein KI-System unabhängig von den unter den Buchstaben a und b genannten Produkten in Verkehr gebracht oder in Betrieb genommen wird, gilt es als Hochrisiko-KI-System, wenn die beiden folgenden Bedingungen erfüllt sind:- a) das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder das KI-System ist selbst ein solches Produkt;
- b) das Produkt, dessen Sicherheitsbauteil gemäß Buchstabe a das KI-System ist, oder das KI-System selbst als Produkt muss einer Konformitätsbewertung durch Dritte im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts gemäß den in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union unterzogen werden.”
- der neue Artikel 60a “Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen […]” s.u.
- die Artikel 102 bis 112
sowie - die Artikel 57 bis 59 “KI-Reallabore” nur insoweit, wie die entsprechenden Anforderungen in die EU-Maschinenverordnung integriert wurden.
Diese Änderung steht in Zusammenhang mit der Löschung der EG-Maschinenrichtlinie in Anhang I Abschnitt A und der Aufnahme der EU-Maschinenverordnung in Anhang I Abschnitt B (s.u.). Die materiellen KI-Sicherheitsanforderungen sollen damit künftig primär über die EU-Maschinenverordnung geregelt werden.
25. Es wird folgender Artikel 60a eingefügt:
“Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren
(1) Die Mitgliedstaaten können Tests von Hochrisiko-KI-Systemen unter Realbedingungen durch Anbieter oder zukünftige Anbieter von KI-gestützten Produkten, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel zulassen, um die Konformität dieser Systeme mit den in den Artikeln 8 bis 15 festgelegten Anforderungen zu bewerten und zu überprüfen.
2. […]”
33. In Artikel 76 “Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden” Absatz 1
“(1) Marktüberwachungsbehörden müssen über die Kompetenzen und Befugnisse verfügen, um sicherzustellen, dass Tests unter Realbedingungen gemäß dieser Verordnung erfolgen.”
wird folgender Unterabsatz angefügt:
„Beruht der Test unter Realbedingungen auf Artikel 60a, so gilt jede Bezugnahme auf eine Marktüberwachungsbehörde in diesem Artikel als Bezugnahme auf die zuständige nationale Behörde oder die gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständige Behörde, und Bezugnahmen auf Artikel 60 gelten entsprechend als Bezugnahmen auf Artikel 60a.“
Auswirkung der Änderungen von Artikel 76
Anpassung der Überwachung von Tests nach dem neuen Art. 60a der KI-VO (s.o.) für Produkte nach Anhang I Abschnitt B
40. Artikel 113 “Inkrafttreten und Geltungsbeginn” Absatz 3 wird wie folgt geändert:
a) Buchstabe a erhält folgende Fassung:
- „a) Die Kapitel I und II gelten ab dem 2. Februar 2025, mit Ausnahme von Artikel 5 Absatz 1 Unterabsatz 1 Buchstaben ba und bb und Artikel 5 Absätze 1a und 1b, die ab dem 2. Dezember 2026 gelten.“
b) Buchstabe c erhält folgende Fassung:
- „c) Kapitel III Abschnitte 1, 2 und 3, mit Ausnahme von Artikel 6 Absatz 5, gelten ab dem:
- i) 2. Dezember 2027 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind, und
- ii) 2. August 2028 in Bezug auf KI-Systeme, die gemäß Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind.“
c) Folgender Buchstabe wird angefügt:
- „d) Die Artikel 102 bis 110 gelten ab dem 27. Juli 2026.“
Auswirkung der Änderungen von Artikel 113:
Neue Anwendungsfristen wie 2. Dezember 2027 für Anhang III und 2. August 2028 für produktbezogene Hochrisiko-KI-Systeme nach Anhang I.
41. Anhang I wird wie folgt geändert:
a) In Abschnitt A “Liste der Harmonisierungsrechtsvorschriften der Union auf der Grundlage des neuen Rechtsrahmens” wird die Nummer 1 gestrichen.
“1. Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates vom 17. Mai 2006 über Maschinen und zur Änderung der Richtlinie 95/16/EG (ABl. L 157 vom 9.6.2006, S. 24)”
b) In Abschnitt B wird folgende Nummer angefügt:
„(21) Verordnung (EU) 2023/1230 des Europäischen Parlaments und des Rates vom 14. Juni 2023 über Maschinen und zur Aufhebung der Richtlinie 2006/42/EG des Europäischen Parlaments und des Rates und der Richtlinie 73/361/EWG des Rates (ABl. L 165 vom 29.6.2023, S. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj).“
Auswirkung der Änderungen des Anhang I:
Die EG-Maschinenrichtlinie wird in Abschnitt A gestrichen und dafür die EU.Maschinenverordnung wird in Abschnitt B aufgenommen. S.o. Artikel 2 (2)
Änderung der EU-Maschinenverordnung
Mit der EU-OmnisbusVO vom 8.7.2026 wird die Maschinenverordnung (EU) 2023/1230 geändert:
Artikel 3
Änderung der Verordnung (EU) 2023/1230
Die Verordnung (EU) 2023/1230 wird wie folgt geändert:
1. In Artikel 8 werden folgende Absätze angefügt:
"Die Kommission erlässt gemäß Artikel 47 dieser Verordnung delegierte Rechtsakte zur Änderung des Anhangs III dieser Verordnung durch Hinzufügung von Sicherheits- und Gesundheitsschutzanforderungen in Bezug auf künstliche Intelligenz (KI)-Systeme, die gemäß Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 als hochriskant eingestuft werden, weil sie ein Sicherheitsbauteil eines unter diese Verordnung fallenden Produkts oder selbst ein unter diese Verordnung fallendes Produkt sind. Diese Anforderungen müssen sicherstellen, dass den einschlägigen Anforderungen in Kapitel III Abschnitt 2 und den Artikeln 17, 19, 72 und 73 der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates (*) Rechnung getragen wird.
Beim Erlass der in Absatz 3 genannten delegierten Rechtsakte berücksichtigt die Kommission die Ziele der Verordnung (EU) 2024/1689 und gewährleistet ein Schutzniveau, das mit der genannten Verordnung im Einklang steht. Diese delegierten Rechtsakte gelten ab dem 2. August 2028."
_____________________
(*) Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (ABl. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
2. In Artikel 20 wird folgender Absatz angefügt:
„(10) Bis in Bezug auf Hochrisiko-KI-Systeme harmonisierte Normen oder gemeinsame Spezifikationen herangezogen oder gemäß diesem Artikel angenommen werden, wird bei in den Anwendungsbereich dieser Verordnung fallenden Hochrisiko-KI-Systemen, die den einschlägigen herangezogenen harmonisierten Normen oder den angenommenen gemeinsamen Spezifikationen gemäß Artikel 40 bzw. Artikel 41 der Verordnung (EU) 2024/1689 entsprechen, eine Konformität mit den grundlegenden Sicherheits- und Gesundheitsschutzanforderungen nach Anhang III dieser Verordnung in Bezug auf Hochrisiko-KI-Systeme vermutet.“
3. Artikel 47 wird wie folgt geändert:
a) Absätze 2 und 3 erhalten folgende Fassung:
„(2) Die Befugnis zum Erlass delegierter Rechtsakte gemäß Artikel 6 Absätze 2 und 11 und Artikel 7 Absatz 2 wird der Kommission für einen Zeitraum von fünf Jahren ab dem 19. Juli 2023 übertragen. Die Befugnis zum Erlass delegierter Rechtsakte gemäß Artikel 8 Absatz 3 wird der Kommission für einen Zeitraum von fünf Jahren ab dem 27. Juli 2026 übertragen. Die Kommission erstellt spätestens neun Monate vor Ablauf des Zeitraums von fünf Jahren einen Bericht über die Befugnisübertragung. Die Befugnisübertragung verlängert sich stillschweigend um Zeiträume gleicher Länge, es sei denn, das Europäische Parlament oder der Rat widersprechen einer solchen Verlängerung spätestens drei Monate vor Ablauf des jeweiligen Zeitraums.
(3) Die Befugnisübertragung gemäß Artikel 6 Absätze 2 und 11, Artikel 7 Absatz 2 und Artikel 8 Absatz 3 kann vom Europäischen Parlament oder vom Rat jederzeit widerrufen werden. Der Beschluss über den Widerruf beendet die Übertragung der in diesem Beschluss angegebenen Befugnis. Er wird am Tag nach seiner Veröffentlichung im Amtsblatt der Europäischen Union oder zu einem im Beschluss über den Widerruf angegebenen späteren Zeitpunkt wirksam. Die Gültigkeit von delegierten Rechtsakten, die bereits in Kraft sind, wird von dem Beschluss über den Widerruf nicht berührt.“
b) Absatz 6 wird wie folgt geändert:
„(6) Ein delegierter Rechtsakt, der gemäß Artikel 6 Absätze 2 und 11, Artikel 7 Absatz 2 oder Artikel 8 Absatz 3 erlassen wurde, tritt nur in Kraft, wenn weder das Europäische Parlament noch der Rat innerhalb einer Frist von zwei Monaten nach Übermittlung dieses Rechtsakts an das Europäische Parlament und den Rat Einwände erhoben haben oder wenn vor Ablauf dieser Frist das Europäische Parlament und der Rat beide der Kommission mitgeteilt haben, dass sie keine Einwände erheben werden. Auf Initiative des Europäischen Parlaments oder des Rates wird diese Frist um zwei Monate verlängert.“
Vereinfachung durch den Digital-Omnibus zur KI-Verordnung?
Im Maschinenrecht erreicht er wohl eher das Gegenteil.
Nach der Änderung der KI-Verordnung (EU) 2024/1689 durch die Omnibus-Verordnung (EU) 2026/1744 werden Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der KI-Verordnung, soweit sie in den Anwendungsbereich der Verordnung (EU) 2023/1230 (EU-Maschinenverordnung) fallen, künftig nicht mehr nach der bisherigen Systematik der ursprünglichen KI-Verordnung behandelt.
Stattdessen wird die Kommission ermächtigt, den Anhang III der EU-Maschinenverordnung um entsprechende Sicherheits- und Gesundheitsschutzanforderungen zu erweitern.
Das klingt zunächst nach Entlastung. Bei näherer Betrachtung ist es aber vor allem eine Verschiebung.
Denn, wenn die Anforderungen aus der KI-Verordnung im Maschinenrecht abgebildet werden müssen, verschwinden sie nicht. Sie stehen nur an anderer Stelle. Für Hersteller bedeutet das nicht automatisch weniger Pflichten, sondern eine neue Zuordnung derselben oder sehr ähnlicher Anforderungen. Aus einer Doppelregulierung wird damit nicht zwingend eine Vereinfachung.
Es entsteht vielmehr ein neuer Prüfpfad:
- Fällt das KI-System noch unmittelbar unter bestimmte Regelungen der KI-Verordnung?
- Welche Anforderungen werden künftig über Anhang III der EU-Maschinenverordnung relevant?
- Welche harmonisierten Normen oder gemeinsamen Spezifikationen können herangezogen werden?
- Und wie ist die Schnittstelle zwischen KI-System, Sicherheitsbauteil und Maschine sauber zu bestimmen?
Besonders kritisch ist der betroffene Produktkreis:
Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der KI-Verordnung sind nicht nur die viel diskutierten “KI-Sicherheitsbauteile mit selbstentwickelndem Verhalten”. Auch KI-Systeme,
- die als Sicherheitsbauteil eines Produkts verwendet werden
oder - selbst ein entsprechendes Produkt sind,
- wenn dieses Produkt zwingend einer Drittstellen-Konformitätsbewertung unterliegt,
sind erfasst.
Bei Produkten aus Anhang I Teil A der EU-Maschinenverordnung liegt diese Drittstellen-Konformitätsbewertung regelmäßig vor. Bei Produkten aus Anhang I Teil B liegt sie vor, wenn die einschlägigen grundlegenden Sicherheits- und Gesundheitsschutzanforderungen nicht vollständig durch harmonisierte Normen abgedeckt werden.
Damit können Konstellationen in den Blick geraten, an die bei der Gesetzgebung vermutlich kaum jemand gedacht hat.
Die eigentlich naheliegende Vorstellung, es gehe nur um „Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten“ nach Anhang I Teil A Nr. 5 der EU-Maschinenverordnung, greift zu kurz.
Solche Produkte werden auf absehbare Zeit kaum den Schwerpunkt des Marktes bilden. Viel relevanter sind die unscheinbaren Grenzfälle.
Beispiel:
- Ein Sicherheitsbauteil wird für ein Maschinen zum Heben von Personen oder von Personen und Gütern, bei denen die Gefährdung durch einen Absturz aus einer vertikalen Höhe von mehr als 3m besteht nach Anhang I Teil B Nr. 14 der EU-Maschinenverordnung eingesetzt.
- Dieses Sicherheitsbauteil nutzt KI nicht zur eigentlichen Sicherheitsfunktion, sondern etwa zur Analyse, Diagnose oder Darstellung von Daten.
- Die GSGA aus Anhang III EU-MVO der Maschine können nicht vollständig über harmonisierte Normen abgedeckt werden.
- Damit sind die Voraussetzungen für ein Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 der Verordnung (EU) 2024/1689 gegeben.
Fazit:
- Die Industrie gewinnt nicht automatisch an Klarheit.
- Sie muss weiterhin die KI-Verordnung verstehen.
- Sie muss zusätzlich prüfen, welche Anforderungen künftig über die EU-Maschinenverordnung zurückkommen.
- Und sie muss sich noch genauer mit der Frage beschäftigen, wann KI in einem Maschinenprodukt regulatorisch relevant wird.
Vereinfachung sieht anders aus.
EU-KIVO: Anwendungsbereich
Die EU-KIVO legt zum Anwendungsbereich folgendes fest:
Artikel 2
Anwendungsbereich
(1) Diese Verordnung gilt für
- a) Anbieter*), die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind;
- b) Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
- c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird;
- d) Einführer und Händler von KI-Systemen;
- e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen;
- f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
- g) betroffene Personen, die sich in der Union befinden.
2. […]
Wichtig aus dem Blickwinkel der EU-MVO ist dabei, dass die EU-KIVO u.a. folgende Wirtschaftakteure erfasst:
- Anbieter von KI-Systemen
nach dem Verständnis der EU-MVO: Hersteller von KI-Systemen - Einführer von KI-Systemen;
- Händler von KI-Systemen;
- Bevollmächtigte von Anbietern;
- Produkthersteller, die KI-Systeme in ihr Produkt, dass sie inverkehrbringen oder selbst betreiben integrieren. Diese sind nicht weiter definiert. Nach Erwägungsgrund 87 der EU-KIVO sind damit Hersteller im Sinne der EU-Harmonisierungsrechtsvorschriften gemeint, in deren Anwendungsbereich das Produkt mit dem integrierten KI-System fällt.
- Aus dem Blickwinkel der EU-MVO sind das:
Hersteller von Maschinen, dazugehörigen Produkten oder unvollständigen Maschinen
- Aus dem Blickwinkel der EU-MVO sind das:
*) Art. 3 Nr. 3 EU-KIVO:
„Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
Definition: KI-System
Artikel 3 - Begriffsbestimmungen
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
1. „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;
MBT-Kommentierung zum KI-System
Zum Thema “KI-System” siehe unsere Kommentierung:
Definition: KI-Modell mit allgemeinem Verwendungszweck
Artikel 3 - Begriffsbestimmungen
Für die Zwecke dieser Verordnung bezeichnet der Ausdruck
63. „KI-Modell mit allgemeinem Verwendungszweck“ ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden;
Anmerkung:
Wenig zielführend ist die Aussage, dass ein KI-Modell ein KI-Modell ist. Etwas mit sich selbt zu definieren hilft niemanden. Diese Art einer “Definition” findet sich aber nicht nur hier. So wird z.B. der “Endnutzer” in der EU-Marktüberwachungsverordnung auch mit sich selbst definiert.
KI-Regelungen in der EU-Maschinenverordnung (EU-MVO)
Die EU-MVO trifft auch eigene Regelungen zum Thema künstliche Intelligenz (KI).
Die EU-MVO legt u.a. in Anhang III, Nr. 1.2.1. zum Thema selbst entwickelnde Systeme fest:
"Steuerungssysteme für Maschinen oder dazugehörige Produkte, deren Verhalten oder Logik sich vollständig oder teilweise selbst entwickelt und die für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, müssen so konzipiert und gebaut sein, dass
a) sie nicht dazu führen, dass Maschinen oder dazugehörige Produkte Handlungen ausführen, die über ihre festgelegte Aufgabe und ihren festgelegten Bewegungsbereich hinausgehen;
b) [...]"
Erwägungsgrund 12 der EU-MVO erläutert hierzu:
"(12) In jüngster Zeit wurden fortschrittlichere Maschinen auf den Markt gebracht, die weniger abhängig von menschlichen Bedienern sind. Derartige Maschinen arbeiten an definierten Aufgaben und in strukturierten Umgebungen, können jedoch lernen, in diesem Kontext neue Tätigkeiten auszuführen und autonomer zu werden. Weitere, bereits vorhandene oder zu erwartende Verbesserungen von Maschinen umfassen die Informationsverarbeitung in Echtzeit, die Problemlösung, die Beweglichkeit, Sensorsysteme, das Lernen, die Anpassungsfähigkeit und die Fähigkeit, in unstrukturierten Umgebungen (zum Beispiel auf Baustellen) zu arbeiten. In dem Bericht der Kommission vom 19. Februar 2020 über die Auswirkungen von künstlicher Intelligenz, des Internets der Dinge und der Robotik auf die Sicherheit und Haftung wird festgestellt, dass die Entstehung neuer digitale Technologien, wie künstliche Intelligenz, das Internet der Dinge und die Robotik, neue Herausforderungen in Bezug auf die Produktsicherheit mit sich bringt. In dem Bericht wird die Schlussfolgerung gezogen, dass die aktuelle Gesetzgebung zur Produktsicherheit, einschließlich der Richtlinie 2006/42/EG, in dieser Hinsicht eine Reihe von Lücken enthält, die geschlossen werden müssen. Daher sollte diese Verordnung die Sicherheitsrisiken abdecken, die sich aus neuen digitalen Technologien ergeben."
Erwägungsgrund 54 und 55 der EU-MVO erläutern weiter:
"(54) Die Liste der Produkte in Anhang IV der Richtlinie 2006/42/EG basierte bisher auf dem Risiko, das von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung dieser Produkte oder von ihrer kritischen Schutzfunktion ausgeht. Es gibt jedoch im Maschinensektor neue Möglichkeiten für die Konstruktion und den Bau von Maschinen oder dazugehörigen Produkten, die unabhängig von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung höhere Risikofaktoren mit sich bringen könnten. So sollten beispielsweise Systeme mit selbstentwickelndem Verhalten, die Sicherheitsfunktionen gewährleisten, aufgrund ihrer Merkmale wie Datenabhängigkeit, Undurchsichtigkeit, Autonomie und Konnektivität, die die Wahrscheinlichkeit und Schwere von Schäden sehr stark erhöhen und die Sicherheit der Maschine oder des dazugehörigen Produkts ernsthaft beeinträchtigen könnten, in Anhang I aufgenommen werden. Daher sollte die Konformitätsbewertung eines Sicherheitsbauteils oder eines Systems mit selbstentwickelndem Verhalten, das Sicherheitsfunktionen gewährleistet, von unabhängigen Dritten durchgeführt werden, unabhängig davon, ob das Sicherheitsbauteil unabhängig in Verkehr gebracht wurde oder Teil eines in eine Maschine eingebetteten Systems ist, das in Verkehr gebracht wird. Wenn jedoch in eine Maschine ein System eingebettet ist, dessen Sicherheitsbauteile bereits einer Konformitätsbewertung durch unabhängige Dritte unterzogen wurde, als sie unabhängig in Verkehr gebracht wurde, sollte diese Maschine nicht allein aufgrund dessen von unabhängigen Dritten neu zertifiziert werden müssen, dass dieses System eingebettet wurde.
(55) Die Bestimmungen dieser Verordnung über die Konformitätsbewertung von Software, die Sicherheitsfunktionen gewährleistet, durch unabhängige Dritte sollten nur für Systeme mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten, gelten. Dagegen sollten diese Bestimmungen nicht für Software gelten, die weder lern- noch weiterentwicklungsfähig ist und nur für die Ausführung bestimmter automatisierter Funktionen von Maschinen oder dazugehörigen Produkten programmiert ist."
Externe weiterführende Informationen
Siehe hierzu der Überblick über die neue KI-Verordnung auf der Webseite von TaylorWessing:
