Künstliche Intelligenz VERORDNUNG (EU) 2024/1689

Zum Volltext der

Verordnung (EU) 2024/1689 vom 13. Juni 2024 siehe

VERORDNUNG (EU) 2024/1689

Inkrafttreten: 1. August 2024

Anzuwenden ab: 2. August 2026

Artikel 2 der EU-KIVO legt den Anwendungsbereich fest:

"Artikel 2
Anwendungsbereich

(1)   Diese Verordnung gilt für

• a) Anbieter, die in der Union KI-Systeme in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind;
• b) Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder in der Union befinden;
• c) Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird;
• d) Einführer und Händler von KI-Systemen;
• e) Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen;
• f) Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind;
• g) betroffene Personen, die sich in der Union befinden.

(2) [...]"

Ein KI-System ist wie folgt definiert:

"Artikel 3
Begriffsbestimmungen

Für die Zwecke dieser Verordnung bezeichnet der Ausdruck

1. „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;"

Die EU-KIVO muss ggf. zusätzlich für Produkte angewendet werden, die unter den Anwendungsbereich der EU-MVO fallen. Die EU-MVO trifft aber auch eigene Regelungen zum Thema KI.

Erwägungsgrund 12 der EU-MVO erläutert hierzu:

"(12) In jüngster Zeit wurden fortschrittlichere Maschinen auf den Markt  gebracht, die weniger abhängig von menschlichen Bedienern sind. Derartige Maschinen arbeiten an definierten Aufgaben und in strukturierten Umgebungen, können jedoch lernen, in diesem Kontext neue Tätigkeiten auszuführen und autonomer zu werden. Weitere, bereits vorhandene oder zu erwartende Verbesserungen von Maschinen umfassen die Informationsverarbeitung in Echtzeit, die Problemlösung, die Beweglichkeit, Sensorsysteme, das Lernen, die Anpassungsfähigkeit und die Fähigkeit, in unstrukturierten Umgebungen (zum Beispiel auf Baustellen) zu arbeiten. In dem Bericht der Kommission vom 19. Februar 2020 über die Auswirkungen von künstlicher Intelligenz, des Internets der Dinge und der Robotik auf die Sicherheit und Haftung wird festgestellt, dass die Entstehung neuer digitale Technologien, wie künstliche Intelligenz, das Internet der Dinge und die Robotik, neue Herausforderungen in Bezug auf die Produktsicherheit mit sich bringt. In dem Bericht wird die Schlussfolgerung gezogen, dass die aktuelle Gesetzgebung zur Produktsicherheit, einschließlich der Richtlinie 2006/42/EG, in dieser Hinsicht eine Reihe von Lücken enthält, die geschlossen werden müssen. Daher sollte diese Verordnung die Sicherheitsrisiken abdecken, die sich aus neuen digitalen Technologien ergeben."

Erwägungsgrund 54 und 55 der EU-MVO erläutern weiter:

"(54) Die Liste der Produkte in Anhang IV der Richtlinie 2006/42/EG basierte bisher auf dem Risiko, das von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung dieser Produkte oder von ihrer kritischen Schutzfunktion ausgeht. Es gibt jedoch im Maschinensektor neue Möglichkeiten für die Konstruktion und den Bau von Maschinen oder dazugehörigen Produkten, die unabhängig von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung höhere Risikofaktoren mit sich bringen könnten. So sollten beispielsweise Systeme mit selbstentwickelndem Verhalten, die Sicherheitsfunktionen gewährleisten, aufgrund ihrer Merkmale wie Datenabhängigkeit, Undurchsichtigkeit, Autonomie und Konnektivität, die die Wahrscheinlichkeit und Schwere von Schäden sehr stark erhöhen und die Sicherheit der Maschine oder des dazugehörigen Produkts ernsthaft beeinträchtigen könnten, in Anhang I aufgenommen werden. Daher sollte die Konformitätsbewertung eines Sicherheitsbauteils oder eines Systems mit selbstentwickelndem Verhalten, das Sicherheitsfunktionen gewährleistet, von unabhängigen Dritten durchgeführt werden, unabhängig davon, ob das Sicherheitsbauteil unabhängig in Verkehr gebracht wurde oder Teil eines in eine Maschine eingebetteten Systems ist, das in Verkehr gebracht wird. Wenn jedoch in eine Maschine ein System eingebettet ist, dessen Sicherheitsbauteile bereits einer Konformitätsbewertung durch unabhängige Dritte unterzogen wurde, als sie unabhängig in Verkehr gebracht wurde, sollte diese Maschine nicht allein aufgrund dessen von unabhängigen Dritten neu zertifiziert werden müssen, dass dieses System eingebettet wurde.

(55) Die Bestimmungen dieser Verordnung über die Konformitätsbewertung von Software, die Sicherheitsfunktionen gewährleistet, durch unabhängige Dritte sollten nur für Systeme mit vollständig oder teilweise selbstentwickelndem Verhalten unter Verwendung von Ansätzen des maschinellen Lernens, die Sicherheitsfunktionen gewährleisten, gelten. Dagegen sollten diese Bestimmungen nicht für Software gelten, die weder lern- noch weiterentwicklungsfähig ist und nur für die Ausführung bestimmter automatisierter Funktionen von Maschinen oder dazugehörigen Produkten programmiert ist."

Die EU-MVO legt u.a. in Anhang III, Nr. 1.2.1 zum Thema selbst entwickelnde Systeme fest:

"Steuerungssysteme für Maschinen oder dazugehörige Produkte, deren Verhalten oder Logik sich vollständig oder teilweise selbst entwickelt und die für einen in wechselndem Maße autonomen Betrieb ausgelegt sind, müssen so konzipiert und gebaut sein, dass

a) sie nicht dazu führen, dass Maschinen oder dazugehörige Produkte Handlungen ausführen, die über ihre festgelegte Aufgabe und ihren festgelegten Bewegungsbereich hinausgehen;

b) [...]"

Siehe hierzu auch der Überblick über die neue KI-Verordnung auf der Webseite von TaylorWessing:

Überblick über die KI-Verordnung der EU (AI Act)