Erwägungsgründe zu Systemen mit selbstentwickelndem Verhalten

"(12) In jüngster Zeit wurden fortschrittlichere Maschinen auf den Markt gebracht, die weniger abhängig von menschlichen Bedienern sind. Derartige Maschinen arbeiten an definierten Aufgaben und in strukturierten Umgebungen, können jedoch lernen, in diesem Kontext neue Tätigkeiten auszuführen und autonomer zu werden. Weitere, bereits vorhandene oder zu erwartende Verbesserungen von Maschinen umfassen die Informationsverarbeitung in Echtzeit, die Problemlösung, die Beweglichkeit, Sensorsysteme, das Lernen, die Anpassungsfähigkeit und die Fähigkeit, in unstrukturierten Umgebungen (zum Beispiel auf Baustellen) zu arbeiten. In dem Bericht der Kommission vom 19. Februar 2020 über die Auswirkungen von künstlicher Intelligenz, des Internets der Dinge und der Robotik auf die Sicherheit und Haftung wird festgestellt, dass die Entstehung neuer digitale Technologien, wie künstliche Intelligenz, das Internet der Dinge und die Robotik, neue Herausforderungen in Bezug auf die Produktsicherheit mit sich bringt. In dem Bericht wird die Schlussfolgerung gezogen, dass die aktuelle Gesetzgebung zur Produktsicherheit, einschließlich der Richtlinie 2006/42/EG, in dieser Hinsicht eine Reihe von Lücken enthält, die geschlossen werden müssen. Daher sollte diese Verordnung die Sicherheitsrisiken abdecken, die sich aus neuen digitalen Technologien ergeben."

"(54) Die Liste der Produkte in Anhang IV der Richtlinie 2006/42/EG basierte bisher auf dem Risiko, das von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung dieser Produkte oder von ihrer kritischen Schutzfunktion ausgeht. Es gibt jedoch im Maschinensektor neue Möglichkeiten für die Konstruktion und den Bau von Maschinen oder dazugehörigen Produkten, die unabhängig von der bestimmungsgemäßen Verwendung oder einer vernünftigerweise vorhersehbaren Fehlanwendung höhere Risikofaktoren mit sich bringen könnten. So sollten beispielsweise Systeme mit selbstentwickelndem Verhalten, die Sicherheitsfunktionen gewährleisten, aufgrund ihrer Merkmale wie Datenabhängigkeit, Undurchsichtigkeit, Autonomie und Konnektivität, die die Wahrscheinlichkeit und Schwere von Schäden sehr stark erhöhen und die Sicherheit der Maschine oder des dazugehörigen Produkts ernsthaft beeinträchtigen könnten, in Anhang I aufgenommen werden. Daher sollte die Konformitätsbewertung eines Sicherheitsbauteils oder eines Systems mit selbstentwickelndem Verhalten, das Sicherheitsfunktionen gewährleistet, von unabhängigen Dritten durchgeführt werden, unabhängig davon, ob das Sicherheitsbauteil unabhängig in Verkehr gebracht wurde oder Teil eines in eine Maschine eingebetteten Systems ist, das in Verkehr gebracht wird. Wenn jedoch in eine Maschine ein System eingebettet ist, dessen Sicherheitsbauteile bereits einer Konformitätsbewertung durch unabhängige Dritte unterzogen wurde, als sie unabhängig in Verkehr gebracht wurde, sollte diese Maschine nicht allein aufgrund dessen von unabhängigen Dritten neu zertifiziert werden müssen, dass dieses System eingebettet wurde."