Ein Sicherheitsbauteil ist ein „Bestandteil eines Produkts oder KI‑Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI‑System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet (Artikel 3 Nr. 14 KI-VO).
Kernmerkmale der Definition #
Zwei Bedingungen können ein Produkt oder KI-System zu einem Sicherheitsbauteil machen.
Bedingung A: Die Erfüllung einer Sicherheitsfunktion
oder
Bedingung B: Ein Fehlverhalten, das zu einer Gefährdung von Personen oder Eigentum führt.
Es genügt, dass eine der beiden Bedingungen erfüllt ist, damit ein Bestandteil eines Produkts oder ein KI-System als Sicherheitsbauteil im Sinne der KI-VO gelten kann.
Ein Sicherheitsbauteil kann ein KI-System zu einem Hochrisiko-KI-System machen #
Die KI-VO verwendet den Begriff „Sicherheitsbauteil“ nicht nur definitorisch, sondern auch als Einstufungskriterium für Hochrisiko-KI-Systeme.
Fall 1: Teil eines Produkts, das unter EU-Harmonisierungsrechtsvorschriften fällt #
Ein KI-System ist nach Art. 6 Abs. 1 KI-VO insbesondere dann hochriskant, wenn es als Sicherheitsbauteil eines Produkts verwendet werden soll, das unter die in Anhang I genannten Harmonisierungsrechtsvorschriften der Union fällt, und wenn dieses Produkt oder das KI-System selbst einer Konformitätsbewertung durch Dritte unterliegt.
Dazu muss man wissen, dass in Anhang I der KI-VO eine Reihe von Harmonisierungsrechtsvorschriften der Union aufgelistet werden, wie zum Beispiel die die Richtlinie 2014/33/EU über Aufzüge und Sicherheitsbauteile für Aufzüge oder die Richtlinie 2014/34/EU für Geräte und Schutzsysteme in explosionsgefährdeten Bereichen.
Diese Liste wird immer wieder aktualisiert.
Verschiedene Definitionen von Sicherheitsbauteil treffen aufeinander #
Problematisch für die Anwendung dieser Bestimmung ist, dass die einige der in Anhang I der KI-VO aufgelisteten Harmonisierungsvorschriften ebenfalls den Begriff des Sicherheitsbauteils definieren und dass diese Definitionen nicht zwingend der der KI-VO entsprechen.
Beispiel aus der MVO #
In Art. 3, Nr. 3 MVO wird der Begriff des Sicherheitsbauteils definiert. In Anhang II der MVO wird eine nicht „erschöpfende Liste“ der Sicherheitsbauteile aufgeführt und Nr. 18 dieser Liste ist wiederum „Software, die Sicherheitsfunktionen wahrnimmt“. Ein KI-System ist aber nach KI-VO auch dann ein Sicherheitsbauteil, wenn es nicht Sicherheitsfunktionen wahrnimmt, sondern auch dann, wenn sein Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet.
Immer konkrete Prüfung #
Ob ein konkretes KI-System oder KI-Modul in einem bestimmten Produkt tatsächlich als Sicherheitsbauteil einzustufen ist, muss somit regelmäßig im Zusammenspiel mit dem jeweils einschlägigen Produktsicherheitsrecht geprüft werden. Das gilt insbesondere bei Maschinen, Aufzügen, Medizinprodukten oder anderen harmonisierten Produktgruppen.
Bei Widersprüchen im Hinblick auf die Einstufung eines KI-Systems dürften allerdings die Regelungen der KI-VO vorgehen. Sie dürfte meistens die spezielle Regelung sein (lex specialis).
Fall 2: KI-Systeme in Kritischer Infrastruktur #
Der Einsatz in bestimmen Bereichen kann aus einem KI-System ein Hochrisiko-KI-System machen. Diese Bereiche werden in Anhang III der KI-VO aufgezählt. Bei der Kritische Infrastruktur (Anhang III, Nr. 2 der KI-VO) spielt die Einstufung der KI-Systeme als Sicherheitsbauteil eine Rolle.
Demnach gelten „KI-Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen“ als Hochrisiko-KI-Systeme.
Im Erwägungsgrund 55 (ErwG) geben Rat und Parlament der EU eine weitere Definiton:
„Was die Verwaltung und den Betrieb kritischer Infrastruktur anbelangt, so ist es angezeigt, KI-Systeme, die als Sicherheitsbauteile für die Verwaltung und den Betrieb kritischer digitaler Infrastruktur gemäß Nummer 8 des Anhangs der Richtlinie (EU) 2022/2557, des Straßenverkehrs sowie für die Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen, als hochriskant einzustufen, da ihr Ausfall oder ihre Störung in großem Umfang ein Risiko für das Leben und die Gesundheit von Personen darstellen und zu erheblichen Störungen bei der normalen Durchführung sozialer und wirtschaftlicher Tätigkeiten führen kann.“
Somit sind „Sicherheitsbauteile kritischer Infrastruktur, einschließlich kritischer digitaler Infrastruktur“, „Systeme, die verwendet werden, um die physische Integrität kritischer Infrastruktur oder die Gesundheit und Sicherheit von Personen und Eigentum zu schützen, die aber nicht notwendig sind, damit das System funktioniert“.
Ausfälle oder Störungen solcher Komponenten können zu Risiken für die physische Integrität kritischer Infrastruktur und somit zu Risiken für die Gesundheit und Sicherheit von Personen und Eigentum führen.
Soweit, so vorhersehbar. Wann genau ein KI-System „notwendig“ ist, damit das System funktioniert muss wohl auch im Einzelfall definiert werden.
Komponenten zu Zwecken der Cybersicherheit in Kritischer Infrastruktur sollen keine Sicherheitsbauteile sein #
In ErwG 55 geht es noch weiter: „Komponenten, die für die ausschließliche Verwendung zu Zwecken der Cybersicherheit vorgesehen sind, sollten nicht als Sicherheitsbauteile gelten“. Hier ist Interpretationsaufwand notwendig. Es steht zu vermuten, dass die EU Komponenten zu Zwecken der Cybersicherheit anderweitig regulieren will, etwa in der NIS-2-Richtlinie. Die EU will doppelte Regulierungen vermeiden.
Am Ende von ErwG 55 nennt die EU noch Beispiele von Sicherheitsbauteilen der „Kritischen Infrastruktur“, dazu zählen demnach „Systeme für die Überwachung des Wasserdrucks oder Feuermelder-Kontrollsysteme in Cloud-Computing-Zentren“.
