Ein Sicherheitsbauteil ein „Bestandteil eines Produkts oder KI‑Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI‑System
erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet (Artikel 3 Nr. 14 KI-VO).   

Kernmerkmale der Definition

Zwei Bedingungen können ein Produkt oder KI-System zu einem Sicherheitsbauteil machen.  

Bedingung A: Die Erfüllung einer Sicherheitsfunktion 

oder 

Bedingung B: Ein Fehlverhalten, das zu einer Gefährdung von Personen
oder Eigentum führt.  

Es genügt, dass eine der beiden Bedingungen erfüllt ist, damit
ein Bestandteil eines Produkts oder ein KI-System als Sicherheitsbauteil im
Sinne der KI-VO gelten kann.  

Ein Sicherheitsbauteil kann ein KI-System zu einem Hochrisiko-KI-System
machen 

Die KI-VO verwendet den Begriff „Sicherheitsbauteil“ nicht
nur definitorisch, sondern auch als Einstufungskriterium für
Hochrisiko-KI-Systeme.  

Fall 1: Teil eines Produkts, das unter EU-Harmonisierungsrechtsvorschriften
fällt 

Ein KI-System ist nach Art. 6 Abs. 1 KI-VO insbesondere dann
hochriskant, wenn es als Sicherheitsbauteil eines Produkts verwendet werden
soll, das unter die in Anhang I genannten Harmonisierungsrechtsvorschriften der
Union fällt, und wenn dieses Produkt oder das KI-System selbst einer
Konformitätsbewertung durch Dritte unterliegt. 

Dazu muss man wissen, dass in Anhang I der KI-VO eine Reihe
von Harmonisierungsrechtsvorschriften der Union aufgelistet werden, wie zum Beispiel
die die Richtlinie 2014/33/EU über Aufzüge und Sicherheitsbauteile für Aufzüge
oder die Richtlinie 2014/34/EU für Geräte und Schutzsysteme in
explosionsgefährdeten Bereichen.  

Diese Liste wird immer wieder aktualisiert.  

Verschiedene Definitionen von Sicherheitsbauteil treffen
aufeinander 

Problematisch für die Anwendung dieser Bestimmung ist, dass
die einige der in Anhang I der KI-VO aufgelisteten Harmonisierungsvorschriften
ebenfalls den Begriff des Sicherheitsbauteils definieren und dass diese Definitionen
nicht zwingend der der KI-VO entsprechen.  

Beispiel aus der MVO 

In Art. 3, Nr. 3 MVO wird der Begriff des Sicherheitsbauteils
definiert. In Anhang II der MVO wird eine
nicht „erschöpfende Liste“ der Sicherheitsbauteile aufgeführt und Nr. 18 dieser
Liste ist wiederum „Software, die Sicherheitsfunktionen wahrnimmt“. Ein KI-System
ist aber nach KI-VO auch dann ein Sicherheitsbauteil, wenn es nicht Sicherheitsfunktionen
wahrnimmt, sondern auch dann, wenn sein Ausfall oder Störung die Gesundheit und
Sicherheit von Personen oder Eigentum gefährdet.  

Immer konkrete Prüfung 

Ob ein konkretes KI-System oder KI-Modul in einem bestimmten
Produkt tatsächlich als Sicherheitsbauteil einzustufen ist, muss somit regelmäßig
im Zusammenspiel mit dem jeweils einschlägigen Produktsicherheitsrecht geprüft
werden. Das gilt insbesondere bei Maschinen, Aufzügen, Medizinprodukten oder
anderen harmonisierten Produktgruppen. 

Bei Widersprüchen im Hinblick auf die Einstufung eines KI-Systems
dürften allerdings die Regelungen der KI-VO vorgehen. Sie dürfte meistens die
spezielle Regelung sein (lex specialis).  

 Fall 2: KI-Systeme
in Kritischer Infrastruktur   

Der Einsatz in bestimmen Bereichen kann aus einem KI-System
ein Hochrisiko-KI-System machen. Diese Bereiche werden in Anhang III der KI-VO
aufgezählt. Bei der Kritische Infrastruktur (Anhang III, Nr. 2 der KI-VO) spielt
die Einstufung der KI-Systeme als Sicherheitsbauteil eine Rolle.  

Demnach gelten „KI-Systeme, die bestimmungsgemäß als
Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer
digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme-
oder Stromversorgung verwendet werden sollen“ als Hochrisiko-KI-Systeme.   

Im Erwägungsgrund 55 (ErwG) geben Rat und Parlament der EU
eine weitere Definiton:   

„Was die Verwaltung und den Betrieb kritischer Infrastruktur
anbelangt, so ist es angezeigt, KI-Systeme, die als Sicherheitsbauteile für die
Verwaltung und den Betrieb kritischer digitaler Infrastruktur gemäß Nummer 8
des Anhangs der Richtlinie (EU) 2022/2557, des Straßenverkehrs sowie für die
Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen, als
hochriskant einzustufen, da ihr Ausfall oder ihre Störung in großem Umfang ein
Risiko für das Leben und die Gesundheit von Personen darstellen und zu
erheblichen Störungen bei der normalen Durchführung sozialer und
wirtschaftlicher Tätigkeiten führen kann.“  

Somit sind „Sicherheitsbauteile kritischer Infrastruktur,
einschließlich kritischer digitaler Infrastruktur“, „Systeme, die verwendet
werden, um die physische Integrität kritischer Infrastruktur oder die
Gesundheit und Sicherheit von Personen und Eigentum zu schützen, die aber nicht
notwendig sind, damit das System funktioniert“.  

Ausfälle oder Störungen solcher Komponenten können zu
Risiken für die physische Integrität kritischer Infrastruktur und somit zu
Risiken für die Gesundheit und Sicherheit von Personen und Eigentum führen.  

Soweit, so vorhersehbar. Wann genau ein KI-System „notwendig“
ist, damit das System funktioniert muss wohl auch im Einzelfall definiert werden.
 

Komponente zu Zwecken der Cybersicherheit in Kritischer Infrastruktur
keine Sicherheitsbauteile 

In ErwG 55 geht es noch weiter: „Komponenten, die für die
ausschließliche Verwendung zu Zwecken der Cybersicherheit vorgesehen sind,
sollten nicht als Sicherheitsbauteile gelten“. Hier ist Interpretationsaufwand
notwendig. Es steht zu vermuten, dass die EU Komponenten zu Zwecken der Cybersicherheit
anderweitig regulieren will, etwa in der NIS-2-Richtlinie. Die EU will doppelte
Regulierungen vermeiden.  

Am Ende von ErwG 55 nennt die EU noch Beispiele von
Sicherheitsbauteilen der „Kritischen Infrastruktur“, dazu zählen demnach „Systeme
für die Überwachung des Wasserdrucks oder Feuermelder-Kontrollsysteme in
Cloud-Computing-Zentren“.  

Die KI-VO teilt KI-Systeme in verschiedene Risikokategorien ein. Je höher das Risiko, desto gravierender fallen die Verpflichtungen bei Verwendung oder Entwicklung eines KI-Systems aus. Grund: Die KI-VO beruht auf einem risikobasierten Ansatz. 

KI-Systeme mit geringem Risiko unterliegen nur wenigen Auflagen. 

Betreiber von KI-Systemen mit geringem Risiko müssen dafür sorgen, dass die Beschäftigten, die nötige KI-Kompetenz im Umgang mit dem KI-System haben (Art. 4 KI-VO). Sie können zudem einen freiwilligen KI-Verhaltenskodex beachten.

Die KI-VO definiert allerdings nicht, was ein „geringes“ oder „minimales“ Risiko ist. Dies wird vielmehr in einem Ausschlussverfahren bestimmt. Wenn ein KI-System keine Hochrisiko-System ist und wenn keine verbotenen Praktiken nach Art. 9 KI-VO eingesetzt werden, dann weist das KI-System ein minimales, vielleicht noch ein „begrenztes“ Risiko auf. 

Die Zuordnung zu der Kategorie der Hochrisiko-Systeme erfolgt durch Listen. Beispielsweise, wenn ein KI-System in einem der in Anhang III der KI-VO aufgelisteten Bereiche eingesetzt wird, ist es ein Hochrisiko-KI-System. Das gleiche gilt wenn es oder ein Produkt, dessen Bestandteil das KI-System ist, unter die in Anhang I aufgelisteten EU-Harmonisierungsrechtsvorschriften fällt.

KI-Systeme mit geringem Risiko sind z. B. KI-gestützte Rechtschreibprüfung, Spam-Filter, einfache KI-gestützte Sortierung von Dokumenten ohne personenbezogene Auswertung.