Bestimmte KI-Systeme bergen nach Ansicht des Europäischen Parlaments und des Rates ein hohes Risiko für die Gesundheit und die Sicherheit von Menschen oder greifen in deren Grundrechte ein. Daher haben Parlament und Rat den Einsatz solcher „Hochrisiko-KI-Systeme“ unter strenge Auflagen gestellt.
Leider gibt es in der KI-Verordnung (KI-VO) der EU keine allgemeingültige Begriffsbestimmung für Hochrisiko-KI-Systeme. Stattdessen werden Systemtypen aufgelistet, die in die Kategorie der Hochrisiko-KI-Systeme fallen. Was mit den Systemtypen gemeint ist, wird meist erst deutlich durch Beispiele.
Hochriskant durch Anwendungsbereich #
Ein hohes Risiko kann durch den Anwendungsbereich entstehen (Art. 6, Abs. 2 KI-VO). In Anhang III der KI-VO werden Einsatzfelder aufgelistet, die die dort verwendete KI-Systeme aus Sicht der KI-VO hochriskant machen.
Einsatzfeld Biometrie #
Biometrische Fernidentifizierungssysteme mit KI-Systemen, deren Zweck darin besteht, zu bestätigen, dass eine bestimmte Person die ist, für die sie sich ausgibt, gelten als hochriskant. Dasselbe trifft auf KI‑Systeme zu, die eine biometrische Kategorisierung nach sensiblen oder geschützten Merkmalen vornehmen oder die zur Emotionserkennung verwendet werden sollen (weitere Details siehe Anhang III, Nr. 1 KI VO).
Einsatzfeld kritische Infrastruktur #
KI‑Systeme, die als Sicherheitsbauteile in kritischer digitaler Infrastruktur verwendet werden, sind per definitionem hochriskant. Beispiele wären der Einsatz von KI, die den Betrieb von Energieversorgern, Wasserwerken oder Verkehrsleitssystemen regelt oder bei der Regelung unterstützt (weitere Details siehe Anhang III, Nr. 2, KI VO). Sicherheitsbauteile nach KI-VO sind Bestandteile eines Produkts oder KI‑Systems, die eine Sicherheitsfunktion für diese Produkte oder KI‑Systeme erfüllen oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet (Art. 3 Nr. 14 KI-VO).
