KI-Verordnung – Ein Überblick

Die verschiedenen KI-Systeme werden in unterschiedliche Risikostufen aufgeteilt. Auf der höchsten Stufe stehen diejenigen Programme, deren Einsätze nicht zu rechtfertigende Eingriffe in die Rechte der Bürger mit sich bringen. Darunter befinden sich Systeme, die das Verhalten von Menschen manipulieren oder auch Bewertungen im Sinne eines „Social Scores“ über das Verhalten von Menschen veranlassen. Solche Anwendungen sind grundsätzlich unzulässig.

Weitere sehr streng regulierte Systeme sind die Hochrisiko-KI-Systeme. Darunter fallen vor allem Systeme, die als Sicherheitskomponenten in Bauteilen von besonders riskanten Maschinen benutzt werden. Auch fallen darunter Systeme, die:

 – zur Asyl- und Grenzkontrolle genutzt werden

– für die Abwicklung demokratischer Prozesse und der Rechtspflege verwendet werden

– zur Ausgestaltung von kritischer Infrastruktur genutzt werden

– im Rahmen der Strafverfolgung angewendet werden und Betroffene in ihren Grundrechten einschränken könnten

– geeignet sein könnten, das Berufsleben von Personen maßgeblich zu beeinträchtigen, indem sie Schul-, Ausbildungs- oder Beschäftigungsdaten nutzen könnten.

Um eine solche KI betreiben zu dürfen, müssen einige Anforderungen erfüllt werden, damit die Risiken der KI-Systeme eingeschränkt werden können. Aufgrund des hohen Risikos werden Anbieter solcher Systeme einer Konformitätsbewertung unterzogen, um zu überprüfen, ob die aufgestellten Mindeststandards eingehalten werden. Wenn die KI die Maßstäbe einhält und dementsprechend die Konformität mit diesen bezeugen kann, wird sie in eine EU-Datenbank eingetragen. Mit dem ausgestellten KI-Zertifikat kann diese dann auf den Markt gebracht werden.

Ein begrenztes Risiko wird für diejenigen KI-Systeme angenommen, die in der Lage sind, Emotionen zu erkennen und mit Menschen zu interagieren. Umgangssprachlich werden diese auch als „Chatbots“ bezeichnet. Anbieter solcher KI-Systeme müssen lediglich Transparenzverpflichtungen beachten, damit die Nutzer erkennen, dass es sich dabei um eine KI handelt.

Künstliche Intelligenzen, die keine Gefahr für die Rechte der Bürger oder für die öffentliche Sicherheit und Ordnung darstellen, fallen unter ein minimales Risiko. Dabei handelt es sich vor allem um Spamfilter oder Werbeblocker. Für solche gelten keine spezifischen Auflagen, die durch die KI-Verordnung entstehen könnten.