Im April hat die EU-Kommission den weltweit ersten Rechtsrahmen für Künstliche Intelligenz (KI) vorgelegt. Ziel ist es, Europa als globales Zentrum für vertrauenswürdige KI zu etablieren. Der Rechtsrahmen soll einerseits den Schutz von Sicherheit, Lebensgrundlagen und der Rechte von Menschen in Europa gewährleisten. Andererseits ermöglicht er eine Beschleunigung der Investitionen in KI-Techniken unter Wahrung der europäischen Werte und Regeln. Dabei soll das Vertrauen in die Verfahren der Künstlichen Intelligenz gestärkt werden und eine nachhaltige, auf die Menschen ausgerichtete, sichere und inklusive Entwicklung gestärkt werden.
Unterschieden wird in dem Rechtsrahmen zwischen den folgenden vier Kategorien:
1. Unannehmbares Risiko
Wenn KI-Systeme die Sicherheit, Lebensgrundlage oder die Rechte von Menschen verletzen, werden diese verboten. Dies beinhaltet Systeme, die menschliches Verhalten manipulieren oder Systeme, die eine Bewertung des sozialen Verhaltens durch Behörden ermöglichen
2. Hohes Risiko
KI-Techniken die u.a. in den Bereichen kritische Infrastruktur, Schul- und Berufsausbildung, Sicherheitskomponenten von Produkten, Strafverfolgung, Migration/Asyl/Grenzkontrolle eingesetzt werden, gelten strenge Vorgaben, die erfüllt sein müssen, bevor die Anwendungen auf den Markt gebracht werden dürfen.
3. Geringes Risiko
Für KI-Systeme die ein geringes Risiko darstellen gelten besondere Transparenzverpflichtungen, so dass Nutzer sich bspw. darüber im Klaren sind, ob sie mit einem Bot oder einem Menschen kommunizieren.
4. Minimales Risiko
Für diese Kategorie sieht das Rahmenwerk keine Eingriffe vor. Sie gilt z.B. für KI-gestützte Videospiele und Spamfilter.
Das Regelwerk beinhaltet zudem ein Konzept für Exzellenz in der Künstlichen Intelligenz vor, das eine Förderung der Innovationen bei der Entwicklung und Nutzung von KI-Techniken in allen Wirtschaftszweigen der Mitgliedsstaaten vorsieht. Zudem sorgt die neue Maschinenverordnung für eine sichere Integration von KI-Systemen in den gesamten Maschinenpark.
Dieser Rechtsrahmen für Künstliche Intelligenz wurde nun vom TÜV AI Lab kritisch geprüft. Insbesondere die Risikoklassifizierung von Anwendungen mit Künstlicher Intelligenz haben sich die Prüfer ausführlich vorgenommen und einen Vorschlag entwickelt, wie die Vorgaben der EU konkreter und allgemein gültig umgesetzt werden können.
Die Ausführungen des TÜV AI Lab sind in diesem Whitepaper zusammengestellt: Vorschlag für eine Risikoklassifizierung von KI-Systemen
Weitere spannende Informationen zum Thema Risikomanagement finden Sie hier.