Gesetz zur künstlichen Intelligenz (AI Act) - EU-Politik

Hintergrundinformation und Zielsetzung

Das Gesetz ist eine legislative Maßnahme, die entwickelt wurde, um den Einsatz und die Entwicklung von künstlicher Intelligenz in der EU zu regulieren. Es zielt darauf ab, ethische Standards zu etablieren und das Vertrauen der Bürger in KI-basierte Systeme zu stärken. Die Verhandlungen liefen über 2 Jahre. Knackpunkt bei den Verhandlungen war die Balance zwischen Innovation und Regulierung. Der Rechtsrahmen wird sowohl für öffentliche als auch für private Akteure innerhalb und außerhalb der EU gelten, sofern das KI-System in der Union in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind. Er erfasst sowohl Anbieter*innen als auch Nutzer von KI-Systemen.

Das Gesetz basiert auf mehreren Schlüsselprinzipien, darunter:

  • Menschliche Kontrolle: KI-Systeme sollten von Menschen gesteuert werden und ihnen dienen.
  • Transparenz: Es soll klar sein, wann und wie KI-Systeme verwendet werden.
  • Verantwortung: Diejenigen, die KI-Systeme entwickeln oder einsetzen, sind für deren Auswirkungen verantwortlich.
  • Datenschutz und Privatsphäre: Schutz personenbezogener Daten ist von großer Bedeutung.

Die EU wird KI-Anwendungsfelder in vier Risikoklassen einteilen: niedrig, mittel, hoch und inakzeptabel. Als "inakzeptabel" eingestuft (und damit verboten) werden nur wenige Systeme, etwa "Social Scoring", um eine Bewertung von Menschen durch den Staat nach chinesischem Vorbild zu verhindern. Relevant ist vor allem die Anwendung in Hochrisikobereichen. Dazu gehören beispielhaft biometrische Identifizierung, Verwaltung von kritischen Infrastrukturen, Bildung, Arbeitnehmermanagement, Gewährung von öffentlichen Dienstleistungen, Auslegung von Gesetzen, Rechtsdurchsetzung, Asyl und Grenzkontrollen. Dem Vorschlag beigefügt ist eine Liste der KI-Systeme mit hohem Risiko. Diese Liste kann überarbeitet werden, um sie an die Entwicklung der KI-Anwendungsfälle anzupassen.

Vorgeschrieben werden auch Risikomanagement-Systeme, die kontinuierlich aktualisiert werden müssen. Außerdem gibt es Vorgaben für die Trainingsdaten und für die technische Dokumentation. Sie müssen ausreichend transparent sein, damit die Nutzer*innen die Ergebnisse interpretieren können. Des Weiteren müssen sie eine menschliche Aufsicht ermöglichen, inklusive einer "Stopptaste".

Aktueller Stand und nächste Schritte

Am 8. Dezember 2023 erzielten das Europäische Parlament (EP) und der Rat nach intensiven Verhandlungen eine politische Einigung über das KI-Gesetz. Es gab bis zuletzt Spannungen zwischen EP und Rat (Deutschland, Frankreich, Italien) im Bereich der "Foundation models" (Basismodelle). In finalen Verhandlungen wurde erwogen, jegliche verbindliche Regulierung fallen zu lassen, die explizit auf Grundlagenmodelle abzielt. Als Lösung wurde vorgeschlagen, aufstrebende Anbieter*innen von kleineren Grundlagenmodellen unter weniger strenge Regulierung fallen zu lassen. Umfangreichere Regulierungslast würde nur von den Anbieter*innen der größten Modelle getragen werden - internationalen Tech-Giganten mit Ressourcen für wirksame Compliance.

Ein weiterer großer Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Der Gesetzesentwurf des Parlaments verbietet KI-Anwendungen wie eine automatisierte Gesichtserkennung. Einige Mitgliedstaaten wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Die Einigung sieht Beschränkungen für die Nutzung biometrischer Identifizierungssysteme durch die Strafverfolgungsbehörden vor. Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden.

Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer*innen durch KI vor. Verbraucher*innen sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Geldstrafen für Verstöße sollen zwischen 7,5 und 35 Millionen Euro liegen.

Nach der politischen Einigung am 8. Dezember 2023 haben die federführenden Ausschüsse im EU-Parlament das Verhandlungsergebnis bestätigt. Der Rat hatte bereits im Januar grünes Licht gegeben. Nun steht noch die formale Annahme des AI Act aus. Seine Veröffentlichung im Amtsblatt wird voraussichtlich im Sommer 2024 erfolgen. 24 Monate später wird der AI Act gelten.

Positionierung Wiens

Im Sinne des Digitalen Humanismus setzt sich die Stadt Wien dafür ein, dass neue Technologien und KI werteorientiert gestaltet werden und die Bedürfnisse der Menschen im Mittelpunkt stehen. Bereits im Jahr 2019 hat die Stadt Wien gemeinsam mit dem Wiener Wissenschafts- und Technologiefonds (WWTF) und dem Dekan der Fakultät für Informatik der TU Wien, Hannes Werthner, einen internationalen Workshop zu Digitalem Humanismus initiiert. Forscher*innen verschiedenster Disziplinen, angereist aus vielen Teilen der Welt, verabschiedeten das "Wiener Manifest für Digitalen Humanismus". Es beschreibt, wie Informationstechnologie menschlichen Werten und Bedürfnissen gerecht werden kann. Dieses Manifest wurde im Rahmen der Verhandlungen zum KI-Gesetz an den Bund übermittelt.

In Sinne des Digitalen Humanismus hat Wien mit Oberösterreich auch eine Gemeinsame Länderstellungnahme erstellt und diese in die Verhandlungen auf EU-Ebene eingebracht. Grundsätzlich wurde der Verordnung-Vorschlag zur Regulierung von KI begrüßt, aber einige unklare Begriffe wie zum Beispiel "risikoreich" und "unverzüglich", wurden bemängelt. Weiters wurden die unklare Regelung bei der Zertifizierung (reicht interne Kontrolle?), das fehlende Opt-out bei hochriskanten Technologien sowie potenzielle Datenschutzprobleme (vor allem bei Reallaboren) kritisiert. Es wurde auch auf die Problematik hingewiesen, dass zu viele Ausnahmetatbestände für biometrische Identifizierungsverfahren geschaffen wurden, sowohl für private Betreiber*innen als auch für staatliche Behörden für Strafverhütungs- und -verfolgungszwecke.

Weitere Informationen

Verantwortlich für diese Seite:
Stadt Wien | Europäische Angelegenheiten
Kontaktformular