Bei sensiblen Daten

EU will KI-Anwendung ab 2025 strikt regulieren

(Bild: Blue Planet Studio - stock.adobe.com)

Die EU regelt erstmals den Einsatz von Künstlicher Intelligenz (KI), etwa im Umgang mit Kunden- oder Patientendaten sowie im Bereich der Strafverfolgung. Für Dienstag ist beim EU-Ministerrat für Telekommunikation in Brüssel die „Annahme einer vorläufigen Ratsposition“ zum bisher erarbeiteten Text-Vorschlag geplant. Nach weiteren politischen Prozessen soll die Verordnung ab 2025 zur Anwendung kommen.

„Der Artificial Intelligence Act (kurz AI Act, Anm.) ist die erste rechtliche Regelung von Künstlicher Intelligenz, die weltweit aktuell verhandelt wird“, erläuterteDigitalisierungs-Staatssekretär Florian Tursky (ÖVP) bei einem Hintergrundgespräch in Wien. Dabei betreffe der Einsatz von KI-Systemen schon heute viele Bereiche des täglichen Lebens.

Der Staatssekretär verwies etwa auf Empfehlungen auf Online-Plattformen wie Amazon oder Netflix aufgrund eigener und anderer Nutzerverhalten, auf die Erfassung und Analyse von Gesichtsdaten oder auch auf KI-Anwendungen zur Diagnose und Behandlung von Krankheiten. Acht Prozent aller Unternehmen in Europa verwenden bereits KI-Technologien, Österreich sei mit knapp unter zehn Prozent im Mittelfeld.

Strikte Regeln bei Systemen mit „hohem Risiko“
„Natürlich bergen diese KI-Systeme auch Risiken“, sagte Tursky. In dem Verordnungsentwurf werden daher KI-Anwendungsbereiche in vier Kategorien unterteilt. Jene mit „unannehmbarem Risiko“ werden verboten, für jene fünf bis 15 Prozent mit „hohem Risiko“ brauche es sehr starke Auflagen, und für jene mit „geringem Risiko“ hohe Transparenzvorschriften, wurde erläutert. Den Großteil der Anwendungen stellen Systeme mit minimalem Risiko dar. Für diese gelte die freie Anwendung auf Basis der bestehenden Rechtslage.

Florian Tursky, Staatssekretär für Digitalisierung und Breitband

(Bild: APA/HANS PUNZ)

In den Hochrisiko-Bereich fallen beispielsweise die Bewertung der Kreditwürdigkeit von natürlichen Personen oder die Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen. Auch die Auswahl und Einstellung von Personen in Unternehmen sowie Entscheidungen über die Beförderungen oder Kündigungen von Mitarbeiterinnen und Mitarbeitern sollen besonders reglementiert werden. „Es darf nicht sein, dass jemand aufgrund der Bewertung von KI-Systemen keine Kranken- oder Lebensversicherung oder keinen Kredit bekommt“, sagte Tursky. Die KI-Verordnung soll auch nicht über Leben und Tod entscheiden dürfen, etwa ob ein Patient weiterhin künstlich beatmet wird.

„Social Scoring“ soll explizit verboten werden
Gar nicht erlaubt sein soll auch schädliche oder unterschwellige Manipulation sowie „Social Scoring“, also die Bewertung des Verhaltens von Menschen innerhalb einer Gesellschaft, wie dies in China bereits zur Anwendung kommt. Verboten wird laut Tursky weiters die „Echtzeit-Fernidentifikation über Videokameras durch Strafverfolgungsbehörden“, mit Ausnahmen für solche Gesichts- und Bewegungserkennungssysteme etwa nach Terroranschlägen oder in Hochrisikobereichen.

Der AI Act müsse an „wahnsinnig schnelle Entwicklungen“ angepasst werden. Daher werde versucht, „den Rahmen eher allgemein zu halten“. Es sei jedenfalls nicht so, dass bisher alles erlaubt ist, es gebe auch jetzt schon Gesetze, die bestimmte KI-Anwendungen verhindern. Tursky sprach aber von einem „gewissen Wildwuchs“ in dem Bereich. Fragen zur Haftung von KI-Systemen werden im Rechtsakt nicht verankert, dafür wurde kürzlich eine gesonderte KI-Haftungs-Richtlinie vorgelegt.