EU-Gesetz zur künstlichen Intelligenz

AI steht für Artificial Intelligence. Auf Deutsch heißt das Künstliche Intelligenz und wird mit KI abgekürzt. Es ist der weltweit erste länderübergreifende Rechtsakt dieser Art und könnte damit einen globalen Standard für die Regulierung von KI setzen.

Ziel

Das EU-Gesetz zur künstlichen Intelligenz zielt darauf ab, die Nutzung von KI in der EU zu regeln. Es bezieht sich auf KI-Systeme, die in der EU verwendet werden bzw. von der EU aus betrieben werden.

Es soll sichergestellt werden, dass KI-Systeme möglichst sicher, transparent, nichtdiskriminierend, nachvollziehbar und umweltfreundlich sind. Gleichzeitig sollen sichere und vertrauenswürdige Entwicklungen gestärkt und gefördert werden.

Risiko-basierter Ansatz

Je höher das Risiko, das von der KI für die Gesellschaft ausgeht, desto strenger sind die Regeln.

Weiters sieht der AI Act neben

umfassenden Informationspflichten an Personen, die einem KI-System ausgesetzt sind sowie
Risikomanagement- und Qualitätsmanagementsysteme
Anforderungen an die Datenqualität
Kennzeichnungspflicht
Menschlicher Aufsicht über Hochrisiko KI-Systeme

weitere Vorgaben je nach Risiko des KI-Systems vor.

Grundrechtschutz

Ein bedeutender Pfeiler des AI Acts ist der inkludierte Grundrechtsschutz.

Geschützt werden etwa Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation. Es ist verboten, die Vulnerabilität oder Schutzbedürftigkeit dieser Personengruppen so auszunutzen, dass dabei ein erheblicher Schaden entsteht.

Weiters müssen Hochrisiko-KI-Systeme die Barrierefreiheitsanforderungen gemäß European Accessibility Act – EAA erfüllen.

Verbote

Manches wird ganz verboten:

kognitive Verhaltensmanipulation (unterschwellige Beeinflussung außerhalb des Bewusstseins sowie absichtliche Manipulationen und Täuschungen)
Social Scoring (Personen auf der Grundlage ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale zu bewerten und im Ergebnis schlechter zu stellen)
KI für die präventive Polizeiarbeit auf Grundlage von Profiling und Systemen, die biometrische Daten verwenden, um Menschen nach bestimmten Kategorien wie Rasse, Religion oder sexueller Orientierung zu kategorisieren.

Ausnahmen

Nicht alle müssen sich an den AI Act halten: Die Ausnahmen werden im AI Act aufgezählt. Entwicklungen für die wissenschaftliche Forschung und Entwicklung sind zum Beispiel nicht an den AI Act gebunden.

Wie geht es weiter?

Nach der Unterzeichnung durch die Präsident*innen des Europäischen Parlaments und des Rates wird der Rechtsakt in den kommenden Tagen im Amtsblatt der EU veröffentlicht und tritt zwanzig Tage nach dieser Veröffentlichung in Kraft. Die neue Verordnung wird, abgesehen von einigen spezifischen Bestimmungen, zwei Jahre nach ihrem Inkrafttreten in Österreich unmittelbar anwendbar sein.