Nach 38 Stunden Verhandlungen an drei aufeinanderfolgenden Tagen haben die Verhandlungspartner:innen des Europäischen Parlaments und des Rats der Europäischen Union vergangene Woche in der Nacht auf Samstag eine politische Einigung zum Gesetz über künstliche Intelligenz (AI Act) erzielt. Das Gesetz stellt damit das erste umfassende Regelwerk für die Nutzung von KI in der EU dar und sucht auch sonst noch weltweit seinesgleichen.
Den Anstoß für den AI Act leiferte bereits im April 2021 ein entsprechender Vorschlag der Europäischen Kommission, um die Nutzung von KI-System im europäischen Raum sicher zu gestalten und die Grundrechte der Europäer:innen zu schützen. Geeinigt haben sich Rat und Parlament nun auf einen risikobasierten Ansatz beim Umgang mit KI, Systeme werden also künftig drei Risikogruppen zugeteilt.
Für Systeme, die als hochriskant eingestuft werden, gelten künftig strengere Regelungen in Sachen Risikomanagement, Transparenz und Cybersicherheit. Es soll genau dokumentiert werden, wie die KI-Modelle trainiert und getestet werden, um nachzuverfolgen, ob urheberrechtliche Regelungen eingehalten wurden.
An Systeme, die nur ein minimales Risiko für die Sicherheit der Bürger:innen aufweisen, darunter fallen beispielsweise Spam-Filter oder Videospiele, werden keine Anforderungen gestellt.
Per se verboten werden KI-Systeme, deren Risiko als unannehmbar eingestuft wird. Dazu zählen jene Systeme, die in der Lage sind menschliches Verhalten zu manipulieren oder ungezielte biometrische Erkennung aus dem Internet und über Überwachungskameras ermöglichen. Die Zulassung von biometrischer Identifizierung im öffentlichen Raum wird nur in Notfallsituationen erlaubt, wenn nach einer bestimmten Person gesucht wird und nur dann, wenn eine Gefahr für Leib und Leben besteht. Ebenso verboten ist das aus China bekannte Social Scoring, mit dem die Vertrauenswürdigkeit einer Person beurteilt wird. Dies gilt als unvereinbar mit den europäischen Werten.
Um einheitliche Standards zu gewährleisten und nationale Alleingänge zu vermeiden, wird innerhalb der EU-Kommission eine spezielle KI-Behörde eingerichtet, die eine Schlüsselrolle bei der Überwachung und Durchsetzung der KI-Regelungen spielen wird.
Insgesamt demonstriert die KI-Verordnung ein klares Bekenntnis zu einem verantwortungsbewussten und ethisch vertretbaren Umgang mit einer der entscheidensten Technologien unserer Zeit – und wird deshalb allgemein als begrüßenswert bezeichnet. Allerdings kam auch Kritik an den strengeren Regeln von großen Mitgliedstaaten wie Frankreich und Deutschland, die eine Bremsung von Innovationen befürchten. Insbesondere für Start-Ups könnte die Umsetzung der Dokumentationspflichten schwieriger zu bewerkstelligen sein, als für große Unternehmen wie beispielsweise OpenAI.
In den kommenden Wochen werden die technischen Details der Verordnung genauer erarbeitet und Rat und Parlament müssen den AI Act, wenn auch nur pro forma, offiziell annehmen. Bis das Gesetz dann schlussendlich Geltung erlangt, werden laut Einigung noch zwei Jahre vergehen.