EU-Staaten sind für biometrische Überwachung

Die EU-Mitgliedstaaten wollen den Einsatz von Gesichtserkennung und andere Formen der biometrischen Überwachung im öffentlichen Raum bei der Suche nach Straftätern oder Verdächtigen künftig erlauben. Eine vom Ministerrat am 6. Dezember 2022 beschlossene Verhandlungsposition sieht vor, die bereits von der EU-Kommission vorgesehenen Einsatzmöglichkeiten einer Gesichtserkennung im öffentlichen Raum zu erweitern. Das europäische Parlament lehnt diese Überwachungsmaßnahmen noch ab.

Einsatzmöglichkeiten erweitert

In dem vom Rat beschlossenen Verordnungsentwurf (PDF) wird der Einsatz "biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken" weiterhin untersagt. Jedoch gibt es Ausnahmen, wenn dies für bestimmte Zwecke "unbedingt erforderlich" ist, beispielsweise zur Suche nach vermissten Personen. Die EU-Mitgliedstaaten erweiterten nun die von der Kommission vorgesehenen Ausnahmen. Demnach soll der Einsatz zum "Abwenden einer konkreten und erheblichen Gefahr für kritische Infrastrukturen sowie für das Leben, die Gesundheit oder die körperliche Unversehrtheit natürlicher Personen oder Verhinderung von Terroranschlägen" zulässig sein. Dabei fügte der Ministerrat die Gefährdung kritischer Infrastrukturen hinzu.

Kein Social Scoring

KI-Systeme, die Menschen manipulieren und sie oder andere körperlich oder psychisch schädigen könnten, sind verboten. Diese Systeme dürfen auch die Schwächen von bestimmten Personen oder Gruppen aufgrund ihres Alters oder körperlicher oder geistiger Beeinträchtigungen nicht ausnutzen. Der Rat der Minister möchte dieses Verbot auch auf Personen ausdehnen, die sich "in einer besonderen sozialen oder wirtschaftlichen Situation" befinden und Schutz benötigen.

Ein KI-basiertes Social Scoring soll verboten werden, wenn Personen oder Personengruppen beispielsweise in Kontexten benachteiligt werden, die nicht im Zusammenhang mit der ursprünglichen Datensammlung stehen, oder wenn die Benachteiligung in keinem Verhältnis zu dem sozialen Verhalten steht. Dieses Verbot soll nach dem Willen der Mitgliedstaaten nicht nur Behörden, sondern auch private Akteure betreffen.

Kritik an den Ausnahmeregeln

Die Pläne bedeuten, dass nach jedem Einbrecher, Computerhacker oder Drogendealer per Gesichtserkennung gesucht werden könnte. Das sieht der Straftatenkatalog einer EU-Rahmenvereinbarung in Artikel 2, Abs. 2 vor, auf den sich der Verordnungsentwurf bezieht. Für die Straftat muss als Voraussetzung jedoch eine maximale Haftstrafe von mindestens drei Jahren drohen. Bei Straftaten außerhalb der Vereinbarung soll eine maximale Haftstrafe von min. fünf Jahren vorausgesetzt werden.

Kritiker der Pläne bemängeln, dass das Verbot nur für "Echtzeit-Fernidentifizierungssysteme" gelte und nicht für Systeme, bei denen der "Abgleich und die Identifizierung zeitgleich oder nahezu zeitgleich erfolgen". Das Verbot gelte nur für Strafverfolgungsbehörden oder deren Auftragnehmer, nicht jedoch für andere Behörden oder private Anbieter. 

Hochrisiko-Systeme

Änderungswünsche haben die EU-Mitgliedstaaten für KI-Anwendungen, die als Hochrisikosysteme eingestuft werden. Demnach sollen die Aufdeckung von Deepfakes durch die Strafverfolgungsbehörden, Kriminalanalyse sowie Überprüfung der Echtheit von Reisedokumenten aus der Liste gestrichen werden. Die Definitionen zu den KI-Systemen in der kritischen digitalen Infrastruktur und der Lebens- und Krankenversicherung wurden ergänzt.

Darüber hinaus wurden die die Vorgaben für Hochrisikosysteme "präzisiert und so angepasst, dass sie technisch machbarer sind und ihre Einhaltung die Interessenträger weniger belastet, zum Beispiel in Bezug auf die Datenqualität oder auf die technische Dokumentation". Solche Dokumentationen müssen auch von kleinen und mittleren Unternehmen (KMU) erstellt werden, "um nachzuweisen, dass ihre Hochrisiko-KI-Systeme den Anforderungen entsprechen".

Europaparlament muss abstimmen

Bevor die Pläne von EU-Kommission und EU-Mitgliedstaaten beschlossen werden können, stehen noch Verhandlungen mit dem Europaparlament an. Dort liegt seit April 2022 ein gemeinsamer Bericht (PDF) der Ausschüsse für Binnenmarkt und Verbraucherschutz (IMCO) sowie für Bürgerliche Freiheiten (LIBE) vor. Über diesen soll im Frühjahr 2023 entschieden werden. Das Thema Gesichtserkennung wird in dem Bericht ausgeklammert. Einzelne Fraktionen haben bereits Änderungsvorschläge eingebracht (PDF).