Der AI-Act und die mögliche Überwachung

AI-Act und Überwachung Quelle: Pixabay

Beitrag teilen:

Nach langen Verhandlungen haben sich die Unterhändler des EU-Parlaments, des Ministerrats und der Kommission im Dezember auf die endgültige Fassung des AI-Acts geeinigt. Der Kompromiss enthielt jedoch einige Schlupflöcher, insbesondere in Bezug auf biometrische Videoüberwachung und Predictive Policing. Hier haben sich die Mitgliedstaaten gegenüber dem EU-Parlament durchgesetzt. Nachträgliche Änderungen sorgen aktuell für Ärger bei EU-Abgeordneten und Bürgerrechtsorganisationen. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies weitreichende Folgen.
„Es ist unfassbar, dass die spanische Ratspräsidentschaft dafür gesorgt hat, dass der endgültige Gesetzestext in wesentlichen Punkten nicht mehr mit der mündlichen Einigung des Trilogs vom Dezember übereinstimmt“, kritisiert die Europaabgeordnete Svenja Hahn von der FDP. „Es bleibt unklar, ab wann eine biometrische Identifizierung nicht mehr als “Echtzeit”, sondern als “nachgelagert” gilt. Dadurch könnten die strengen Vorschriften zur Echtzeit-Identifizierung von Personen, die das Parlament gegenüber den Mitgliedsstaaten errungen hat, umgangen werden“. Ursprünglich war mündlich vereinbart worden, dass auch die nachgelagerte Identifizierung nur für schwerwiegende Straftaten und unter sehr engen Bedingungen, wie etwa einem vorherigen Richtervorbehalt, erfolgen dürfte.

Das weltweit erste demokratische und umfassende Regelwerk für Künstliche Intelligenz (KI) soll noch vor den Europawahlen im kommenden Juni verabschiedet werden. Bei verschiedenen Punkten gab es weit auseinanderliegende Positionen. Das Parlament hatte im Vorfeld das Verbot biometrischer Massenüberwachung durch automatisierte Gesichtserkennung gefordert. Die Mitgliedsstaaten der EU wollten das von Anfang an durchsetzen. Scharfe Kritik an den Plänen äußert auch die Bundestagsabgeordnete Anke Domscheit-Berg. “Was jetzt als KI-Verordnung auf den Weg gebracht werden soll, lässt sich kaum noch mit dem Label ‘europäische Werte’ versehen, denn Tür und Tor werden biometrischer Massenüberwachung geöffnet, selbst bei Ordnungswidrigkeiten, kleinen Straftaten und wenn sie noch nicht passiert sind”, schrieb die Linke-Politikerin auf X.

Der Gesetzgebungs-Marathon für das Gesetz im vergangenen Dezember dauerte 37 Stunden. Dies war eine immense Anstrengung, die hauptsächlich der spanischen Ratspräsidentschaft zugeschrieben wird, die mit aller Kraft eine Einigung herbeiführen wollte. Was die Verhandler des Parlaments damals begrüßt haben, scheint sich jetzt als “Missverständnis” herauszustellen.

„Unsere Befürchtung ist jedoch, dass der AI-Act, der besagt, dass die nachträgliche biometrische Fernidentifizierung für jedes Verbrechen verwendet werden kann, die Interpretation dessen, was genau als ’notwendig‘ gilt, aufweichen könnte“, sagt Ella Jakubowskas von der Bürgerrechtsorganisation EDRi. Die schriftliche Version des AI-Gesetzes ist noch nicht vollständig verfügbar, und es fehlen zum Beispiel die Erwägungsgründe. Es wird jedoch erwartet, dass die aktuell festgelegten Befugnisse nicht erneut restriktiver gefasst werden. In den nächsten Wochen steht die finale Abstimmung über das Regelwerk an.

https://netzpolitik.org/2024/ki-verordnung-biometrische-massenueberwachung-ohne-wenn-und-aber/

https://www.heise.de/news/Biometrische-Ueberwachung-EU-Rat-streicht-Straftatenkatalog-und-Richtervorbehalt-9596586.html

https://background.tagesspiegel.de/digitalisierung/ai-act-kommt-big-brother-durch-die-hintertuer

https://table.media/europe/analyse/ai-act-der-muehsam-gefundene-kompromiss-ist-in-gefahr/