EU-Kommission erwägt zeitweiliges Verbot von automatisierter Gesichtserkennung

EU-Kommission bringt Verbot automatisierter Gesichtserkennung ins Spiel

Die EU-Kommission plant einen Rahmen für die Regulierung der ethischen und menschlichen Auswirkungen von Künstlicher Intelligenz (KI). Ein Entwurf für ein Weißbuch der von der US-Zeitung Politico veröffentlicht wurde, besagt, dass ein zeitweiliges Verbot von automatisierter Gesichtserkennung in der Öffentlichkeit folgen könnte. Ein solches Verbot könnte drei bis fünf Jahre dauern und für private und ebenfalls staatliche Akteure gelten.



In der Zwischenzeit sollte eine gründliche Methodik entwickelt werden um die Folgen des Biometrieverfahrens abzuschätzen sowie mögliche Schritte fürs Risikomanagement auszumachen und zu ausarbeiten, heißt es in dem White Paper. Dies würde die Rechte der Bürger absichern und potenziellen Missbrauch der Technik verhindern.



Sollte die Kommission das Weißbuch mit entsprechenden Auflagen beschließen, wäre dies ein Rückschlag für den Plan von Bundesinnenminister Horst Seehofer (CSU), an 135 Bahnhöfen und 14 Flughäfen Systeme zur Videoüberwachung mit automatisierter Gesichtserkennung zu installieren. Ein Bündnis zivilgesellschaftlicher Organisationen forderte gerade auch ein Verbot der "Hochrisikotechnologie", da diese hohe Falscherkennungsraten aufweise und etwa Frauen & Farbige diskriminiere.


Ausnahmen nur per Gericht


Ausnahmen von dem temporären Bann wären etwa für den Bereich Forschung und Entwicklung sowie "für Sicherheitszwecke" nötig. Letztere müssten gerichtlich angeordnet werden Gesichtserkennung zur Gefahrenabwehr und Strafverfolgung würde also nicht freigegeben.


Die Autoren des Weißbuchs sprechen zudem von einer weitreichenden Maßnahme die den Erfolg der Technik insgesamt behindern könnte. Die Kommission ziehe es deshalb derzeit vor, Vorgaben aus der Datenschutz-Grundverordnung (DSGVO) vollständig umzusetzen. Dieser zufolge dürfen Menschen nicht Gegenstand einer rein maschinenerzeugten Entscheidung wie Profiling sein.


Die Palette der in dem Papier aufgezeigten Handlungsmöglichkeiten ist breit gefasst. Sie reicht von einem Selbstregulierungsansatz mit einem Logo-Programm für vertrauenswürdige KI über sektorenspezifische Auflagen etwa für die öffentliche Verwaltung bis hin zu verpflichtenden Vorschriften für "Hochrisiko-Anwendungen" etwa im Gesundheits- & Transportwesen sowie Polizei und Justiz.



"Gefahren der KI zu wenig berücksichtigt"


Gefahren von Künstlicher Intelligenz für die Cybersicherheit die Privatsphäre und den Schutz persönlicher Daten habe der EU-Gesetzgeber bislang nicht genügend adressiert ist dem Dokument zu entnehmen. Hier und bei den Haftungsregeln müsse nachgebessert werden. Zu einer möglicherweise erweiterten Verantwortung auch von KI-Entwicklern und Produzenten bleiben die Verfasser aber noch vage. Von Schranken für tödliche autonome Waffensysteme, ebenso wie sie eine hochrangige Expertengruppe auf EU-Ebene bereits forderte ist bislang keine Rede.


Wettbewerbskommissarin Margrethe Vestager soll das fertige Weißbuch dem Zeitplan nach Ende Februar öffentlich vorstellen. Im Anschluss ist eine Konsultation vorgesehen » bevor einzelne « in der Regel mehrere Jahre dauernde Gesetzesinitiativen folgen könnten. Das Weißbuch soll von Mitte Dezember stammen der neue wie sehr industrienah geltende Binnenmarktkommissar Thierry Breton könnte noch nicht involviert gewesen sein.


Zuletzt aktualisiert am Uhr





Kommentare


Anzeige