Wenige Überwachungsmaßnahmen bedrohen Freiheitsrechte und Demokratie so sehr wie automatische Gesichtserkennung: Sie macht Fehler, sie diskriminiert Frauen und People of Colour und gefährdet die anonyme Teilnahme an Demonstrationen. Da die Algorithmen mit Methoden der Künstlichen Intelligenz arbeiten und überwiegend mit Gesichtern weißer Männer trainiert werden, führt das zu einer deutlich höheren Falscherkennungsrate bei Frauen und People of Colour. Sie werden in der Folge häufiger von der Polizei kontrolliert und verdächtigt.
Gesichtserkennung birgt zudem enormes Missbrauchspotential – sowohl für einzelne unberechtigt Handelnde als auch für autoritäre Regierungen. Zivilgesellschaftliches Engagement gegen eine Regierung, die exakt weiß, wer wann wo ist und sich mit wem trifft, ist nur schwer denkbar. Am 27. April 2021 hat die Polizei in Moskau die Wohnungen der Journalisten Alexej Korosteljow, Oleg Owcharenko und Alexander Rogoz aufgesucht und sie zu ihrer Teilnahme an einer Demonstration am 21. April für Alexej Nawalny befragt. Bei der Demonstration wurden Teilnehmende gefilmt und diese Filme anschließend mit Gesichtserkennungsmethoden ausgewertet. So lässt sich sehr schnell feststellen, wer wann wo war und mit wem er oder sie gesprochen hat. Die Journalisten wurden als Teilnehmende an der Demonstration identifiziert. Alle waren als Journalisten akkreditiert. Dennoch drohen ihnen nun Gefängnisstrafen.
Amnesty International sieht in jeder anlasslosen Massenüberwachung einen massiven Eingriff in die Privatsphäre. Die Anwendung von Gesichtserkennung im öffentlichen Raum ist nach Auffassung von Amnesty nicht verhältnismäßig, da sie ohne einen Verdacht alle anwesenden Menschen erfasst und analysiert. Amnesty fordert daher ein vollständiges Verbot der Gesichtserkennung zu Zwecken der Identifizierung.
Eine weitere Gefahr besteht in der Verbreitung von Technologie zur Gesichtserkennung. Europäische Unternehmen konnten Gesichtserkennungs- und andere Überwachungstechnologie ohne staatliche Exportkontrolle in Länder verkaufen, in denen diese gegen marginalisierte Bevölkerungsgruppen zum Einsatz kommt. Damit steigt das Risiko schwerer Menschenrechtsverletzungen. Amnesty fordert ein grundsätzliches Verbot der Entwicklung, der Produktion, des Verkaufs und des Exports von Gesichtserkennungstechnologie zu Identifizierungszwecken, das sowohl für staatliche Institutionen als auch für private Akteure gilt.
Amnesty International unterstützt sowohl die deutsche, als auch die europäische Kampagne gegen Gesichtserkennung zur Massenüberwachung:
https://gesichtserkennung-stoppen.de/
https://reclaimyourface.eu/