Was ist Automated Facial Recognition (AFR)?

Automated Facial Recognition (AFR) – Definition

Automated Facial Recognition (AFR) bezeichnet die automatisierte Gesichtserkennung, also eine Gruppe informativer bzw. IT-gestützter Verfahren zur Erkennung von Gesichtern in Bildern, zur Extraktion ihrer Merkmale sowie zum Abgleich dieser Merkmale mit anderen Bildern oder in einer Datenbank gespeicherten Referenzmustern. In der Praxis umfasst AFR mindestens drei getrennte Schritte: Gesichtserkennung, Merkmalsextraktion und Matching. In der Fachliteratur und in regulatorischen Dokumenten werden zudem verwandte Aufgaben unterschieden, etwa die 1:1-Verifikation, die 1:N-Identifikation, die Klassifizierung von Gesichtsattributen sowie die Kategorisierung von Bildern, die Gesichter enthalten.

Im Zusammenhang mit der Anonymisierung von Fotos und Videoaufnahmen ist AFR mittelbar, aber dennoch wesentlich. Damit Gesichter automatisch unkenntlich gemacht werden können, muss das System zunächst ihre Position in einem Einzelbild oder in einer Videosequenz erkennen. Hierfür werden in der Regel Modelle des maschinellen Lernens eingesetzt, meist auf Basis von Deep Learning. Ein solches Modell muss keine vollständige Identitätsbestimmung durchführen, nutzt jedoch ähnliche technische Grundlagen wie AFR, insbesondere bei der Gesichtsdetektion und Gesichts­lokalisierung. Deshalb sollten Organisationen, die eine automatische Gesichtsverpixelung oder Gesichtsunschärfe einsetzen, die gewöhnliche Objekterkennung klar von biometrischer Gesichtserkennung zur Identifizierung einer Person unterscheiden.

Aus Sicht des EU-Rechts kann ein Gesicht eine Quelle biometrischer Daten sein, wenn es mit speziellen technischen Mitteln zum Zweck der eindeutigen Identifizierung einer natürlichen Person verarbeitet wird. Dies ergibt sich aus Art. 4 Nr. 14 DSGVO, also der Verordnung (EU) 2016/679. Nicht jede Nutzung eines Algorithmus zur Erkennung eines Gesichts bedeutet daher automatisch die Verarbeitung besonderer Kategorien personenbezogener Daten. Entscheidend sind der Zweck und die Art der Datenverwendung. Dient ein System ausschließlich dazu, ein Gesicht zu erkennen und unkenntlich zu machen, ohne eine Identifizierung vorzunehmen, kann die rechtliche Bewertung anders ausfallen als bei einer 1:N-Identifikation in einer Referenzdatenbank.

Wie AFR bei der Verarbeitung von Fotos und Videos funktioniert

In Systemen zur Anonymisierung visueller Inhalte ist AFR in erster Linie als Familie bildanalytischer Verfahren zu verstehen, die auf Modellen beruhen, die mit großen Datensätzen trainiert wurden. In modernen Lösungen dominieren konvolutionale neuronale Netze sowie Detektions- und Embedding-Architekturen. Sie ermöglichen die Erkennung von Gesichtern unter unterschiedlichen Lichtverhältnissen, Maßstäben, Kopfstellungen und bei teilweiser Verdeckung.

Ein typischer Verarbeitungsablauf sieht wie folgt aus:

• Gesichtsdetektion – das Modell lokalisiert ein Gesicht und bestimmt eine Bounding Box oder charakteristische Schlüsselpunkte,
• Tracking zwischen Einzelbildern – bei Videoaufnahmen verknüpft das System die Erkennungen desselben Gesichts über aufeinanderfolgende Frames hinweg,
• Bildnormalisierung – das Gesicht kann vor der weiteren Analyse ausgerichtet oder skaliert werden,
• Merkmalsextraktion – das Modell erzeugt eine numerische Repräsentation des Gesichts, das sogenannte Embedding,
• Matching – das Embedding wird mit anderen Embeddings unter Verwendung von Distanzmaßen verglichen, z. B. Kosinus- oder euklidischer Distanz,
• Entscheidung – das System stellt bei einem definierten Schwellenwert Übereinstimmung oder Nichtübereinstimmung fest.

In Tools zur Anonymisierung, etwa in On-Premise-Software zur Verarbeitung von Fotos und Aufnahmen, werden gewöhnlich nur der erste und teilweise der zweite Schritt benötigt. Das bloße Unkenntlichmachen von Gesichtern erfordert keine Identifizierung einer konkreten Person. Genau dieser Unterschied ist für die Einhaltung des Grundsatzes der Datenminimierung nach Art. 5 Abs. 1 Buchst. c DSGVO relevant.

AFR und Gesichtsanonymisierung

Automatisches Unkenntlichmachen von Gesichtern ist nicht dasselbe wie AFR im Sinne biometrischer Identifizierung. Technologisch sind beide Bereiche jedoch eng miteinander verbunden. Ein KI-Modell, das zur Gesichtsverpixelung oder Gesichtsunschärfe verwendet wird, muss lernen, was ein Gesicht ist und wo es sich im Bildausschnitt befindet. In den meisten Fällen bedeutet dies das Training oder die Nutzung eines bereits trainierten Deep-Learning-Modells auf annotierten Bilddatensätzen.

In der Praxis sollten drei Verarbeitungsebenen unterschieden werden:

• Gesichtsdetektion – das System findet ein Gesicht, stellt aber keine Identität fest,
• Gesichtsanalyse – das System kann Attribute oder Ähnlichkeiten bewerten,
• Gesichtserkennung – das System versucht, eine Person zu identifizieren oder zu verifizieren.

Für Unternehmen und Organisationen, die sich mit der Anonymisierung von Fotos und Videos befassen, ist diese Unterscheidung praxisrelevant. Wenn das Ziel der Schutz der Privatsphäre durch das Unkenntlichmachen von Gesichtern ist, besteht keine Notwendigkeit, Identifizierungsfunktionen zu implementieren. Die Beschränkung der Verarbeitung auf Detektion und Tracking reduziert in der Regel rechtliche und operative Risiken.

Zentrale Parameter und Metriken von AFR

Die Bewertung eines AFR-Systems erfordert den Einsatz messbarer Kennzahlen. Welche davon geeignet sind, hängt von der jeweiligen Aufgabe ab. Bei Identifikation und Verifikation kommen andere Metriken zum Einsatz als bei der Gesichtsdetektion für Zwecke der Gesichtsanonymisierung.

In Vergleichsstudien wird häufig auf die Tests der NIST Face Recognition Technology Evaluation verwiesen, die vom National Institute of Standards and Technology durchgeführt werden. NIST veröffentlicht regelmäßig Berichte, in denen Algorithmen unter anderem im Hinblick auf False Match Rate und False Non-Match Rate in verschiedenen Szenarien verglichen werden. Diese Berichte sind wichtige Referenzquellen für die Qualitätsbewertung von Algorithmen, auch wenn die Ergebnisse vom Testdatensatz und von den jeweiligen Testbedingungen abhängen.

Rechtliche Regelungen – DSGVO und EU AI Act

Die Beurteilung der Rechtmäßigkeit von AFR in der Europäischen Union erfordert eine parallele Betrachtung der DSGVO und des AI Act. Beide Rechtsakte haben unterschiedliche Regelungsbereiche. Die DSGVO regelt die Verarbeitung personenbezogener Daten, während der AI Act Anforderungen an KI-Systeme je nach Risikoniveau festlegt.

Im Kontext der DSGVO sind insbesondere folgende Elemente relevant:

• Art. 4 Nr. 14 DSGVO – Definition biometrischer Daten,
• Art. 9 Abs. 1 DSGVO – grundsätzliche Untersagung der Verarbeitung besonderer Kategorien personenbezogener Daten mit den Ausnahmen nach Art. 9 Abs. 2,
• Art. 5 DSGVO – Grundsätze der Rechtmäßigkeit, Datenminimierung, Zweckbindung und Integrität,
• Art. 25 DSGVO – Privacy by Design und Privacy by Default,
• Art. 35 DSGVO – Datenschutz-Folgenabschätzung, wenn die Verarbeitung voraussichtlich ein hohes Risiko verursacht.

Der AI Act, also die Verordnung des Europäischen Parlaments und des Rates (EU) 2024/1689 vom 13. Juni 2024, führt detaillierte Regeln für KI-Systeme ein, darunter auch für bestimmte biometrische Anwendungen. Im Bereich der Gesichtserkennung ist die Unterscheidung zwischen biometrischer Fernidentifizierung, biometrischer Kategorisierung und Emotionserkennung besonders wichtig. Einige Anwendungen sind verboten, andere gelten als Hochrisiko-Systeme, wieder andere unterliegen Transparenzpflichten oder allgemeinen Sicherheitsanforderungen. Die konkrete Einordnung hängt vom Nutzungsszenario, vom Anwender und vom Zweck ab.

Pflichten von Organisationen, die AFR nutzen

Eine Organisation, die AFR zur Analyse von Fotos oder Aufnahmen einsetzt, muss nachweisen können, dass Zweck, Umfang und technische Mittel verhältnismäßig sind. In der Praxis bedeutet Compliance nicht nur eine tragfähige Rechtsgrundlage, sondern auch eine Systemarchitektur, die unnötige Verarbeitung begrenzt.

Zu den am häufigsten erforderlichen Maßnahmen gehören:

• Feststellung, ob eine Verarbeitung biometrischer Daten im Sinne der DSGVO vorliegt,
• Definition des Zwecks – etwa Gesichtsdetektion zur Unkenntlichmachung oder Identifikation einer Person,
• Durchführung einer DPIA bzw. Datenschutz-Folgenabschätzung, wenn das Risiko für die Rechte und Freiheiten betroffener Personen hoch ist,
• Implementierung von Zugriffskontrollen, Verschlüsselung und Aufbewahrungsregeln für Daten,
• Dokumentation der Quellen von Trainings- und Testdaten sowie der Modellgrenzen,
• Überwachung der Modellqualität, einschließlich Fehlern und Datendrift,
• Beschränkung von Logs auf operativ notwendige Informationen, ohne Speicherung personenbezogener Daten, sofern dies nicht erforderlich ist.

Im Umfeld der Anonymisierung visueller Inhalte ist der Einsatz von On-Premise-Lösungen praktisch besonders relevant. Ein solches Modell kann die Übermittlung von Daten an externe Stellen begrenzen und die Einhaltung von Anforderungen an die Informationssicherheit erleichtern, entscheidet für sich genommen jedoch nicht über die Rechtmäßigkeit.

Herausforderungen und Grenzen von AFR

AFR ist keine fehlerfreie Technologie. Die Qualität der Gesichtserkennung hängt von der Bildauflösung, dem Gesichtswinkel, Verdeckungen, Kompression, Beleuchtung und der Qualität des Trainingsdatensatzes ab. Bei Videoaufnahmen kommen Bewegungsunschärfe und instabiles Objekt-Tracking als zusätzliche Probleme hinzu.

Zu den praktischen Risiken gehören:

• falsche Treffer und falsche Zurückweisungen,
• ungleiche Leistungsfähigkeit für verschiedene demografische Gruppen, beschrieben unter anderem in NIST-Berichten und akademischen Studien,
• Schwierigkeiten bei der Interpretation von Ergebnissen durch nichttechnische Nutzer,
• eine übermäßige Ausweitung des Verarbeitungszwecks, also Function Creep,
• das Risiko, dass Gesichtsdetektion als Vorstufe zur Identifizierung ohne geeignete Rechtsgrundlage eingesetzt wird.

Daher empfiehlt sich in datenschutzbezogenen Anwendungsfällen ein minimalistischer Ansatz: Gesicht erkennen, unkenntlich machen und auf Identifizierungsfunktionen verzichten, sofern diese nicht zwingend erforderlich sind.

Normative Verweise und Quellen

Die folgenden Rechtsakte und Dokumente bilden die Grundlage für die Bewertung von AFR im Kontext von Fotos und Videoaufnahmen:

• Verordnung (EU) 2016/679 (DSGVO), 27. April 2016
• Verordnung des Europäischen Parlaments und des Rates (EU) 2024/1689 (AI Act), 13. Juni 2024
• NIST Face Recognition Technology Evaluation – regelmäßig veröffentlichte Vergleichsberichte des National Institute of Standards and Technology
• ISO/IEC 19794-5 – Information technology – Biometric data interchange formats – Face image data
• ISO/IEC 30107-3 – Information technology – Biometric presentation attack detection – Part 3: Testing and reporting
• Leitlinien des Europäischen Datenschutzausschusses zur Verarbeitung biometrischer Daten und zur Risikobewertung, soweit für die jeweilige Anwendung einschlägig