Was ist Processing Latency?

Processing Latency - Definition

Processing Latency (deutsch: Verarbeitungslatenz) bezeichnet die gesamte Zeitspanne vom Eingang der Daten bis zur Bereitstellung des fertigen Verarbeitungsergebnisses. Im Kontext der Anonymisierung von Bildern und Videoaufnahmen umfasst dies den Zeitraum vom Einlesen einer Datei oder eines Frames über die Erkennung von Gesichtern und Kfz-Kennzeichen, das Anwenden von Unschärfemasken bis hin zum Speichern und der optionalen erneuten Kompression. In Fachliteratur und Normen ist Processing Latency ein Bestandteil der Leistungsqualitätsmerkmale von Systemen und wird in ISO/IEC 25010 als time behavior (Reaktionszeiten, Verarbeitungszeiten, Durchsatz) definiert [ISO/IEC 25010:2011]. Bei webbasierten Diensten kann zusätzlich die Netzwerklatenz gemäß ITU-T Y.1541 eine Rolle spielen, bei der batchweisen Bild- und Videoanonymisierung dominieren jedoch in der Regel Rechen- und I/O-Latenzen.

In der Praxis werden sowohl die Gesamtlatenz als auch die Teillatenzen einzelner Pipeline-Stufen gemessen, um Engpässe zu identifizieren und die Einhaltung rechtlicher sowie operativer Anforderungen sicherzustellen (z. B. Fristen für die Bereitstellung anonymisierten Materials).

Die Rolle der Processing Latency bei der Bild- und Videoanonymisierung

Die Anonymisierung von Gesichtern und Kfz-Kennzeichen erfordert die Objekterkennung mithilfe von Deep-Learning-Modellen. Solche Modelle sind notwendig, um die zu maskierenden Bereiche während der Verarbeitung automatisch zu lokalisieren. Die Verarbeitungslatenz beeinflusst direkt, wann eine sichere, datenschutzkonforme Version der Datei verfügbar ist. Dies ist relevant für die Nachvollziehbarkeit (Accountability) und für die Gestaltung von Prozessen nach dem Prinzip Privacy by Design gemäß Art. 25 DSGVO sowie den Leitlinien des EDPB 3/2019 zur Verarbeitung personenbezogener Daten durch Videogeräte (Version 2.0, 29.01.2020).

Gallio PRO arbeitet im Batch-Modus, führt keine Echtzeit-Anonymisierung durch und verwischt automatisch ausschließlich Gesichter und Kfz-Kennzeichen. Die Processing Latency definiert hier daher die Batch-Zeit vom Start der Verarbeitung bis zur Erzeugung der Ergebnisdatei. Protokolldateien enthalten weder Detektionsdetails noch personenbezogene Daten.

Technologien und Architektur mit Einfluss auf die Verarbeitungslatenz

Die Processing Latency wird von Hardware-, Software- und Kodierungsebenen beeinflusst. Nachfolgend sind die zentralen Komponenten der Verarbeitungspipeline mit typischen Latenzquellen aufgeführt.

Komponente

Beschreibung

Typische Latenzquellen

 

Eingang / I/O

Dateieinlesung, Serialisierung, Transfer zwischen Speicher und Datenträger

Datenträgerdurchsatz, Netzwerk, Containerformat

Dekodierung

Dekodierung von H.264/H.265, JPEG

GOP-Strukturen, B-Frames, fehlende Hardwarebeschleunigung [ITU-T H.264, H.265]

Preprocessing

Skalierung, Normalisierung, Farbkonvertierungen

Speicheroperationen, fehlende Vektoroptimierung

Inferenz

Erkennung von Gesichtern/Kennzeichen durch neuronale Netze

Modellgröße und -komplexität, fehlender Beschleuniger, Batch-Größe

Postprocessing

Anwenden von Masken, Frame-Zusammenführung, NMS

Algorithmische Komplexität, CPU-/GPU-Operationen

Ausgabe-Kodierung

Kompression und Speicherung von Bild/Video

Bitrate-Parameter, Profil, Encoder-Preset

Eine On-Premise-Architektur reduziert die Abhängigkeit von Netzwerklatenzen und das Risiko externer Datenübertragungen. GPU-Beschleunigung (z. B. CUDA), Inferenz-Compiler (z. B. TensorRT, OpenVINO) sowie effiziente I/O-Bibliotheken verkürzen die Zeiten für Inferenz- und Transformationsschritte, ohne die Semantik des Anonymisierungsprozesses zu verändern.

Zentrale Parameter und Metriken

Die Verarbeitungslatenz sollte mit robusten Metriken und aufgabengerechten Einheiten berichtet werden. Nachfolgend sind Kennzahlen aufgeführt, die für Datenschutzbeauftragte (DSB/DPO) und technische Teams relevant sind.

Metrik

Definition

Einheit

 

Gesamtlatenz L

Zeit vom Batch-Start bis zur fertigen Datei

s, min, h

Latenz pro Frame

Durchschnittliche Verarbeitungszeit eines einzelnen Frames

ms/Frame

Perzentile p95/p99

Latenz, die von 95 %/99 % der Jobs nicht überschritten wird

ms, s

Durchsatz

Anzahl verarbeiteter Frames oder Videominuten pro Zeiteinheit

FPS, min/h

SLA-Lieferzeit

Garantierter Abschlusszeitpunkt der Batch-Verarbeitung

h, Tage

Ein Modell zur Zerlegung der Latenz für einen einzelnen Frame lautet: L_frame = t_io_in + t_decode + t_pre + t_inf + t_post + t_encode + t_io_out. Für einen Batch mit N Frames und Parallelität P gilt näherungsweise: L_batch ≈ ceil(N/P) × median(L_frame) + Queue-Overhead.

Messung und Reporting

Messungen sollten deterministisch und reproduzierbar sein, mit synchronisierter Zeit, wenn die Pipeline mehrere Knoten umfasst. Für präzise Zeitstempel in verteilten Systemen wird IEEE 1588-2019 Precision Time Protocol eingesetzt. In integrierten On-Premise-Umgebungen genügen monotone Systemuhren und konsistente Telemetrie.

  • Instrumentation der Pipeline-Stufen: Zeitstempel vor und nach jedem Schritt, Aggregation in p95/p99-Reports.
  • Stabile Eingaben: konstantes Encoder-Preset, identische Modelle und Batch-Größen, deaktivierter Turbo-/Boost-Modus bei Vergleichstests.
  • Reports für DSB/DPO: Batch-Zeit, Durchsatz, Anteil SLA-konformer Jobs, Varianz zwischen Batches.

Herausforderungen und Grenzen

Die Reduzierung der Processing Latency darf die Qualität der Anonymisierung nicht beeinträchtigen. Leichtere Modelle beschleunigen die Inferenz, können jedoch die Erkennungsrate von Gesichtern oder Kennzeichen senken. Eine stärkere Kompression bei der Ausgabe erhöht die Kodierlatenz, reduziert aber die Dateigröße. Da Gallio PRO keine Echtzeit-Anonymisierung durchführt, konzentrieren sich Optimierungen auf die Batch-Zeit und die Deterministik der Ergebnisse. Das System erkennt Logos, Tätowierungen, Namensschilder oder Monitorinhalte nicht automatisch; diese Elemente können manuell im Editor unkenntlich gemacht werden, was eine zusätzliche, kontrollierte operative Latenz verursacht.

Anwendungsbeispiele

In der Praxis nutzen Datenschutzbeauftragte und Sicherheitsteams die Processing Latency zur Planung von Verarbeitungsfenstern und zur Risikobewertung. Typische Anwendungsfälle sind die Anonymisierung von Videoüberwachungsmaterial vor der Weitergabe, die Erstellung von Trainingsdatensätzen mit verpixelten Gesichtern sowie die batchweise Verarbeitung von Event-Fotos, bei denen keine gesetzlichen Ausnahmen greifen. In westeuropäischen Ländern wird das Verwischen von Kfz-Kennzeichen aufgrund des Identifikationsrisikos und lokaler Praxis häufig angewendet, was die Pipeline durch zusätzliche Inferenzschritte stärker belastet. In Polen bestehen unterschiedliche Auslegungen zum Status von Kennzeichen; Leitlinien der Aufsichtsbehörden, des EDPB und die Rechtsprechung des EuGH sprechen jedoch für deren Anonymisierung, was bei der SLA-Planung zu berücksichtigen ist.

Normative Verweise und Quellen

Die folgenden Standards und Leitlinien präzisieren Zeitmetriken, Synchronisation sowie den rechtlichen Rahmen für die Verarbeitung von Videodaten mit Personenbezug.

  • ISO/IEC 25010:2011 - Systems and software quality models. Der Abschnitt performance efficiency definiert time behavior, einschließlich Verarbeitungszeiten und Durchsatz. https://www.iso.org/standard/35733.html
  • ITU-T Y.1541 (2011) - Network performance objectives for IP-based services. Definiert u. a. Klassen von Netzwerklatenzen. https://www.itu.int/rec/T-REC-Y.1541
  • IEEE 1588-2019 - Precision Time Protocol. Standard zur Zeitsynchronisation für verteilte Messungen. https://standards.ieee.org/standard/1588-2019.html
  • ITU-T H.264 | ISO/IEC 14496-10 AVC sowie ITU-T H.265 | ISO/IEC 23008-2 HEVC - Videokodierungsstandards mit Einfluss auf Dekodier- und Kodierlatenzen. https://www.itu.int/rec/T-REC-H.264 und https://www.itu.int/rec/T-REC-H.265
  • DSGVO - Verordnung (EU) 2016/679, Art. 25 Privacy by Design und by Default. https://eur-lex.europa.eu/eli/reg/2016/679/oj
  • EDPB, Leitlinien 3/2019 zur Verarbeitung personenbezogener Daten durch Videogeräte, Version 2.0, 29.01.2020. https://edpb.europa.eu