Que sont les systèmes biométriques dans l’EU AI Act ?

Systèmes biométriques dans l’EU AI Act : définition

Dans le contexte du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024, c’est-à-dire l’EU AI Act, les systèmes biométriques sont des systèmes d’IA qui traitent des données biométriques afin d’identifier, de vérifier ou de catégoriser des personnes physiques, ou encore d’inférer leurs émotions. Le règlement renvoie ici à la notion de données biométriques déjà connue du RGPD, c’est-à-dire du règlement (UE) 2016/679, article 4, point 14. En pratique, pour les photos et les vidéos, il s’agit surtout de l’analyse du visage, de la silhouette, de la démarche, de l’iris, de l’empreinte digitale ou d’autres motifs permettant de distinguer une personne d’une autre.

Dans le domaine de l’anonymisation de photos et de vidéos, il est essentiel de distinguer un système de reconnaissance biométrique d’un système de protection de la vie privée. Un outil qui détecte un visage afin de le flouter n’a pas nécessairement à identifier la personne. Il peut fonctionner uniquement au stade de la détection d’un objet de type « visage » ou « plaque d’immatriculation ». Il s’agit d’une frontière technique et juridique importante. La simple détection d’un visage dans l’image ne signifie pas que l’identité de la personne a été établie.

L’EU AI Act prévoit pour les systèmes biométriques trois grands régimes : des interdictions pour certains usages, la catégorie des systèmes à haut risque pour certains déploiements, ainsi qu’un ensemble d’obligations pour les fournisseurs et les déployeurs du système. En pratique, les systèmes d’identification biométrique à distance, les systèmes de catégorisation biométrique et les systèmes de reconnaissance des émotions sont les plus importants. Pour le délégué à la protection des données, cela implique de distinguer les outils d’anonymisation de contenus visuels des outils qui profilent, classent ou identifient des personnes sur la base d’une image.

Comment l’EU AI Act classe les systèmes biométriques

L’AI Act ne traite pas tous les usages de la biométrie de la même manière. Le but du traitement, le contexte d’utilisation et le fait que le système fonctionne ex post ou sur une image en direct sont déterminants. Cela a une incidence directe sur les processus de traitement des enregistrements vidéo et des photographies avant leur publication, leur archivage ou leur transmission à des tiers.

Les principales catégories de systèmes biométriques peuvent être présentées comme suit :

D’un point de vue technique, il s’agit de la différence entre une tâche de type detection et une tâche de type identification ou verification. Dans le premier cas, le modèle localise un objet dans l’image. Dans le second, il construit ou compare une représentation des caractéristiques de la personne, généralement sous la forme d’un vecteur de caractéristiques appelé embedding.

Importance pour l’anonymisation des photos et des enregistrements vidéo

Dans les systèmes de protection de la vie privée, l’objectif devrait être de détecter l’élément à flouter, et non de reconnaître une personne donnée. En pratique, cela signifie utiliser des modèles de vision par ordinateur pour localiser les visages et les plaques d’immatriculation, puis transformer durablement l’image par floutage, pixellisation ou masquage.

Pour construire un tel système, on utilise généralement le deep learning. Le modèle est entraîné sur des jeux de données annotés afin d’apprendre à repérer des visages ou des plaques d’immatriculation dans différentes conditions :

• avec un éclairage variable,
• en cas d’occultation partielle,
• pour différents angles de caméra,
• sur des images fixes et des séquences vidéo.

Après la phase d’entraînement, le modèle d’inférence peut être utilisé pour détecter automatiquement les objets nécessitant une anonymisation. Du point de vue de la conformité réglementaire, il est essentiel que ce pipeline ne crée pas de fonction d’identification des personnes, sauf si cela est strictement justifié et licite. En pratique, un système de floutage des visages n’a pas besoin de comparer les visages à une base de référence ni d’attribuer à une personne un identifiant d’identité unique.

Dans un environnement comme Gallio PRO, cela signifie l’utilisation de l’IA pour détecter automatiquement les visages et les plaques d’immatriculation dans des photos et vidéos, puis les flouter. Cela n’inclut pas la détection automatique des logos, tatouages, badges nominatifs, documents ou contenus affichés sur des écrans. Ces éléments peuvent nécessiter une rédaction manuelle dans l’éditeur. Cette répartition réduit l’étendue du traitement des données et limite le risque de déployer des fonctions biométriques allant au-delà de l’objectif d’anonymisation.

Interdictions et systèmes à haut risque dans l’EU AI Act

Les restrictions les plus fortes concernent les usages que le législateur européen a considérés comme inadmissibles ou particulièrement intrusifs. Pour la pratique de la conformité, il est important de noter que tout usage du visage dans un système d’IA n’est pas interdit, mais que certains objectifs et certains contextes d’utilisation le sont.

Parmi les domaines particulièrement sensibles figurent :

• l’identification biométrique à distance en temps réel dans les espaces accessibles au public à des fins répressives, en principe interdite avec des exceptions prévues par la loi,
• certaines formes de catégorisation biométrique utilisant des données sensibles,
• la reconnaissance des émotions au travail et dans l’éducation, en principe interdite avec des exceptions limitées,
• les systèmes à haut risque utilisés dans des domaines tels que l’emploi, l’accès aux services, la migration ou la justice.

Pour les entités qui anonymisent des contenus visuels, la conclusion pratique est simple : la fonction de floutage des visages doit être séparée des fonctions d’identification. Plus le périmètre des données est limité et moins il y a d’opérations sur les caractéristiques biométriques, plus il est facile de démontrer la conformité de la finalité, la minimisation des données et la proportionnalité.

Obligations des fournisseurs et des utilisateurs de systèmes biométriques

Lorsqu’un système d’IA est qualifié de système à haut risque, l’AI Act impose un ensemble d’obligations au fournisseur ainsi qu’à l’entité qui utilise le système. Ces obligations complètent, sans les remplacer, les exigences du RGPD. Dans le domaine de l’image et de la vidéo, cela implique une évaluation technique parallèle à une évaluation de la protection des données.

Les principales obligations comprennent :

• la mise en place d’un système de gestion des risques,
• la garantie d’une qualité appropriée des données d’entraînement, de validation et de test,
• la tenue d’une documentation technique,
• l’enregistrement des événements dans la mesure requise par l’AI Act, dans le respect des principes de minimisation des données,
• la mise en place d’une supervision humaine,
• le respect des exigences en matière d’exactitude, de cybersécurité et de robustesse,
• la réalisation d’une procédure d’évaluation de la conformité avant la mise sur le marché ou la mise en service du système.

Pour l’utilisateur d’un système d’anonymisation de contenus visuels, il est essentiel de documenter que l’outil fonctionne exclusivement à des fins de protection de la vie privée et qu’il n’étend pas le traitement à l’identification biométrique. En pratique, des politiques techniques, des descriptions d’architecture, des tests de qualité de détection ainsi que des règles de conservation des fichiers sources et des fichiers de sortie sont utiles.

Paramètres clés et métriques des systèmes biométriques et des systèmes d’anonymisation

Pour évaluer un système d’IA appliqué aux photos et aux vidéos, une simple description fonctionnelle ne suffit pas. Des paramètres mesurables sont nécessaires. Leur choix dépend du fait que le système doit identifier des personnes ou seulement détecter des objets à flouter.

Pour les systèmes de détection, on utilise le plus souvent :

• precision – la part de détections correctes parmi l’ensemble des détections,
• recall – la part d’objets détectés parmi tous les objets présents dans le contenu,
• mAP – la précision moyenne pour différents seuils d’IoU, métrique typique de la détection d’objets,
• IoU – mesure du chevauchement entre la zone prédite et la zone de référence,
• latency per frame – temps de traitement par image ou par frame.

Pour les systèmes d’identification biométrique, on analyse plus souvent :

• FAR – False Accept Rate,
• FRR – False Reject Rate,
• EER – Equal Error Rate,
• ROC et AUC,
• rank-1 accuracy ou recall@k pour la recherche dans une galerie.

Dans un système d’anonymisation de photos et d’enregistrements, un recall élevé de détection est plus important qu’un classement d’identité. La raison est pratique : un visage non détecté ou une plaque d’immatriculation non détectée crée un risque de divulgation de données personnelles. C’est pourquoi, dans les processus de conformité, on adopte souvent des seuils de détection conservateurs, puis un contrôle opérateur pour les cas limites.

Références normatives et pratique de conformité

L’évaluation des systèmes biométriques appliqués à l’image et à la vidéo devrait s’appuyer sur des sources primaires. Les principaux textes et documents sont les suivants :

• le règlement (UE) 2024/1689 – AI Act, publié le 12 juillet 2024,
• le règlement (UE) 2016/679 – RGPD, en particulier les articles 4, 9, 25 et 35,
• les lignes directrices 3/2019 du Comité européen de la protection des données relatives au traitement des données à caractère personnel au moyen de dispositifs vidéo, adoptées le 29 janvier 2020,
• la norme ISO/IEC 23894:2023 – lignes directrices relatives à la gestion des risques en IA,
• la norme ISO/IEC 22989:2022 – concepts et terminologie de l’IA.

En pratique, pour un outil de floutage des visages et des plaques d’immatriculation, cela implique quelques principes. Premièrement, il convient de limiter la finalité du traitement à l’anonymisation ou à la pseudonymisation de contenus visuels. Deuxièmement, il faut démontrer que la fonction d’IA ne sert pas à l’identification biométrique. Troisièmement, il convient de maintenir un contrôle opérateur sur les contenus complexes, par exemple des plans avec un petit visage, du mouvement, des reflets ou une occultation partielle de l’objet.

Dans ce modèle, l’IA remplit une fonction de soutien à la protection des données, et non un rôle d’outil d’identification des personnes. Cette distinction est fondamentale, tant pour la classification des risques au regard de l’AI Act que pour l’évaluation de la licéité du traitement au titre du RGPD.