Améliorations d'images avec l'IA - qu'est-ce qui est autorisé ?

Qu'est-ce que l'IA générative et comment fonctionne-t-elle ?

L'IA générative, souvent connue en relation avec des LLM tels que ChatGPT ou Mistral, est également utilisée dans la génération d'images. Ces familles de modèles générateurs d'images (par exemple les modèles de diffusion) peuvent générer de manière entièrement synthétique de nouveaux contenus d'images à partir d'entrées existantes, par exemple une image existante et un prompt de texte. Contrairement au traitement classique des images, qui corrige les couleurs ou supprime les arrière-plans, l'IA générative crée une image qui ne provient plus du modèle pixel par pixel, mais qui y ressemble simplement. Le modèle reconstruit les visages, interprète les détails ou les parties du visage manquantes et remplit les informations sur la base de probabilités statistiques.

Plus la qualité initiale de l'image est mauvaise, plus l'IA doit "inventer". Le risque augmente donc que le résultat ne corresponde plus exactement au visage réel. Chez Photo Collect , nous abordons régulièrement cette problématique lorsque nous conseillons les entreprises sur l'utilisation de l'IA dans les processus d'identification.

Avantages de l'IA générative et inconvénients des images d'identification

L'IA générative présente de nombreux avantages dans le domaine de la création :

• Elle peut générer des images esthétiquement parfaites - un bon éclairage, des surfaces de peau parfaites, des dents impeccables, un regard clair.
• Elle corrige automatiquement les éléments gênants, par exemple les reflets, les lunettes, les bijoux.
• Remplace des vêtements existants, par exemple un T-shirt par une chemise ou un uniforme.

Inconvénients pour les images d'identification :

• La version générée ne montre plus le vrai visage biométrique.
• De petites modifications de la distance entre les yeux, de la forme de la mâchoire, des pupilles ou de la position de la tête peuvent suffire à compromettre les systèmes biométriques.
• Il existe un risque que l'IA "optimise" une personne, mais qu'elle devienne ainsi plus proche d'une autre personne que de l'original.

Par conséquent, étant donné que les images d'identification constituent un élément d'identité, toute reconstruction artificielle représente un risque considérable en termes de sécurité et de conformité. Pour obtenir des images appropriées, il vaut mieux utiliser des contrôles IA analytiques qui empêchent par exemple la capture avec une position de tête incorrecte.

Les images d'IA génératives peuvent-elles être utilisées pour les cartes d'identité ?

Pour les documents d'identité officiels (carte d'identité, passeport, permis de conduire), la réponse est clairement non.
L'IA générative n'est pas autorisée, car elle peut fausser l'identification biométrique. La plupart des normes internationales(OACI, ISO) exigent une image photographique non modifiée de la personne réelle.

Mais même pour une utilisation en entreprise, il est fortement déconseillé, tant sur le plan juridique que sur celui de la sécurité, d'utiliser des images améliorées par génération :

1. Risque de manipulation : le risque que les images générées ne correspondent pas exactement à la personne réelle est élevé.
2. exigences en matière de sécurité : Dans de nombreuses entreprises, les badges servent de moyen d'accès. Une identité modifiée par l'IA affaiblit la sécurité d'accès.
3. Confidentialité et conformité : les ensembles de données qui modifient artificiellement les visages peuvent être considérés comme un traitement biométrique non conforme.

Pour cette raison, Photo Collect travaille exclusivement avec des procédés non génératifs :

• Contrôles automatiques de la qualité et de la biométrie pour vérifier les normes prédéfinies (p. ex. écart entre les yeux des pixels, orientation de la tête, sourire).
• Suppression de l'arrière-plan, recadrage, rotation, centrage de la tête pour améliorer l'image sans modifier le visage en lui-même.

Les visages restent toujours fidèles à l'original. Ceci est essentiel pour répondre correctement aux exigences des entreprises, des autorités ou des organisations à la sécurité critique.

Les images d'IA améliorées par génération sont-elles des deepfakes ?

Le terme de deepfake est généralement utilisé pour désigner des vidéos/images manipulées de manière abusive ou falsifiées. D'un point de vue technique, la photographie de portrait générée relève toutefois de la même catégorie :

• Elle n'est pas authentique, mais synthétique.
• Elle peut donner une image crédible d'une personne qui n'existe pas sous cette forme.
• Elle sape l'assignation entre le visage et l'identité réelle.

Dans le contexte des RH, du contrôle d'accès et de la sécurité d'entreprise, une telle image est donc un deepfake fonctionnel, que l'intention soit malveillante ou non.

Un badge d'employé modifié de manière générative pourrait involontairement tromper de vrais contrôles et, dans le pire des cas, faciliter l'accès d'une personne non autorisée.

Pourquoi Photo Collect n'utilise délibérément pas d'IA générative

Photo Collect utilise l'IA exclusivement pour le contrôle de la qualité, l'analyse biométrique et le traitement technique des images - et non pour modifier les visages. Cela garantit que :

• l'identité d'une personne est correctement représentée
• toutes les exigences relatives aux images d'identification sont respectées
• les entreprises remplissent leurs objectifs de conformité et de sécurité

Les services RH et les équipes de sécurité de l'entreprise en particulier profitent du fait que l'ensemble du processus reste évolutif, sûr et juridiquement propre. Sans risques liés à des changements d'identité synthétiques. De plus, les données restent à tout moment en Suisse et ne sont traitées que dans le but contractuel. Nous traitons d'autres questions juridiques relatives aux photos des collaborateurs dans cet article.

‍

‍