Miglioramento delle immagini con l'IA: cosa è consentito?

Che cos'è l'IA generativa e come funziona?

L'intelligenza artificiale generativa, spesso conosciuta in relazione a LLM come ChatGPT o Mistral, viene utilizzata anche nella generazione di immagini. Queste famiglie di modelli di generazione di immagini (ad esempio, modelli di diffusione) possono generare nuovi contenuti di immagine in modo completamente sintetico a partire da input esistenti, ad esempio un'immagine esistente e una richiesta di testo. A differenza dell'elaborazione tradizionale delle immagini, che corregge i colori o rimuove gli sfondi, l'intelligenza artificiale generativa crea un'immagine che non deriva più, pixel per pixel, dall'originale, ma gli somiglia soltanto. Il modello ricostruisce i volti, interpreta i dettagli o le parti mancanti del volto e inserisce informazioni basate su probabilità statistiche.

Quanto più scarsa è la qualità dell'immagine originale, tanto più l'IA deve "inventare". Questo aumenta il rischio che il risultato non corrisponda più esattamente al volto reale. In Photo Collect affrontiamo regolarmente questo problema quando forniamo consulenza alle aziende sull'uso dell'IA nei processi di identificazione.

Vantaggi dell'IA generativa e svantaggi delle immagini delle carte d'identità

L'IA generativa presenta molti vantaggi in campo creativo:

• È in grado di generare immagini esteticamente perfette: buona illuminazione, superfici cutanee perfette, denti impeccabili, sguardo limpido.
• Corregge automaticamente gli elementi di distrazione, ad esempio riflessi, occhiali, gioielli.
• Sostituisce l'abbigliamento esistente, ad esempio una maglietta con una camicia o un'uniforme.

Svantaggi per le immagini delle carte d'identità:

• La versione generata non mostra più il vero volto biometrico.
• Piccole variazioni nella distanza degli occhi, nella forma della mascella, nelle pupille o nella postura della testa possono essere sufficienti a compromettere i sistemi biometrici.
• C'è il rischio che l'IA "ottimizzi" una persona, ma che diventi più simile a un'altra persona rispetto all'originale.

Pertanto: poiché le immagini delle carte d'identità sono un elemento di identità, qualsiasi ricostruzione artificiale rappresenta un rischio significativo per la sicurezza e la conformità. Per ottenere immagini adeguate, è meglio utilizzare controlli analitici dell'intelligenza artificiale che, ad esempio, impediscano l'acquisizione con una posizione errata della testa.

Le immagini AI generative possono essere utilizzate per le carte d'identità?

Per le carte d'identità ufficiali (carta d'identità, passaporto, patente di guida), la risposta è chiaramente negativa.
L'IA generativa non è consentita perché può falsificare l'identificabilità biometrica. La maggior parte degli standard internazionali(ICAO, ISO) richiede un'immagine fotografica inalterata della persona reale.

Tuttavia, l'uso di immagini migliorate in modo generativo nelle aziende è fortemente sconsigliato anche dal punto di vista legale e della sicurezza:

1. Rischio di manipolazione: esiste un rischio elevato che le immagini generate non corrispondano esattamente alla persona reale.
2. Requisiti di sicurezza: In molte aziende, i badge sono utilizzati come mezzo di accesso. Un'identità alterata dall'intelligenza artificiale indebolisce la sicurezza dell'accesso.
3. Protezione dei dati e conformità: i set di dati che alterano artificialmente i volti possono essere considerati un'elaborazione biometrica non conforme.

Per questo motivo, Photo Collect lavora esclusivamente con processi non generativi:

• Controlli automatici di qualità e biometrici per verificare gli standard specificati (ad esempio, distanza pixel-occhi, allineamento della testa, sorriso).
• Rimozione dello sfondo, ritaglio, rotazione, centratura della testa per migliorare l'immagine senza modificare il volto stesso.

I volti rimangono sempre fedeli all'originale. Questo è fondamentale per soddisfare correttamente i requisiti delle aziende, delle autorità o delle organizzazioni che si occupano di sicurezza.

Le immagini AI migliorate generativamente sono deepfakes?

Il termine deepfake viene solitamente utilizzato per video/immagini manipolate o falsificate in modo improprio. Tecnicamente parlando, tuttavia, la fotografia di ritratto creata generativamente rientra nella stessa categoria:

• Non è autentico, ma sintetico.
• Può rappresentare in modo credibile una persona che non esiste.
• Mina l'assegnabilità tra volto e identità reale.

Nel contesto delle risorse umane, del controllo degli accessi e della sicurezza aziendale, un'immagine di questo tipo è quindi un deepfake funzionale, indipendentemente dal fatto che l'intenzione fosse o meno malevola.

Una carta d'identità dei dipendenti modificata in modo generativo potrebbe involontariamente ingannare i controlli autentici e, nel peggiore dei casi, facilitare l'accesso di una persona non autorizzata.

Perché Photo Collect non utilizza deliberatamente l'intelligenza artificiale generativa

Photo Collect utilizza l'intelligenza artificiale esclusivamente per i controlli di qualità, le analisi biometriche e l'elaborazione tecnica delle immagini, non per modificare i volti. Questo garantisce che:

• l'identità di una persona è rappresentata correttamente
• tutti i requisiti per le immagini identificative sono soddisfatti
• Le aziende soddisfano i requisiti di conformità e sicurezza

In particolare, i dipartimenti delle risorse umane e i team di sicurezza aziendale traggono vantaggio dal fatto che l'intero processo rimane scalabile, sicuro e legalmente pulito. Senza il rischio di cambiamenti sintetici dell'identità. Inoltre, i dati rimangono sempre in Svizzera e vengono elaborati solo per lo scopo contrattuale. In questo articolo affrontiamo ulteriori questioni legali relative alle foto dei dipendenti.

‍

‍