Mejoras de imagen con IA: ¿qué está permitido?

¿Qué es la IA generativa y cómo funciona?

La IA generativa, a menudo conocida en relación con LLM como ChatGPT o Mistral, también se utiliza en la generación de imágenes. Estas familias de modelos de generación de imágenes (por ejemplo, modelos de difusión) pueden generar nuevos contenidos de imagen de forma completamente sintética a partir de entradas existentes, por ejemplo, una imagen existente y un texto. A diferencia del tratamiento tradicional de imágenes, que corrige colores o elimina fondos, la IA generativa crea una imagen que ya no procede píxel a píxel del original, sino que sólo se le parece. El modelo reconstruye los rostros, interpreta los detalles o partes de la cara que faltan y rellena la información basándose en probabilidades estadísticas.

Cuanto peor sea la calidad de la imagen original, más tendrá que "inventar" la IA. Esto aumenta el riesgo de que el resultado ya no se corresponda exactamente con el rostro real. En Photo Collect abordamos regularmente este problema cuando asesoramos a las empresas sobre el uso de la IA en los procesos de identificación.

Ventajas de la IA generativa y desventajas de las imágenes del DNI

La IA generativa tiene muchas ventajas en el campo creativo:

• Puede generar imágenes estéticamente perfectas: buena iluminación, superficies cutáneas perfectas, dientes impecables, una mirada clara.
• Corrige automáticamente los elementos que distraen la atención, como reflejos, gafas o joyas.
• Sustituye la ropa existente, por ejemplo, una camiseta por una camisa o un uniforme.

Desventajas para las imágenes de carnés de identidad:

• La versión generada ya no muestra el rostro biométrico real.
• Pequeños cambios en la distancia entre los ojos, la forma de la mandíbula, las pupilas o la postura de la cabeza pueden bastar para perjudicar a los sistemas biométricos.
• Existe el riesgo de que la IA "optimice" a una persona, pero se parezca más a otra persona que a la original.

Por lo tanto: dado que las imágenes de los carnés de identidad son un rasgo de identidad, cualquier reconstrucción artificial supone un riesgo importante para la seguridad y el cumplimiento de la normativa. Para obtener imágenes adecuadas, es mejor utilizar comprobaciones analíticas de IA que, por ejemplo, impidan la captura con una posición incorrecta de la cabeza.

¿Pueden utilizarse imágenes de IA generativa para los carnés de identidad?

Para los documentos de identidad oficiales (DNI, pasaporte, permiso de conducir), la respuesta es claramente no.
La IA generativa no está permitida, ya que puede falsear la identificabilidad biométrica. La mayoría de las normas internacionales(OACI, ISO) exigen una imagen fotográfica inalterada de la persona real.

Sin embargo, el uso de imágenes mejoradas generativamente en las empresas también está totalmente desaconsejado desde el punto de vista legal y de la seguridad:

1. Riesgo de manipulación: Existe un alto riesgo de que las imágenes generadas no se correspondan exactamente con la persona real.
2. Requisitos de seguridad: En muchas empresas, las tarjetas de identificación se utilizan como medio de acceso. Una identidad alterada por IA debilita la seguridad de acceso.
3. Protección de datos y conformidad: los conjuntos de datos que alteran artificialmente los rostros pueden considerarse tratamiento biométrico no conforme.

Por este motivo, Photo Collect trabaja exclusivamente con procesos no generativos:

• Controles automáticos de calidad y biométricos para verificar los estándares especificados (por ejemplo, distancia ocular entre píxeles, alineación de la cabeza, sonrisa).
• Eliminación del fondo, recorte, rotación, centrado de la cabeza para mejorar la imagen sin cambiar el rostro en sí.

Los rostros se mantienen siempre fieles al original. Esto es crucial para cumplir correctamente los requisitos de empresas, autoridades u organizaciones críticas para la seguridad.

¿Son deepfakes las imágenes de IA mejoradas generativamente?

El término deepfake suele utilizarse para referirse a vídeos/imágenes manipulados o falsificados indebidamente. Sin embargo, técnicamente hablando, los retratos fotográficos creados de forma generativa entran en la misma categoría:

• No es auténtico, sino sintético.
• Puede representar de forma creíble a una persona que no existe.
• Socava la asignabilidad entre rostro e identidad real.

En el contexto de los RRHH, el control de acceso y la seguridad corporativa, una imagen de este tipo es, por tanto, una deepfake funcional, independientemente de si la intención era maliciosa o no.

Una tarjeta de identificación de empleado modificada genéricamente podría engañar involuntariamente a los auténticos controles y, en el peor de los casos, facilitar el acceso a una persona no autorizada.

Por qué Photo Collect no utiliza deliberadamente IA generativa

Photo Collect utiliza IA exclusivamente para comprobaciones de calidad, análisis biométricos y procesamiento técnico de imágenes, no para modificar rostros. Esto garantiza que:

• la identidad de una persona se representa correctamente
• se cumplen todos los requisitos para las imágenes del DNI
• Las empresas cumplen sus requisitos de conformidad y seguridad

Los departamentos de RRHH y los equipos de seguridad corporativa en particular se benefician del hecho de que todo el proceso sigue siendo escalable, seguro y legalmente limpio. Sin el riesgo de cambios de identidad sintéticos. Además, los datos permanecen en Suiza en todo momento y sólo se procesan para los fines contractuales. En este artículo abordamos otras cuestiones jurídicas relacionadas con las fotos de los empleados.

‍

‍