Crean una herramienta que detecta fotografías 'deepfake' con una efectividad del 94 % en retratos

Un grupo de especialistas en computación de la Universidad de Búfalo (EE.UU.) ha creado una herramienta que es capaz de detectar fotografías 'deepfake' (ultrafalsas, en español) con una efectividad del 94 % en imágenes en formato de retrato, según un artículo publicado recientemente en arXiv.

A través de un comunicado emitido el viernes pasado por la institución académica, se explica que esta tecnología analiza los reflejos de luz en los ojos para comprobar si la imagen en cuestión es verídica o ha sido generada mediante inteligencia artificial (IA).

"La córnea es casi como una semiesfera perfecta y es muy reflectante, entonces cualquier cosa que llegue al ojo con una emisión de luz de esas fuentes tendrá una imagen en la córnea", señaló Siwei Lyu, coautor del estudio.

¿Cómo funciona?

Los 'deepfakes' casi perfectos de Tom Cruise plantean preocupaciones sobre la tecnología y la seguridad

En este sentido, Lyu aseguró que ambos ojos deben tener patrones reflectantes muy similares porque observan lo mismo. "Es algo que normalmente no notamos cuando miramos una cara", puntualizó el experto forense digital.

Además, el texto indica que la mayoría de imágenes generadas por IA no logran que los reflejos en los ojos tengan la misma forma y color, posiblemente porque utiliza muchas fotos combinadas para generar la imagen falsa.

Lo que hace la herramienta es mapear la cara centrándose en los ojos. Primero examina los globos oculares y, posteriormente, la luz reflejada en cada uno de ellos. Entonces, compara con "increíble detalle" las posibles diferencias en la forma, la intensidad de la luz y otras características de la luz reflejada.

Tiene limitaciones

VIDEO: Microsoft crea un detector de fotos, videos y audios manipulados con inteligencia artificial

No obstante, el comunicado reconoce que la tecnología tiene limitaciones. Por ejemplo, necesita una fuente de luz reflejada y el hecho de que los destellos de luz de los ojos no coincidentes se pueden corregir durante la edición de la imagen.

Asimismo, la herramienta solo mira los píxeles individuales reflejados en los ojos, no la forma del ojo, las formas dentro de los ojos o la naturaleza de lo que se refleja en ellos. Otra desventaja del método empleado es que compara las imágenes de ambos ojos y si al sujeto le falta un ojo o este no es visible, la técnica falla.

Lyu subrayó que identificar 'deepfakes' es cada vez más importante, sobre todo en el mundo actual "hiperpartidista lleno de tensiones" relacionadas con la raza y el género y los peligros de la desinformación, especialmente con respecto a la violencia.

¿Te ha parecido interesante? ¡Déjanos tu opinión en los comentarios!