Este nuevo algoritmo detecta deepfakes el 94 % de las veces fijándose en cómo la luz se refleja en los ojos
Una nueva herramienta de inteligencia artificial proporciona una forma sorprendentemente sencilla de detectar si lo que estamos viendo es un deepfake o se trata de una imagen real: analizar cómo la luz se refleja en los ojos.
El sistema ha sido desarrollado por investigadores informáticos de la Universidad de Buffalo. En pruebas con fotos de estilo retrato, la herramienta fue 94% efectiva en la detección de imágenes Deepfake.
Análisis de las córneas
Un Deepfake (acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo) es una técnica de inteligencia artificial que permite editar vídeos falsos de personas que aparentemente son reales, utilizando para ello algoritmos de aprendizaje no supervisados, conocidos en español como RGAs (Red generativa antagónica), y vídeos o imágenes ya existentes. Muchas veces, el ojo humano puede ser engañado, por ello se ha desarrollado este nuevo algoritmo para identificarlos.
El sistema expone las falsificaciones analizando las córneas, que tienen una superficie similar a un espejo y que genera patrones reflectantes cuando se ilumina con luz.
En una foto de un rostro real tomada con una cámara, el reflejo de los dos ojos será similar porque están viendo lo mismo. Pero las imágenes Deepfake generalmente no logran capturar con precisión esta semejanza, mostrando diferentes formas geométricas o ubicaciones no coincidentes de los reflejos.
El sistema de inteligencia artificial busca estas discrepancias trazando un rostro y analizando la luz reflejada en cada globo ocular. Genera una puntuación que sirve como métrica de similitud. Cuanto menor sea la puntuación, más probable es que el rostro sea un Deepfake.
Por supuesto, el sistema tiene limitaciones: es eficaz únicamente en imágenes de retratos. Si el rostro de la imagen no está mirando a la cámara, es probable que el sistema produzca falsos positivos. También los deepfakes más sosfisticados, donde hay un trabajo de procesado posterior para evitar discrepancias en los reflejos de los ojos, quedarán a salvo del escrutinio de este nuevo algoritmo.
