Los investigadores están desarrollando un prototipo para identificar imágenes falsas generadas por IA
Los deepfakes se están extendiendo rápidamente y cada vez es más difícil reconocerlos como tales. Un grupo de informática forense de la Universidad Friedrich-Alexander de Erlangen-Núremberg (FAU) está trabajando con secunet Security Networks AG en una herramienta que reconoce de forma automática y fiable imágenes generadas por IA. El proyecto está financiado con 350.000 euros por la Agencia Federal de Innovaciones Avanzadas SPRIN-D.
Angela Merkel conversa con Vladimir Putin en la taberna al aire libre. El Papa Francisco está en la mesa de mezclas como DJ. Tom Cruise aparece en un estrecho abrazo con Paris Hilton. Estas fotografías circulan por Internet y se hace clic en ellas millones de veces, pero son falsificaciones de aspecto realista, las llamadas deepfakes. «Los generadores de deepfake son cada vez más potentes y además son de libre acceso», afirma el PD Dr. Christian Riess, jefe del grupo de investigación Seguridad Multimedia de la Cátedra de Infraestructuras de Seguridad TI. «Como resultado, las fotos y vídeos con contenido manipulado se difunden rápidamente y parecen cada vez más reales, en el mejor de los casos, simplemente entretenidos». Sin embargo, también pueden contener explosivos políticos y sociales si las falsificaciones no se reconocen como tales.
Un enfoque fundamentalmente diferente
Un proyecto de la FAU se ocupa precisamente de este problema. Los especialistas en TI de Erlangen están desarrollando junto con secunet Security Networks AG un prototipo universal que permitirá detectar de forma fiable los deepfakes procedentes de distintos generadores de IA. «Nuestro enfoque se diferencia fundamentalmente de otros métodos», explica Sandra Bergmann, estudiante de doctorado en el grupo de trabajo de Riess. “Los programas de reconocimiento de imágenes normalmente se entrenan presentándoles una gran cantidad de ejemplos diferentes. Luego, el software aprende a clasificar las imágenes y a distinguir las reales de las generadas por IA”.
El prototipo desarrollado por FAU y secunet también utiliza clasificación de imágenes. Además, se basa en grandes redes neuronales previamente entrenadas a partir de generadores de IA para extraer características de la imagen. «La ventaja es que con nuestra herramienta también podemos comprobar imágenes creadas por generadores de deepfake desconocidos hasta ahora», afirma Bergmann. «Esto permite que la herramienta reaccione ad hoc sin haber entrenado previamente al detector con miles de datos». El objetivo de los investigadores de la FAU es reunir tantos detectores y rastros de datos como sea posible y así hacer que el prototipo sea robusto contra errores.
Al mismo tiempo, secunet garantiza que la herramienta se pueda integrar fácilmente en las infraestructuras digitales existentes y, por ejemplo, sea capaz de identificar de forma fiable deepfakes en las plataformas de redes sociales. “La alta confiabilidad en la detección de deepfakes es solo uno de los requisitos de la solución. «También hay que tomar una decisión rápidamente, incluso en el caso de varias solicitudes paralelas que una solicitud realiza a un sistema de reconocimiento», explica el Dr. Benjamin Tams, director del proyecto en secunet.
¿Qué es SPRIN-D?
SPRIN-D es una iniciativa del Ministerio Federal de Educación e Investigación y se considera una incubadora de innovaciones revolucionarias en Alemania y Europa. Identifica, valida, financia y apoya proyectos o emprendimientos que tienen potencial para generar innovación revolucionaria. A diferencia de la financiación pura para investigación, SPRIN-D tiene como objetivo apoyar nuevos productos, tecnologías, modelos comerciales y servicios comercializables que mejoren de manera sostenible las vidas de la mayor cantidad de personas posible. Para desarrollar el prototipo, los investigadores de la FAU utilizan sus muchos años de experiencia en la detección de deepfake y su especial conocimiento en el campo de la compresión de imágenes respaldada por IA. FAU News. Traducido al español
Contacto