Detección de imágenes generadas por modelos de difusión mediante técnicas de aprendizaje profundo

Abstract

Con el transcurso de los años, han surgido nuevas tecnologías de generación de imágenes sintéticas, como los modelos de difusión, que han mejorado notablemente en cuanto a realismo. Esta evolución plantea un gran desafío en términos de detección, ya que estas imágenes pueden ser indistinguibles a simple vista de las fotografías reales. Esto conlleva riesgos significativos, como el desarrollo de fakes news y montajes manipulados digitalmente, que pueden ser utilizados con fines maliciosos, desde la desinformación hasta la suplantación de identidad. Ante este panorama, se vuelve imprescindible desarrollar métodos más robustos para la verificación de la autenticidad de las imágenes. Este trabajo se enfoca en el desarrollo de una herramienta capaz de detectar entre imágenes reales y sintéticas. Para ello, se diseñaron y evaluaron distintos modelos basados en aprendizaje profundo, con el objetivo de analizar los rastros característicos que dejan los generadores de imágenes. Los resultados obtenidos son prometedores, alcanzando una precisión del 99% en la clasificación de imágenes reales frente a sintéticas, incluso al enfrentarse a versiones más recientes de modelos generativos no vistas durante el entrenamiento. No obstante, se propone mejorar y diversificar el conjunto de datos utilizado con el fin de aumentar la robustez y generalización del modelo.

Over the years, new technologies for generating synthetic images have emerged, such as diffusion models, which have significantly improved in terms of realism. This evolution presents a major challenge in terms of detection, as these images can be indistinguishable from real photographs to the naked eye. This entails significant risks, such as the spread of fake news and digitally manipulated montages, which can be used for malicious purposes, ranging from misinformation to identity theft. In this context, it becomes essential to develop more robust methods for verifying the authenticity of images. This work focuses on the development of a tool capable of detecting real and synthetic images. To achieve this, various deep learning models were designed and evaluated, with the goal of analyzing the characteristic traces left by generative models. The results obtained are promising, reaching an accuracy of 99% in classifying real versus synthetic images, even when tested against newer versions of generative models not seen during training. Nevertheless, it is proposed to improve and diversify the dataset in order to enhance the model’s robustness and generalization capabilities.