En los últimos años, se ha experimentado un auge exponencial de modelos de generación de imágenes, las cuales son a su vez cada vez más realistas, favoreciendo con ello la equivocación de los usuarios y por tanto, creando un creciente ecosistema de desinformación. Por otra parte, las herramientas de detección y discriminación de este tipo de contenidos es escaso y no está estandarizado para el público general. Esta situación genera que haya una distancia evidente en el desarrollo de ambos tipos de herramientas (las de generación de imágenes y las de detección de imágenes falsas). Ante este contexto, el presente trabajo tiene como objetivo principal el desarrollo de una herramienta sencilla y práctica que permita luchar contra la incertidumbre que estas imágenes generan, utilizando modelos de inteligencia artificial que permitan discernir cuáles de estas están generadas sintéticamente, aplicando técnicas de explicación de los resultados obtenidos con el fin de entenderlos. Además, esta herramienta estará orientada a actualizarse de una forma sencilla que permita seguir el ritmo a los nuevos modelos generativos.
Abstract:
In recent years, there has been an exponential boom in image generation models, which have become increasingly realistic. This realism contributes to user confusion and facilitates the spread of misleading content, creating a growing ecosystem of misinformation. At the same time, detection and discrimination tools for this type of content remain scarce and are not standardized or easily accessible to the general public. This situation reveals a clear gap between the development of generative models and the tools designed to detect them. In this context, the main objective of this project is to develop a simple and practical tool to combat the uncertainty generated by such images, using artificial intelligence models capable of discerning which ones are synthetically generated. To enhance interpretability, explanation techniques will be applied to clarify the results obtained. Furthermore, the tool will be designed for easy updating, allowing it to keep pace with the rapid evolution of new generative models.
En los últimos años, se ha experimentado un auge exponencial de modelos de generación de imágenes, las cuales son a su vez cada vez más realistas, favoreciendo con ello la equivocación de los usuarios y por tanto, creando un creciente ecosistema de desinformación. Por otra parte, las herramientas de detección y discriminación de este tipo de contenidos es escaso y no está estandarizado para el público general. Esta situación genera que haya una distancia evidente en el desarrollo de ambos tipos de herramientas (las de generación de imágenes y las de detección de imágenes falsas). Ante este contexto, el presente trabajo tiene como objetivo principal el desarrollo de una herramienta sencilla y práctica que permita luchar contra la incertidumbre que estas imágenes generan, utilizando modelos de inteligencia artificial que permitan discernir cuáles de estas están generadas sintéticamente, aplicando técnicas de explicación de los resultados obtenidos con el fin de entenderlos. Además, esta herramienta estará orientada a actualizarse de una forma sencilla que permita seguir el ritmo a los nuevos modelos generativos.
Abstract:
In recent years, there has been an exponential boom in image generation models, which have become increasingly realistic. This realism contributes to user confusion and facilitates the spread of misleading content, creating a growing ecosystem of misinformation. At the same time, detection and discrimination tools for this type of content remain scarce and are not standardized or easily accessible to the general public. This situation reveals a clear gap between the development of generative models and the tools designed to detect them. In this context, the main objective of this project is to develop a simple and practical tool to combat the uncertainty generated by such images, using artificial intelligence models capable of discerning which ones are synthetically generated. To enhance interpretability, explanation techniques will be applied to clarify the results obtained. Furthermore, the tool will be designed for easy updating, allowing it to keep pace with the rapid evolution of new generative models. Read More
Related posts:
Detección y clasificación de aeronaves en imágenes SAR mediante machine learning y generación sintética con modelos de difusión
Redes neuronales convolucionales para detectar imágenes sintéticas
Diseño e implementación de una solución de estimación de mapas de profundidad a partir de vídeo monocular basada en aprendizaje profundo
Comparative Analysis of Computer Vision Techniques for Infrastructure Detection
Aplicación de modelos YOLO-NAS y YOLOv8 en sistemas seguimiento de múltiples objetos
Sistema de detección y clasificación automática de anomalías en radiografías de tórax utilizando Deep Learning