En los últimos años, el auge de los modelos generativos ha ido acompañado de una creciente facilidad para difundir desinformación a través de canales de comunicación digitales. El creciente realismo de las últimas imágenes generadas y la viralidad con la que se propaga la información, hacen de esto un problema real, el cual preocupa enormemente a la población y gobiernos de todo el mundo. Ante este contexto, el presente trabajo tiene como objetivo principal el desarrollo y entrenamiento de un modelo de inteligencia artificial, basado en redes neuronales convolucionales, capaz de distinguir entre imágenes reales e imágenes generadas sintéticamente. Este sistema constituye un primer paso hacia la creación de herramientas automáticas que contribuyan a mitigar los riesgos asociados a la desinformación visual. Además, los resultados obtenidos abren la puerta a futuras investigaciones orientadas a perfeccionar la detección de contenido sintético en distintos formatos y a su integración en plataformas de verificación de información en tiempo real.
Abstract:
In recent years, the rise of generative models has been accompanied by an increasing ease of spreading misinformation through digital communication channels. The growing realism of synthetically generated images and the viral nature of online information sharing have turned this into a serious issue, raising concerns among both the general public and governments worldwide. In this context, the main objective of this project is the development and training of an artificial intelligence model, based on Convolutional Neural Networks (CNNs), capable of distinguishing between real and synthetically generated images. This system represents an initial step toward the creation of automated tools aimed at mitigating the risks associated with visual misinformation. Furthermore, the results obtained pave the way for future research focused on improving synthetic content detection across different media formats and integrating such systems into real-time fact-checking platforms.
En los últimos años, el auge de los modelos generativos ha ido acompañado de una creciente facilidad para difundir desinformación a través de canales de comunicación digitales. El creciente realismo de las últimas imágenes generadas y la viralidad con la que se propaga la información, hacen de esto un problema real, el cual preocupa enormemente a la población y gobiernos de todo el mundo. Ante este contexto, el presente trabajo tiene como objetivo principal el desarrollo y entrenamiento de un modelo de inteligencia artificial, basado en redes neuronales convolucionales, capaz de distinguir entre imágenes reales e imágenes generadas sintéticamente. Este sistema constituye un primer paso hacia la creación de herramientas automáticas que contribuyan a mitigar los riesgos asociados a la desinformación visual. Además, los resultados obtenidos abren la puerta a futuras investigaciones orientadas a perfeccionar la detección de contenido sintético en distintos formatos y a su integración en plataformas de verificación de información en tiempo real.
Abstract:
In recent years, the rise of generative models has been accompanied by an increasing ease of spreading misinformation through digital communication channels. The growing realism of synthetically generated images and the viral nature of online information sharing have turned this into a serious issue, raising concerns among both the general public and governments worldwide. In this context, the main objective of this project is the development and training of an artificial intelligence model, based on Convolutional Neural Networks (CNNs), capable of distinguishing between real and synthetically generated images. This system represents an initial step toward the creation of automated tools aimed at mitigating the risks associated with visual misinformation. Furthermore, the results obtained pave the way for future research focused on improving synthetic content detection across different media formats and integrating such systems into real-time fact-checking platforms. Read More
Related posts:
Diseño e implementación de una aplicación para la identificación de imágenes generadas artificialmente basada en interpretabilidad
Transformación de datos tabulares a imágenes sintéticas: optimización y evaluación de la librería TINTOlib en Python
Detección automática de noticias falsas en redes sociales usando modelos de procesamiento de lenguaje natural
68% of people are worried about misinformation due to deepfakes
Estudio sobre la precisión de los modelos de difusión condicionados mediante landmarks faciales
Monitorización de información falsa mediante Análisis de Redes Sociales y Procesamiento del Lenguaje Natural