Cómo se están usando las imágenes generadas por IA en campañas de desinformación

La fotografía viral de un político en una protesta a la que nunca asistió. La imagen con la marca de agua de una agencia de noticias que muestra un evento catastrófico que nunca ocurrió. La foto de "testigo presencial" de una celebridad cometiendo un delito, compartida decenas de miles de veces antes de ser identificada como sintética. Las imágenes generadas por IA se han convertido en una herramienta estándar en las operaciones de desinformación, usadas por actores estatales, grupos políticos y actores individuales de mala fe para fabricar "evidencia" de afirmaciones que son completamente falsas. Entender cómo funcionan estas operaciones, y cómo identificar imágenes fabricadas, es cada vez más una habilidad central de alfabetización mediática.

Cómo se construyen las campañas de imágenes de desinformación

Una campaña madura de imágenes de desinformación tiene varios componentes trabajando juntos. Generación: las herramientas de imágenes con IA producen las fotografías sintéticas. Midjourney, DALL-E, Stable Diffusion y herramientas de desinformación creadas específicamente para este fin (algunas no disponibles públicamente) pueden generar bajo demanda imágenes fotorrealistas de personas específicas en situaciones específicas. La ingeniería de indicaciones se ha convertido en una habilidad en las comunidades de desinformación: elaborar indicaciones que evadan los filtros de seguridad y produzcan imágenes convincentemente documentales es un oficio que se puede aprender.

Envejecimiento y degradación: las imágenes de IA sin procesar a menudo se ven demasiado pulidas. Los operadores de desinformación suelen aplicar posprocesamiento para que las imágenes se vean más como fotografías auténticas: añadiendo grano, artefactos de compresión, metadatos EXIF de cámaras reales y una gradación de color que imita dispositivos o plataformas específicas. Esto dificulta la detección tanto para las herramientas automatizadas como para los observadores humanos.

Distribución en red: las imágenes se publican primero en plataformas con moderación laxa, y luego se comparten en toda la red para aumentar el número de vistas. A menudo, una publicación "semilla" en una plataforma marginal se captura en pantalla y se vuelve a compartir en plataformas convencionales, de modo que la difusión en el mainstream muestra una captura de pantalla en lugar de la original, lo que dificulta la detección basada en el hash de la imagen. Las cuentas coordinadas amplifican el contenido, llevándolo a la sección de tendencias antes de que la moderación pueda responder.

Lavado de contexto: las imágenes de desinformación más efectivas van acompañadas de un contexto falso en lugar de ser fabricadas en su totalidad. Las imágenes reales usadas fuera de contexto, o las imágenes reales con leyendas fabricadas, a menudo son más efectivas que las imágenes completamente sintéticas porque son más difíciles de desmentir de manera definitiva. La imagen sintética es más poderosa cuando "confirma" una afirmación que ya se ha sembrado por otros medios.

Casos documentados notables

La explosión en el Pentágono de 2023: una imagen sintética que representaba una gran explosión cerca del Pentágono se volvió viral en mayo de 2023, causando una breve volatilidad en el mercado de valores antes de ser desmentida. La imagen fue generada por una herramienta de imágenes con IA y no tenía ninguno de los detalles contextuales que la situarían en el lugar real, un detalle pequeño que pasó desapercibido para muchos de quienes la compartieron.

Deepfakes políticos en múltiples elecciones de 2024: en las elecciones de 2024 de varios países, circularon ampliamente en redes sociales imágenes generadas por IA de candidatos en contextos comprometedores o delictivos. El análisis posterior a las elecciones identificó campañas coordinadas de imágenes sintéticas en al menos ocho elecciones nacionales.

Imágenes humanitarias sintéticas: las imágenes generadas por IA de zonas de conflicto y desastre se han usado tanto para aumentar como para suprimir la atención sobre eventos reales: generando imágenes sintéticas de sufrimiento para motivar donaciones a organizaciones benéficas fraudulentas, y creando imágenes sintéticas que afirman mostrar conflictos que no son tan graves como se reporta.

Cómo identificar imágenes de desinformación generadas por IA

La detección comienza con el escrutinio antes de compartir. El hábito más importante es hacer una pausa antes de difundir cualquier imagen que provoque una fuerte reacción emocional o que confirme una creencia preexistente: estas son precisamente las imágenes que las campañas de desinformación están diseñadas para producir.

La búsqueda inversa de imágenes (Google Images, TinEye, Yandex) es una herramienta de primera línea. Si la imagen no tiene existencia previa en la web, es una noticia genuina de última hora o recién creada. Si aparece en contextos incoherentes con el contexto reclamado, se está usando de forma engañosa.

Examina los detalles. La generación de imágenes con IA en 2026 es excelente en cuanto a coherencia global (hacer que una escena se vea bien a primera vista), pero todavía tiene dificultades con detalles específicos bajo un examen cercano. Las manos y los dedos siguen siendo un punto débil para la mayoría de los modelos. El texto de fondo suele ser un sinsentido o estar sutilmente mal. Las inconsistencias de iluminación aparecen al examinar de cerca las sombras y los reflejos. Los logotipos, insignias y letreros institucionales a menudo están ligeramente mal. Las personas en el fondo pueden estar borrosas o tener problemas anatómicos.

Revisa los metadatos. Las fotografías documentales reales suelen llevar datos EXIF: modelo de cámara, coordenadas GPS, marca de tiempo, información del lente. Las imágenes generadas por IA suelen no tener datos EXIF, o tener metadatos que no coinciden con el contexto reclamado. Herramientas como Jeffrey's Exif Viewer o ExifTool facilitan esta comprobación. Ten en cuenta que los metadatos pueden fabricarse y eliminarse: la ausencia de metadatos sospechosos no es prueba de autenticidad, pero la presencia de metadatos inconsistentes es una señal de alerta.

Usa herramientas de detección de IA. SUS IT y herramientas similares analizan las propiedades espectrales y estadísticas de las imágenes para identificar firmas de generación por IA. Estas herramientas examinan características que incluyen las propiedades del dominio de frecuencia (las imágenes de IA tienen patrones característicos en sus transformadas de Fourier), artefactos de síntesis de textura y huellas dactilares específicas del modelo generador. Para imágenes que han sido comprimidas, recortadas o procesadas después de la generación, la detección es más difícil, pero una señal de detección fuerte es una evidencia significativa.

Revisa la cadena de la fuente. ¿Dónde se publicó esta imagen por primera vez? Las capturas de pantalla de capturas de pantalla oscurecen el origen. Cuanto más lejos estés de la fuente original, menos podrás verificar. Para imágenes de noticias, revisa si algún servicio de cable legítimo (AP, Reuters, AFP) ha publicado la imagen con verificación editorial. Si una imagen solo está disponible como captura de pantalla de una publicación no verificable en redes sociales, trátala como no verificada.

La perspectiva forense

Las herramientas de forense digital van más allá de la inspección visual. El Análisis de Nivel de Error (ELA) resalta las áreas de una imagen que se han comprimido en diferentes niveles, lo cual puede indicar manipulación, aunque esta técnica tiene limitaciones con la generación moderna de IA, que produce una compresión consistente en toda la imagen. El análisis del dominio de frecuencia examina la transformada de Fourier de una imagen en busca de patrones asociados con la generación de IA, un método más difícil de vencer con posprocesamiento que el análisis a nivel de píxel. El análisis de patrones de ruido identifica el perfil de ruido específico de diferentes sensores de cámara, lo que puede verificar o contradecir las afirmaciones sobre el origen de una imagen. Las organizaciones de noticias profesionales usan una combinación de estas técnicas con analistas capacitados.

Respuesta a nivel de plataforma

Las principales plataformas han invertido significativamente en la detección de imágenes de IA, pero sus enfoques difieren. Meta ha implementado el etiquetado automático "Hecho con IA" usando metadatos C2PA (un estándar técnico que permite anotar la generación de IA de forma criptográfica en el archivo de la imagen al momento de su creación) y sus propios modelos de detección. YouTube aplica una detección similar al contenido que incluye imágenes. TikTok combina la detección automática con la divulgación obligatoria por parte del creador. El estándar C2PA, respaldado por Adobe, Microsoft y otros, representa la solución a largo plazo más prometedora: incrusta un registro a prueba de manipulaciones del origen y el historial de edición de una imagen en el propio archivo. La adopción se está acelerando, pero aún no es universal.

Qué pueden hacer los lectores y espectadores

La orientación práctica es simple, pero requiere una aplicación constante. Haz una pausa antes de compartir. La reacción emocional que te hace querer compartir algo de inmediato es exactamente lo que explotan las campañas de desinformación. Revisa la fuente. Dos fuentes confiables e independientes son el mínimo para cualquier afirmación extraordinaria. Busca lo que falta. Las imágenes de desinformación suelen carecer del contexto confirmatorio que proporciona la fotografía documental genuina: sin fuente original, sin recogida por un servicio de cable, sin cobertura de los medios locales en el lugar representado. Usa las herramientas disponibles. La búsqueda inversa de imágenes, la inspección de metadatos y las herramientas de detección de IA son gratuitas y toman menos de un minuto en aplicarse. Reporta la desinformación sospechada a la plataforma y, cuando sea relevante, a organizaciones de verificación de hechos. Cuanto más rápido se marque el contenido sintético, menos daño causa.