Recursos

El veloz avance de las imágenes, vídeos y audios creados con inteligencia artificial generativa hace necesario entrenar la mirada y hacerla crítica para detectar sus puntos débiles (que los tienen) y conocer herramientas que nos puedan ayudar a estos contenidos

La inteligencia artificial generativa avanza a pasos agigantados y ya es capaz de crear imágenes, vídeos o audios tan realistas que pueden pasar fácilmente por contenido real. Esta tecnología presenta aspectos ventajosos, como pueden ser la velocidad de creación, la capacidad generativa de los algoritmos, el abaratamiento de los costos… pero, al margen de los importantes debates sobre los peligros para la creatividad o la destrucción de mano de obra humana, su capacidad para resultar realista la convierte en una herramienta muy útil para generar desinformación. 

Imágenes falsas sobre la DANA de València, la guerra en Gaza, sobre los candidatos a las elecciones estadounidenses, pornografía infantil con IA… Hay miles de ejemplos. Incluso en el mundo del arte se han colado ‘fakes’. En 2023, el jurado del prestigioso premio fotográfico World Press Photo dió el primer premio en una de sus categorías a una imagen generada por inteligencia artificial. Ni el ojo más experto se salva de que se la cuelen.

Es por eso que es necesaria no sólo la concienciación sobre la existencia de estas imágenes y la confusión que pueden generar, si no entrenar la mirada y hacerla crítica para detectar sus puntos débiles (que los tienen) y conocer algunas herramientas que nos puedan ayudar a detectarlas. ¿Cómo lo hacemos?

Antes que nada, hay que saber que no siempre la artificialidad de una imagen se oculta. En muchas ocasiones, los propios autores ya indican que se trata de inteligencia artificial. Para poderlo identificar hay que localizar palabras clave como «IA», «DALL-E», «Midjourney» u otros nombres de herramientas de inteligencia artificial generativa, algo que puede resultar difícil para aquellos no avezados en esta tecnología. Por otro lado, algunos generadores de imágenes agregan marcas de agua a sus creaciones. Suelen ser sutiles y colocarse en una de las esquinas de la imagen, por lo que hay que estar atentos.

La mirada y el pensamiento crítico y reflexivo son nuestras principales herramientas para defendernos de la desinformación en general. Por eso, antes de dar por válido cualquier contenido es necesario hacerse preguntas. ¿Es creíble lo que vemos o escuchamos? ¿Es plausible que dos políticos antagónicos como Pablo Iglesias y Santiago Abascal se den la mano sonrientes paseando por la calle? ¿Es razonable que el Papa aparezca vestido con un llamativo anorak de la marca de lujo Balenciaga? ¿Crees que es posible que Donald Trump fuera detenido por decenas de policías en plena calle en Nueva York o que Kamala Harris se vistiera con un uniforme comunista? El sentido común es nuestro principal aliado para detectar las primeras banderas rojas.

Pero al igual que existen métodos de verificación para detectar la mentira escrita o las imágenes falsificadas, el contenido generado por inteligencia artificial o los deepfakes (contenido generado por inteligencia artificial a partir contenido real) requiere que prestemos atención a algunas especificidades ya que, por el momento, siempre podemos encontrar algún ‘defecto’ que revele su artificialidad. 

• Imperfecciones en los rostros: Errores en las orejas, ojos extraviados, falta de dientes, reflejos extraños en gafas o caras excesivamente simétricas pueden ser indicios de generación por IA.
• Errores en las manos: Generar manos realistas sigue siendo un desafío para las IA actuales. Fíjate en el número de dedos o en la forma de las manos, ya que a menudo presentan dedos de más, deformidades o proporciones extrañas.
• Sincronización de labios y audio: En el caso de los vídeos, analiza si el movimiento de los labios coincide de manera natural con el sonido que emiten.

La inteligencia artificial también sirve para desarrollar tecnologías capaces de detectar imágenes falsas. Estas herramientas, que aún se encuentran en fase de pruebas y, por lo tanto no son infalibles y deben usarse como método de apoyo, analizan la probabilidad de que un contenido sea sintético, aunque en algunos casos es necesario pagar una suscripción para acceder a funciones avanzadas.

Las más conocidas son Hive Moderation (que tras analizar la imagen ofrece un porcentaje que indica la probabilidad de que la imagen haya sido creada por IA) y AI or Not (que usa algoritmos avanzados y técnicas de aprendizaje para analizar si las imágenes han sido creadas por diversos modelos de IA), pero también existen otras herramientas como FotoForensics, Illuminatry, Fake Imagen Detector o Winston AI Image Detector. 

Para la identificación de audios falsos también existen recursos específicos como, Loccus.ai, un detector creado por una empresa barcelonesa que ha sido comprado por la compañía tecnológica Hiya, de Estados Unidos, líder en servicios globales de seguridad de voz.

Al margen de estas herramientas específicas, existen otros recursos más generales que nos pueden ayudar a la hora de verificar contenidos generados por IA. Por ejemplo, podríamos utilizar el recurso de la lupa de la herramienta de verificación de imágenes y vídeo InVID WeVerify Vera.ai para ampliar ciertas partes de una imagen sin que se pixelen para poder detectar errores. Incluso las búsquedas inversas de imágenes en TinEye o Google Imágenes podrían servir para descubrir si otros medios de comunicación y organizaciones dedicadas a la verificación han identificado ese contenido como una creación generada con inteligencia artificial.

Uno de los últimos avances en la identificación de imágenes generadas por IA podría venir de la mano de Google. El pasado mes de octubre salió a la luz que el gigante de internet prepara una nueva versión de Google Fotos que integrará una función capaz de mostrar la información de una foto generada por inteligencia artificial. El nuevo sistema, cuya fecha de puesta en marcha se desconoce, no solo catalogará las imágenes generadas por su propia IA, en las que se indicará “hecha con Google IA”, si no que al parecer también será capaz de detectar y catalogar imágenes reales alteradas con la IA de Google Fotos e incluso las creadas por otras plataformas.  Estos detalles se mostrarán en la información de los metadatos de la imagen bajo el título de “AI Info”.