Cómo saber si una foto ha sido generada con inteligencia artificial es ya algo obligatorio para poder sobrevivir en nuestra sociedad de la información. Hace cosa de meses, todavía era posible detectar a simple vista imágenes generadas con una IA tipo MidJourney o Stable Diffusion, simplemente fijándonos en los dedos del sujeto fotografiado o buscando artefactos extraños y deformidades en el fondo de las imágenes.

Pero hoy en día ya no vale con fijarnos en el nivel de calidad de las manos (durante mucho tiempo, la IA no sabía generar manos, pero eso ha cambiado). A medida que avanzan los sistemas de generación de imágenes automáticas como DALL-E 3, MidJourney o Adobe FireFly, saber si una foto ha sido hecha por una IA se ha vuelto casi un imposible. La palabra clave es casi.

Cómo saber si una imagen está hecha con IA

La inteligencia artificial nos ha traído ahorro de trabajo y tiempo. Pero también incertidumbre, dudas y mentiras. Son bienvenidas iniciativas como la de la marca de agua CR, emprendida por la Coalition for Content Provenance and Authenticity (C2PA), un grupo que pretende crear normas técnicas para certificar el origen y la procedencia de los contenidos, en el que están empresas como Adobe, Arm, Intel, Microsoft y Truepic. O Google, que hace unos meses presentó su generación de imágenes con IA en Google Imágenes, que presumiblemente utilizará la tecnología SynthID desarrollada por su laboratorio DeepMind para poder determinar cuándo una imagen ha sido creada por inteligencia artificial.

qué significa el símbolo CR
Logotipo impulsado por la Coalition for Content Provenance and Authenticity (C2PA) para identificar las imágenes hechas con inteligencia artificial.

Por desgracia, hay un problema con todos los sistemas de marcado de metadatos: basta con hacer una simple captura de pantalla para librarse de todos esos datos que van adheridos al archivo.

Además, estas iniciativas se encuentran en una fase temprana, y será en última instancia responsabilidad de la vasta gama de herramientas generativas de imágenes existentes adherirse o no al cumplimiento de los sistemas de marcado de creación sintética.

Programas y webs para detectar fakes hechos un IA

Decenas de empresas ya ofrecen herramientas para identificar si una imagen, vídeo o texto ha sido generado con inteligencia artificial, con nombres como Sensity AI (detección de deepfake), Fictitious.AI (detección de plagio) y Originality.AI (también plagio). Uno de los grandes nombres es FakeCatcher de Intel, la cual afirma ser capaz de identificar vídeos deepfake con una precisión del 96%.

La mejor web para detectar imágenes hechas con IA: AI or NOT

AIorNot.com es un sitio web bastante fiable (pero no perfecto) diseñado para evaluar si una imagen ha sido generada por inteligencia artificial o por un humano.

El funcionamiento de AIorNot.com se basa en algoritmos de aprendizaje automático que se centran en las siguientes tareas:

  1. Análisis de Patrones: Los algoritmos examinan las imágenes buscando patrones que son comunes en las imágenes generadas por IA. Esto puede incluir artefactos específicos, como texturas inusuales o repeticiones que raramente se encuentran en fotografías tomadas por cámaras o creadas por artistas humanos.
  2. Detección de Inconsistencias: Las imágenes creadas por IA pueden tener detalles que generalmente no concuerdan con la realidad, como reflejos extraños, proporciones incorrectas o fusiones de objetos que no tienen sentido. Los sistemas de detección buscan estas inconsistencias.
  3. Comparación con Bases de Datos: Algunos sistemas comparan la imagen en cuestión con una amplia base de datos de imágenes conocidas por ser creadas tanto por humanos como por IA. A través de esta comparación, el sistema puede identificar similitudes con las características típicas de las imágenes generadas por IA.
  4. Entrenamiento de Modelos de Aprendizaje Profundo: Los sistemas como AIorNot.com pueden utilizar redes neuronales convolucionales (CNN) y otras arquitecturas de aprendizaje profundo que han sido entrenadas para distinguir entre imágenes generadas por humanos e IA.

¿Es fiable AI or not?

Para tratarse de una web gratuita, AI or Not es una herramienta bastante buena para detectar imágenes hechas con IA. Aunque hace unos meses presentaba errores mayúsculos, el equipo ha mejorado bastante la herramienta. Decidimos hacer la prueba subiendo la imagen que ves aquí de una chica rubia, generada en pocos segundos con Stable Diffusion. Y la web acierta de pleno.

La web AIorNot.com (que podría traducirse como EsIAoNo.com) asegura ser capaz de detectar cualquier rostro que haya sido generado con IA, así como cualquier imagen proveniente de Stable Diffusion, MidJourney, DALL-E y GAN.

No contentos con ello, hacemos hasta 20 pruebas más. Todas con imágenes de personas generadas con IA. Las acierta todas. Le damos una imagen real, Joaquín Sabina cantando en un concierto, y también acierta.

Como detectar imagenes generadas con IA

Detector de IA de Hugging Face

El Detector de IA de Hugging Face te permite cargar o arrastrar y soltar imágenes dudosas. No obstante, su fiabilidad es muy limitada. Al cargar la misma imagen de la chica rubia generada por nosotros con Stable Diffusion, este detector nos dio un 95% de probabilidades de que es humana:

Según un artículo del New York Times, el Gobierno de los Estados Unidos, a través de la Agencia de Proyectos de Investigación Avanzada de Defensa «tiene previsto destinar este año casi 30 millones de dólares a Semantic Forensics, un programa que desarrolla algoritmos para detectar automáticamente deepfakes y determinar si son maliciosos».

Incluso OpenAI, la gran artífice y dinamizadora de la actual explosión de plataformas con IA que vivimos desde que lanzó su herramienta ChatGPT a finales del año pasado, está trabajando en servicios de detección. Curiosamente, hay cierto consenso en que la detección de textos hechos con inteligencia artificial es, hoy por hoy, el área que más desafíos presenta: tras lanzar una web que aseguraba ser capaz de detectar plagios, OpenIA tuvo que abandonar su desarrollo ante la falta de precisión.

Consejos para saber si una imagen fue hecha con IA

A falta de que todas estas promesas y proyectos se materialicen, por ahora, la mejor forma de saber si una imagen ha sido generada por inteligencia artificial es la mencionada web aiornot.com y, por supuesto, el sentido común. A continuación te damos algunas claves a la hora de analizar (con tus ojos y no con un ordenador) una imagen para saber si se ha hecho con IA:

Busca artefactos, deformaciones y elementos extraños

Dado que la inteligencia artificial reconstruye sus creaciones a partir del trabajo original de otros, puede mostrar algunas incoherencias de cerca. Cuando examines una imagen en busca de signos de IA, amplía todo lo que puedas cada parte de ella. Los píxeles perdidos, los contornos extraños y las formas mal colocadas serán más fáciles de ver de esta manera. Este cartel del Ayuntamiento de Fuenlabrada es un buen ejemplo (superlativo) de las deformaciones que puede generar una inteligencia artificial:

Cartel hecho con IA en Fuenlabrada compras navidad
Cartel hecho con IA en Fuenlabrada para promocionar las compras navidad.

Imperfecta perfección: pieles imposibles

¿De evrdad piensas que esta mujer es real?En el terreno de las novias IA y las influencers virtuales el asunto es un poco más sencillo: si ves que presentan rostros impolutos de una perfección que va más allá del maquillaje, es una IA. A la IA no le suelen gustar los poros ni otras imperfecciones.

Si las cosas parecen demasiado perfectas para ser reales en una imagen, existe la posibilidad de que no lo sean. En un mundo online filtrado, es difícil discernir, pero aun así, la mayoría de las influencers hechas con IA por ahora lucen un aspecto falso que es fácilmente detectable debido a lo poco real que resulta (sí, incluso en tiempos de abuso de filtros en Instagram).

Información de fondo

A menudo, la IA se esfuerza en crear el primer plano de una imagen, dejando el fondo borroso o indistinto. Escanea esa zona borrosa para ver si hay contornos reconocibles de señales que no parecen contener ningún texto, o rasgos topográficos que parezcan fuera de lugar. La IA es una ciencia, no un arte, pero descubrirla es todo lo contrario. Fíjate en los extraños artefactos y brazos que aparecen en el fondo de esta imagen:

Evalúa la escena general

Además de los detalles, es importante detenerse y observar el panorama general. En primer lugar, comprueba la iluminación y las sombras, ya que la IA suele tener problemas para representar con precisión estos elementos. Las sombras deben alinearse con las fuentes de luz y coincidir con la forma de los objetos que las proyectan. Del mismo modo, echa un vistazo al fondo. Si el patrón y las texturas son repetitivos, puede tratarse de una imagen falsa.

Cuando se trata de imágenes fotorrealistas de seres humanos, hay varios marcadores de IA más que puedes buscar:

  • Pendientes que faltan o no coinciden
  • Un fondo borroso que parece más una textura
  • Asimetría en la cara (dientes descentrados, ojos de distinto tamaño).
  • Hay partes de la foto que parecen pintadas.
  • Objetos como gafas o pendientes se confunden con la piel
  • Las manos tienen dedos de más o parecen claramente torpes y poco naturales

Investiga el texto y las etiquetas

Si la imagen que estás viendo contiene textos, como paneles, etiquetas, anuncios o vallas publicitarias, fíjate bien en ellos. Te ponemos un ejemplo. Fijate en las marquesinas de esta imagen:

Como identificar una imagen hecha con IA

El texto generado por IA puede aparecer pixelado o estirado. Del mismo modo, si hay logotipos, asegúrate de que son los auténticos y no están alterados. Estos signos pueden alertarte de una posible imagen generada por IA.

Además, si el contenido no tiene sentido, está fuera de contexto o contiene frases raras que difícilmente escribiría un humano, es probable que la imagen que estás viendo sea falsa.