A nadie le cabe en la cabeza que las fotografías hechas con inteligencia artificial de Taylor Swift que hoy han saturado los servidores de Twitter X sean algo más que eso, imágenes falsas de algo que nunca ha ocurrido. No obstante, el daño está hecho: el realismo de las imágenes es tal, que está de más la evaluación de su veracidad.

Escándalo con las fotos hechas con inteligencia artificial de Taylor Swift: ¿qué ha pasado?

Fotos de taylor swift desnufa generadas con IA
Parte de la colección de 63 imágenes falsas de Taylor Swift con IA publicadas en una web de contenido supuestamente satírico.

Taylor Swift se ha convertido hoy en la protagonista absoluta de Twitter X después de que los términos «Taylor Swift AI» se volviesen virales tras la difusión de un total de 63 fotografías falsas que utilizan su imagen para crear imágenes ofensivas de alto contenido sexual y vejatorio.

Las imágenes son de extraordinaria calidad, quizás demasiada: como acostumbran a hacer estos generadores de imágenes con IA, sus resultados impolutos (con iluminaciones profesionales y piel de goma) desvelan la trampa.

Aunque a día de hoy es posible encontrar fotos falsas de cualquier famosa sin ropa, las fotos de Taylor Swift desnuda generadas con inteligencia artificial que han circulado hoy (y que fueron inicialmente publicadas en una web de desnudos femeninos el 15 de enero además de en Telegram y 4Chan, más información aquí) nos han enseñado un par de cosas.

La primera enseñanza es que es posible enterrar casi del todo contenido difamatorio (si cuentas con millones de fans dispuestos a tuitear contenido que, usando el mismo hashtag «Taylor Swfit AI», no tenga relación alguna con las imágenes). La segunda, que todavía queda mucho por hacer en cuanto a regulación de la inteligencia artificial.

Cualquiera con dos dedos de frente que haya visto las fotos IA de Taylor Swift sabrá reconocer que son falsas y que la cantante jamás se habría prestado a fotografiarse tal y como aparece en las imágenes, rodeada de jugadores de fútbol americano tocándola de forma inapropiada.

O a lo mejor ese es el problema: los dos dedos de frente de los que carecen tanto los que han creado esas imágenes como los que las difunden. En el total de 63 imágenes se ve a una Taylor Swift con el cuerpo pintado de rojo cometiendo todo tipo de actos obscenos en los que es magreada por una multitud. En las fotos más obscenas, la cantante practica una felación. ¿Quién ha hecho esto y por qué?

¿Quién ha publicado las fotos con inteligencia artificial de Taylor Swift Desnuda?

Fotos generadas con IA de Taylor Swift desnuda
Una popular cuenta de Twitter menciona al supuesto creador de las fotos con IA de Taylor Swift y le exige que pida perdón.

Las imágenes han indignado a los fans de la cantante, los llamados Swifties, que acudieron en masa a criticar a las personas que las difundían en Internet y a llenar Twitter X de otras imágenes que nada tuvieran que ver con los deepfakes para imposibilitar así que más gente pudiera ver las fotos con IA de Taylor Swift al realizar la búsqueda «Taylor Swift AI».

Inaceptable velocidad de reacción de Twitter X

Uno de los ejemplos más destacados en X atrajo más de 45 millones de visitas, 24.000 retuits y cientos de miles de likes y favoritos antes de que se suspendiera la cuenta del usuario verificado que compartió las imágenes por infringir la política de la plataforma. Según ha informado The Verge, la publicación estuvo activa en la plataforma unas 17 horas antes de ser eliminada.

Durante ese tiempo, los fans de Taylor Swift se han encargado de llenar Twitter con publicaciones que llamaban al respeto hacia la cantante:

Aunque son varios los usuarios de Twitter X que han sido señalados como promotores de las imágenes, todo apunta a que las fotos con IA de Taylor Swift fueron inicialmente publicadas en una web llamada Celeb Jihad que lleva desde 2008 difundiendo imágenes íntimas (tanto reales como falsas) de cientos de mujeres famosas, en especial actrices y cantantes estadounidenses. A pesar de que la web dice ser de contenido satírico, hay que bucear mucho para encontrar dicha información en un sitio que en todo momento ofrece imágenes de desnudos como si fueran reales.

Celeb Jihad se lava las manos. En la sección de descargo de responsabilidad afirma que todo el contenido de su página, repleta de mujeres occidentales famosas desnudas, es satírico. También afirman que ellos no son los responsables de crear las imágenes.

Curiosamente, las imágenes falsas de Taylor Swift generadas con IA se subieron a Celeb Jihad hace más de una semana. Aunque ya no son accesibles (probablemente hayan recibido amenazas de represalias legales por parte del equipo de la cantante), es posible ver versiones anteriores de la web, la cual llegó a alojar las imágenes obscenas de Taylor Swift en su portada. Taylor Swift Swift ya amenazó a esta web en 2011 con emprender acciones legales contra el sitio por una foto falsa de un desnudo.

Fotos de Taylor Swift desnuda
Web que difundió inicialmente el 15 de enero las fotos con IA de Taylor Swift desnuda.

La web anunciaba la publicación de las fotos de Taylor Swift desnuda como el producto de una «investigación» en la que «investigadores musulmanes» acababan de descubrir «lo que parece ser una inquietante colección de fotos de fans y vídeos de la estrella del pop Taylor Swift realizando actos sexuales gratuitos en las gradas, en la banda e incluso en los vestuarios mientras animaba al equipo de fútbol americano Kansas City Chiefs de su novio Travis Kelce».

Posteriormente, la web procede a insultar a la cantante y a su novio, indignándose con el hecho de que Taylor Swift tenga permitida la entrada al estadio.

Las fotos de Taylor Swift creadas con IA suscitan preocupación por la falta de medidas regulatorias

Los contenidos generados por IA se han disparado en los últimos años y han suscitado preocupación por la facilidad de producir contenidos con una aplicación sin necesidad de conocimientos técnicos.

El incidente de las fotos IA de Taylor Swift pone de manifiesto el verdadero reto que supone detener la pornografía deepfake y las imágenes de personas reales generadas por IA. Algunos generadores de imágenes de IA (como por ejemplo DALL-E 3 o Adobe FireFly) tienen restricciones que impiden la producción de imágenes de desnudos, pornográficas y fotorrealistas de celebridades.

Pero muchos otros no ofrecen explícitamente ese servicio, como es el caso de Stable Diffusion, el cual al ser de código abierto permite que cualquier usuario con conocimientos haga volar su imaginación.

Comparativa de mujeres en Midjourney 5.2, Adobe Firefly Image 2 y DALL-E 3.
Imágenes de mujeres inexistentes generadas por la inteligencia artificial.

Stable Diffusion, por cierto, estuvo implicada en un pequeño escándalo hace unas semanas tras descubrirse que varias fotografías de abusos de menores habían sido usadas durante su entrenamiento (el cual se nutrió de millones de imágenes, por lo que es razonablemente difícil el poder discriminar qué se usa y qué no).

¿Es delito desnudar y/o suplantar la identidad con inteligencia artificial?

Desnudar con inteligencia artificial no es delito (siempre y cuando no sea a menores). Algunos legisladores de Estados Unidos ya están trabajando para combatir el llamado porno deepfake porn. El congresista Joe Morelle (demócrata de Nueva York) propuso a principios de este año una ley que penaliza la pornografía deepfake después de que unos adolescentes de un instituto de Nueva Jersey utilizaran generadores de imágenes de inteligencia artificial para crear y compartir imágenes falsas de desnudos no consentidos de compañeras de clase (tal y como pasó en España con el caso de los desnudos de Almendralejo).

Según la ley propuesta, cualquiera que comparta pornografía deepfake sin el consentimiento de una persona corre el riesgo de ser multado y encarcelado hasta dos años. Las indemnizaciones podrían ascender a 150.000 dólares y las penas de prisión a 10 años si compartir las imágenes facilita la violencia o afecta a los procedimientos de un organismo público.

El reciente aumento de contenidos de famosos generados por inteligencia artificial sin su consentimiento ha llevado a algunos a acudir a la justicia, como es el caso de Scarlett Johanson, que emprendió acciones legales el año pasado contra una aplicación de IA que utilizó su nombre y su imagen en un anuncio online sin su consentimiento.

Mientras que algunos promotores de estafas utilizan la imagen o la voz de famosos con fines publicitarios (también le pasó a Tom Hanks o, como verás en el vídeo de abajo, a Jennifer Aniston), otros sitios web y cuentas de redes sociales acuden a la inteligencia artificial con la sola intención de volverse virales para generar visibilidad que les permitan contar con mejores anunciantes.

A todos nos gusta la inteligencia artificial y la laxitud regulatoria, pero lo cierto es que, a medida que evoluciona la tecnología, cada vez es más difícil distinguir entre lo que es real y lo que es falso (y eso que ni siquiera hemos hablado de los casos en los que la IA toma prestados los derechos de autor y/o propiedad intelectual de un artista, como le ha pasado a Bad Bunny y el robo de su voz).

En algún momento será necesario establecer un equilibrio entre la libertad de poder generar lo que queramos con inteligencia artificial generativa y la protección de los derechos de autor junto a la salvaguarda del honor individual.