Crear logotipos con IA: bien. Quitarle la ropa la ropa a la gente con aplicaciones como Clothoff: mal. Desnudar con IA no es un juego.

En el panorama legal español, la modificación y retoque de fotografías con el fin de hacer parecer que una persona está desnuda es una acción que puede tener graves consecuencias legales. Tristemente, este asunto se ha puesto de actualidad después de que un grupo de niñas menores de edad de Almendralejo, en Badajoz, denunciara que varias fotografías falsas de ellas desnudas habían empezado a circular por internet. En este reportaje de Diario IA exploraremos las implicaciones legales de este delito y las posibles penas que podrían enfrentar quienes lo cometan.

Relacionado: Stable Diffusion fue entrenado con imágenes de abusos infantiles

Desnudar con IA es delito: El caso de las fotos de menores desnudadas en Almendralejo

Un grupo de madres de Almendralejo ha interpuesto querellas por el empleo inapropiado de fotografías de sus hijas, todas ellas menores de edad, que han sido modificadas mediante inteligencia artificial con ClothOff para mostrar sus cuerpos de forma explícita. Se estima que hasta veinte menores podrían verse afectadas, aunque hasta ahora menos de la mitad ha interpuesto querellas.

ClothOff es una app para desnudar cualquier foto en la que aparezca una persona con IA. Su uso, como en el caso de las menores de Almendralejo, podría ser constitutivo de delito

La difusión de las fotos de niñas desnudas que ha conmocionado Almendralejo tuvo lugar a través de plataformas como Onlyfans y sitios web con contenido para adultos, según las denuncias presentadas. No obstante, parece que el origen de esta situación se encuentra en un grupo de WhatsApp que incluye estudiantes de diferentes centros educativos locales.

(Relacionado: Las 10 mejores alternativas a Midjourney en 2023)

El Código Penal de España establece disposiciones específicas relacionadas con la alteración de imágenes para crear contenido sexualmente explícito o pornográfico sin el consentimiento de la persona afectada. En declaraciones recogidas a Infobae, el abogado penalista Fernando Cumbres, del despacho Cumbre Abogados, ha dicho que en el caso concreto de Almendralejo, sus responsables  podrían enfrentarse a hasta nueve años de cárcel. Algunas de las víctimas de Almendralejo afirman haber sido objeto de extorsión y  chantaje económico a cambio de retirar las imágenes modificadas, según ha revelado otra progenitora de una de las menores afectadas.

En los últimos días, estas imágenes se han vuelto virales en la localidad pacense, lo que llevó a algunas progenitoras a enterarse de la situación gracias a que una de las hijas compartió la información con su madre. La Policía Nacional, que inició una investigación el mismo día de la denuncia, ya ha identificado a varios menores responsables de los denudos con inteligencia artificial.

(Relacionado: Cómo convertir un texto en una canción online gratis)

El Delito de Creación y Difusión de Pornografía No Consentida

En el Código Penal español, la creación y difusión de pornografía no consentida se encuentra regulada en el artículo 197.1. Este artículo establece que aquellos que, sin el consentimiento de la persona afectada, fabriquen, vendan, distribuyan, exhiban o posean material de pornografía que involucre a personas mayores de edad podrían enfrentar penas de prisión que van desde uno a tres años.

El Caso de Menores de Edad

Cuando se trata de la creación y difusión de material pornográfico que involucra a menores de edad, las penas se vuelven aún más severas. El artículo 189 del Código Penal establece que aquellos que produzcan, posean o distribuyan material pornográfico en el que participen menores de edad podrían enfrentar penas de prisión de uno a tres años, o incluso penas más largas en ciertas circunstancias agravantes.

Agravantes en el Delito

En casos de agravantes, como la utilización de las imágenes para chantajear o extorsionar a la persona afectada, las penas pueden ser aún más duras. Si se demuestra que el material se creó con la intención de extorsionar o dañar la reputación de la víctima, los responsables podrían enfrentar penas de prisión más largas y sanciones adicionales.

Responsabilidades Civiles

Además de las consecuencias penales, quienes cometan este tipo de delitos también pueden ser responsables de indemnizar a la víctima por los daños y perjuicios causados. Esto podría incluir compensación económica por daño moral, terapia o tratamiento psicológico, y otros gastos relacionados con la recuperación de la víctima.

ClothOff, la app para desnudar con IA, se desentiende

Como desnudar con inteligencia artificial

La compañía en cuestión detrás de la aplicación para crear desnudos con inteligencia artificial, ClothOff, ha plasmado repetidamente su exoneración de responsabilidad tanto en su sitio web como en sus términos y condiciones de servicio. El documento se encuentra repleto de declaraciones tales como «el usuario es el único responsable de las imágenes generadas» o «el usuario es responsable de abstenerse de utilizar la aplicación con fines ilícitos». Además, la empresa reserva el derecho de eliminar cualquier contenido que contravenga estas disposiciones, una medida que, en este caso, claramente no se ha llevado a cabo.

Los responsables de ClothOff, que fue lanzada al mercado en julio de 2023, afirman que unas 30.000 personas al día usan la app para desnudar gente sin su consentimiento. Su canal de Telegram cuenta con aproximadamente 750.000 usuarios registrados. Dada la potencial naturaleza perjudicial de esta web para desnudar con IA, estos números deberían hacernos reflexionar.

En un mundo cada vez más conectado y tecnológicamente avanzado, la ética y el respeto por la privacidad son más importantes que nunca. El uso indebido de la inteligencia artificial y herramientas como Photoshop para crear imágenes pornográficas falsas es un recordatorio sombrío de que no todo vale en la era digital.

Mientras que la ley busca adaptarse a estos nuevos desafíos, este fenómeno destaca una verdad innegable: la realidad avanza a un ritmo vertiginoso, a menudo superando la capacidad de las leyes para mantenerse al día. En este contexto, es crucial que la sociedad, la tecnología y la legislación evolucionen juntas para garantizar un mundo digital más seguro y ético para todos. El respeto por la dignidad y la privacidad de cada individuo debe ser el faro que guíe nuestros avances en la era de la inteligencia artificial.