NightShade ya está aquí y se puede usar gratis. Que dé comienzo la guerra. Meses después de que se anunciara por primera vez, NightShade, una nueva herramienta de software libre que permite a los artistas «envenenar» a los modelos de IA que quieran entrenar con sus obras, ya está disponible para que los artistas la descarguen gratuitamente y la utilicen en las obras que consideren oportunas.

En Diario IA ni aconsejamos ni desaconsejamos utilizar NightShade. Como diario online de noticias sobre el mundo de la IA, nos limitamos a contar lo que está sucediendo. En esta guerra de artistas VS inteligencia artificial, no nos encontrarás en ninguna de las dos trincheras.

Relacionado: La IA ya puede borrar marcas de agua en vídeos pero, ¿es legal?

¿Qué es NightShade y por qué existe?

NightShade funciona introduciendo cambios muy pequeños (que no pueden verse a simple vista) en los píxeles de las imágenes antes de cargarlas. Esto envenena los datos de entrenamiento utilizados por programas como DALL-E, Stable Diffusion y Midjourney, haciendo que los modelos se rompan de forma impredecible.

Como ves en el tweet de arriba, en el que una diseñadora 3D anima a todo el mundo a usar NightShade en sus imágenes, los artistas han acogido esta herramienta con los brazos abiertos. Pero, ¿qué es exáctamente?

NightShade es una herramienta de «envenenamiento de datos» diseñada para proteger los derechos de autor de los artistas frente a la IA generativa. Modifica sutilmente las imágenes para confundir a los modelos de IA que las entrenan, haciendo que aprendan información incorrecta.

Por ejemplo, podría hacer que un modelo aprenda que las imágenes de perros son gatos y, así, generar extrañas criaturas cada vez que alguien solicitase generar un perro. No obstante, para lograr semejante gesta sería necesaria una adopción masiva de esta herramienta para alterar las imágenes con las que se entrena la IA.

Como funciona nightshade en inteligencia artificial

NightShade es la más famosa de las medidas defensivas (en realidad, ofensiva, pues pasa al ataque) para que los artistas luchen contra el uso no autorizado de sus obras por parte de las compañías de IA, que a menudo entrenan sus modelos con datos recopilados de Internet sin permiso.

La herramienta es difícil de contrarrestar porque requiere que las empresas de tecnología encuentren y eliminen cada muestra corrupta​.

Probar NightShade

Sin embargo, también se reconoce que estas herramientas podrían ser utilizadas con fines maliciosos, lo que ha generado preocupaciones sobre su potencial abuso.

Relacionado: Lista completa de los 4500 autores supuestamente plagiados en el entrenamiento de MidJourney

¿Quién está detrás de NightShade?

Desarrollada por informáticos del Proyecto Glaze de la Universidad de Chicago, bajo la dirección del profesor Ben Zhao, la herramienta funciona básicamente volviendo a la IA contra la IA.

Utiliza el popular marco de aprendizaje automático de código abierto PyTorch para identificar lo que hay en una imagen dada, y luego aplica una etiqueta que altera sutilmente la imagen a nivel de píxel para que otros programas de IA vean algo totalmente distinto de lo que hay en realidad.

Se trata de la segunda herramienta de este tipo del equipo: hace casi un año, el equipo presentó Glaze, un programa independiente diseñado para alterar las obras de arte digitales a petición del usuario para confundir a los algoritmos de entrenamiento de IA y hacerles creer que la imagen tiene un estilo diferente del que realmente tiene (como colores y pinceladas diferentes de los que realmente hay).

Pero mientras que el equipo de Chicago diseñó Glaze para que fuera una herramienta defensiva (y sigue recomendando a los artistas que la utilicen además de Nightshade para evitar que los modelos de IA imiten el estilo de un artista), Nightshade está diseñada para ser «una herramienta ofensiva».

Relacionado: Así ha evolucionado DALL-E 3

Recepción positiva de NightShade por parte de un artista en Twitter.
Recepción positiva de NightShade por parte de un artista en Twitter.

Un modelo de IA que acabara entrenándose con muchas imágenes alteradas o «sombreadas» con Nightshade probablemente categorizaría erróneamente los objetos en adelante para todos los usuarios de ese modelo.

«Por ejemplo, los ojos humanos podrían ver una imagen sombreada de una vaca en un campo verde prácticamente sin cambios, pero un modelo de IA podría ver un gran bolso de cuero tirado en la hierba», explica el equipo.

Por lo tanto, un modelo de IA entrenado con imágenes de una vaca alteradas para que parezcan un bolso empezaría a generar bolsos en lugar de vacas, incluso cuando el usuario pidiera al modelo que hiciera una imagen de una vaca.

Riesgos y limitaciones

Los cambios realizados por Nightshade son más visibles en arte con colores planos y fondos suaves. Dado que Nightshade trata de alterar modelos, los niveles más bajos de intensidad/veneno no tienen consecuencias negativas para el propietario de la imagen: «Hemos incluido una configuración de intensidad baja para aquellos interesados en priorizar la calidad visual de la imagen original», se lee en la web del proyecto.

Como ocurre con cualquier ataque o defensa de seguridad, es poco probable que Nightshade se mantenga a prueba de futuro durante largos periodos de tiempo, según reconocen sus desarrolladores. Y sigue: «Sin embargo, como ataque, Nightshade puede evolucionar fácilmente para seguir el ritmo de cualquier ataque potencial».

Requisitos técnicos

Los artistas que deseen utilizar Nightshade deben tener un Mac con chips Apple en su interior (M1, M2 o M3) o un PC con Windows 10 u 11. La herramienta puede descargarse para ambos sistemas operativos aquí. El archivo de Windows también es capaz de ejecutarse en la GPU de un PC, siempre que sea una de Nvidia en esta lista de hardware compatible.

Algunos usuarios también han informado de largos tiempos de descarga debido a la abrumadora demanda de la herramienta, de hasta ocho horas en algunos casos (las dos versiones tienen un tamaño de 255 MB y 2,6 GB para Mac y PC, respectivamente. Este es precisamente su mayor aspecto negativo: no se trata de una medida protectora de aplicación rápida.

Para que nos entendamos, NightShade lo que hace es aplicar una capa de confusión a una imagen, dotándola de elementos que alterarán su procesamiento en el entrenamiento de un modelo de IA. Y aplicar esta capa lleva tiempo. Quizás demasiado.

Relacionado: MidJourney v6 es una IA generadora de imágenes casi perfecta: ¿y ahora qué?

Además, los usuarios que quieran probar NightShade deberán aceptar el acuerdo de licencia de usuario final (CLUF) del equipo Glaze/Nightshade, que estipula que utilicen la herramienta en máquinas bajo su control y no modifiquen el código fuente subyacente, ni «reproduzcan, copien, distribuyan, revendan o utilicen de cualquier otro modo el software con fines comerciales».

descargar nightshade

Nightshade v1.0 «transforma las imágenes en muestras modificadas, de modo que los modelos que se entrenen con ellas sin consentimiento verán cómo sus modelos aprenden comportamientos impredecibles que se desvían de las normas esperadas, por ejemplo, un aviso que pida la imagen de una vaca volando en el espacio podría obtener en su lugar la imagen de un bolso flotando en el espacio», afirma una entrada del blog del equipo de desarrollo en su página web.

Relacionado: Este personaje de GTA V no está dispuesto a que la IA le robe la voz

La herramienta es resistente a la mayoría de las transformaciones y alteraciones típicas que un usuario o espectador puede hacer en una imagen. Como explica el equipo:

«Se puede recortar, remuestrear, comprimir, suavizar píxeles o añadir ruido, y los efectos del veneno permanecerán. Se pueden hacer capturas de pantalla, o incluso fotos de una imagen mostrada en un monitor, y los efectos de la sombra permanecen». De nuevo, esto se debe a que no es una marca de agua ni un mensaje oculto (esteganografía), y no es quebradizo.»

Al utilizar Nightshade v 1.0 para «sombrear» una imagen, esta se transformará en una nueva versión gracias a las bibliotecas de IA de código abierto, idealmente de forma lo suficientemente sutil como para que no parezca muy diferente al ojo humano, pero que parezca contener temas totalmente distintos para cualquier modelo de IA que se entrene con ella.

Ben Zhao, uno de los responsables de NightShade, asegura que esta iniciativa no busca ningún tipo de beneficio económico. Las imágenes alteradas no formarán parte de ninguna biblioteca personal de los responsables de NightShade, quienes, según se lee en su web, sólo buscan descubrir y aprender nuevas cosas sobre cómo funciona la IA generativa de imágenes, al tiempo que realizan «un impacto positivo» en el mundo.