Para incredulidad de muchas personas, los artistas vivos están descubriendo que su arte se ha utilizado para entrenar modelos de IA sin su consentimiento. Con una herramienta web llamada "¿Me han capacitado?", puede saber en cuestión de minutos si sus imágenes se enviaron a Midjourney, NightCafe y otros generadores de imágenes de IA populares.
Si encuentra su imagen en uno de los conjuntos de datos utilizados para entrenar estos sistemas de IA, no se desespere. Algunas organizaciones han desarrollado formas de optar por no participar en esta práctica, evitando que sus imágenes se eliminen de Internet y se transmitan a empresas de IA.
Cómo se entrenan los generadores de imágenes de IA en primer lugar
Cuando le pide a un sistema de IA como DALL-E que genere una imagen de un "perro con un sombrero de cumpleaños", primero necesita saber cómo se ve un perro y cómo se ve un sombrero de cumpleaños también. Obtiene esta información de enormes conjuntos de datos que recopilan miles de millones de enlaces a imágenes en Internet.
Como todos sabemos, Internet contiene casi cualquier tipo de imagen que puedas imaginar, incluidas, con toda probabilidad, toneladas de imágenes de un "perro con un sombrero de cumpleaños". Con suficientes datos como estos, un modelo de IA puede descubrir cómo reproducir una imagen a semejanza de aquellas en las que ha sido entrenado.
Pero, ¿y si esas imágenes originalmente tuvieran derechos de autor? ¿Y si esas imágenes pertenecieran a artistas, fotógrafos o personas normales que no sabían que sus imágenes estaban alimentando un sistema de IA?
El problema de los artistas
Muchos generadores de imágenes de IA tienen un nivel pago en el que los usuarios pueden comprar créditos para crear más imágenes y obtener ganancias. Pero esa ganancia se obtiene de las espaldas de personas no acreditadas cuyas imágenes se usaron para entrenar el sistema de inteligencia artificial en primer lugar.
A medida que más artistas descubren que sus imágenes se usaron para desarrollar sistemas de inteligencia artificial, está claro que no todos están de acuerdo con eso. Como mínimo, quieren que las empresas de inteligencia artificial obtengan el consentimiento antes de usar sus imágenes.
Especialmente si eres un artista popular y conocido, tener imágenes generadas en tu estilo puede saturar tu mercado. con fans o patrocinadores potenciales, sin saber si el arte fue creado por usted o replicado a su semejanza por AI. Lo que es aún peor, las personas pueden crear obras de arte con tu estilo para apoyar valores en los que no crees.
Este no es un problema nuevo, las falsificaciones profundas existen desde hace años y es posible que empeoren con el auge de la IA. Hoy en día, reproducir arte "falso" es rápido, barato y fácil. Sólo hay unos pocos formas de identificar una imagen generada por IA, lo que dificulta distinguir el arte original de su contraparte generada por IA.
Conjuntos de datos: encontrar e indexar sus imágenes
Como mencionamos anteriormente, las empresas de IA utilizan conjuntos de datos de imágenes para entrenar sus modelos. Estos conjuntos de datos parecen una hoja de cálculo gigante de Excel con una columna que contiene un enlace a una imagen en Internet, mientras que otra tiene el título de la imagen.
No todas las empresas de IA revelarán el conjunto de datos que utiliza, siendo DALL-E un ejemplo. Esto dificulta saber a qué se hace referencia cuando genera una imagen y se suma a la mística general de los sistemas de IA.
Por otro lado, Stable Diffusion, un modelo desarrollado por Stability AI, ha dejado claro que se construyó sobre la Conjunto de datos LAION-5B, que presenta una colosal cantidad de 5.850 millones de pares de imagen-texto filtrados por CLIP. Dado que este conjunto de datos es de código abierto, cualquiera puede ver las imágenes que indexa y, por eso, ha recibido fuertes críticas.
A principios de 2023, Getty Images demandó a Stability AI por eliminar imágenes de su sitio web para entrenar su generador de imágenes de IA, Stable Diffusion. Si se pregunta quién, a su vez, usa Stable Diffusion, esos serían NightCafe, Midjourney y DreamStudio, algunos de los jugadores más importantes en el campo.
Cómo saber si sus imágenes se usaron para entrenar un modelo de IA
Montado por un grupo de artistas, Desove es un colectivo cuyo objetivo es ayudar a las personas a descubrir si sus imágenes están en conjuntos de datos como LAION-5B, que se utilizan para entrenar modelos de IA. Su motor de búsqueda web llamado ¿He sido capacitado? le permite buscar fácilmente palabras clave como el nombre de su artista.
¿He sido capacitado?
Have I Been Trained funciona de manera muy similar a una búsqueda de imágenes de Google, excepto que su búsqueda coincide con los resultados en el conjunto de datos LAION-5B. Tiene la opción de buscar por palabra clave o por imagen, esta última es útil si desea ver si se ha utilizado una imagen exacta.
Usamos el nombre de la artista Frida Kahlo (1907-1954) para probarlo y encontramos una mezcla de historia fotografías y lo que parece ser fan art en forma de garabatos, pinturas, punto de cruz, ganchillo y ilustraciones.
Si eres uno de estos creadores, eres uno de los muchos humanos no acreditados cuya creatividad hizo posible que existieran los generadores de imágenes de IA. Y con ese poder, ahora cualquiera puede crear imágenes de Frida como este extraño retrato de "Frida Kahlo comiendo helado".
Intente escribir su propio nombre de artista en la barra de búsqueda para ver si su trabajo se ha utilizado para entrenar un modelo de IA.
Cómo optar por no recibir conjuntos de datos de entrenamiento de IA
El mismo equipo detrás del sitio web Have I Been Trained ha creado una herramienta para que las personas opten por participar o no en los sistemas de arte de IA. Es una forma de que los artistas mantengan el control y los permisos sobre quién usa su arte y con qué propósito.
Otras plataformas de arte están comenzando a seguir su ejemplo y, actualmente, DeviantArt ofrece una opción para excluir sus imágenes de la búsqueda de conjuntos de datos de imágenes.
Además de poder buscar su imagen, también puede seleccionar imágenes para optar por no recibir los datos de entrenamiento de LAION-5B utilizando el sitio Have I Been Trained.
Primero tendrá que crear una cuenta, y después de esto, haga clic con el botón derecho en una imagen y elija Dar de baja esta imagen.
Al seleccionar esta opción, se agregará esa imagen a su lista de exclusión voluntaria a la que puede acceder haciendo clic en el símbolo de su cuenta en la esquina superior derecha de la página, luego seleccionando Mis listas. Para eliminarlo de su lista, haga clic derecho en la imagen y seleccione Eliminar de la lista de exclusión voluntaria.
Si es un artista prolífico, este método es tedioso y no es adecuado para excluir todas sus imágenes de manera eficiente. Desafortunadamente, no existe una mejor alternativa en el momento de escribir este artículo, pero es probable que se realicen mejoras en este sistema en el futuro.
Estas listas de exclusión voluntaria luego se pasan a la empresa detrás de LAION-5B, que acordó eliminar esas imágenes de su conjunto de datos.
Preferencia de exclusión voluntaria de DeviantArt
DeviantArt ha liderado hasta ahora el camino para plataformas de alojamiento de arte dando a los usuarios la opción de optar por su arte. Inicialmente, tenía que encontrar la preferencia y seleccionar la casilla de verificación de exclusión. Pero siguiendo los fuertes comentarios de la comunidad de DeviantArt, esta opción ahora está activada de forma predeterminada.
Eso significa que ninguna imagen publicada en DeviantArt está disponible para conjuntos de datos de imágenes, a menos que los usuarios hayan optado por participar. Si bien no es del todo infalible, el mecanismo que utiliza consiste en marcar una imagen con una etiqueta HTML "noai". Esto le dice a los conjuntos de datos de IA que no se permite usar la imagen, y si es así, la empresa estará violando Condiciones de servicio de DeviantArt.
Puede encontrar la preferencia de exclusión al pasar el mouse sobre el ícono de su cuenta personal y hacer clic en Configuraciones de la cuenta. Luego haga clic General en el menú de la izquierda y desplácese hacia abajo hasta que vea el encabezado Dígale a los conjuntos de datos de IA que no pueden usar su contenido.
Respetar el trabajo de los artistas
Encontrar un buen compromiso entre los sistemas de IA y los artistas cuyo trabajo ayude a capacitarlos llevará tiempo. Si eres un creador, no te sientas impotente. Con fuertes respuestas de las comunidades que usan plataformas de arte como DeviantArt, puedes tener control sobre quién usa tu arte.
No todos querrán optar por no participar, algunas personas no tienen problemas con sus imágenes que entrenan modelos de IA. Pero lo más importante es que las empresas de IA obtengan el consentimiento y elaboren un espacio justo y respetuoso para que los modelos y artistas de IA existan juntos.
