Un nuevo precedente se ha establecido en el terreno de las imágenes generadas mediante inteligencia artificial. Siguiendo la proliferación de las herramientas que permiten crear imágenes a partir de comandos gracias a modelos de inteligencia artificial, esta semana Kickstarter tomó una importante decisión sobre un proyecto en esa línea.
Resulta que días atrás en la plataforma de recaudación de fondos se inició una campaña para financiar un proyecto titulado “Arte de IA sin restricciones impulsado por la multitud” que básicamente pretendía impulsar el entrenamiento de modelos de inteligencia artificial para que sea más sencillo realizar imagenes mediante ese sistema.
Ese proyecto fue creado por un grupo llamado Unstable Diffusion que describía así su inciativa: “Esto es para financiar el desarrollo de modelos de inteligencia artificial de código abierto, la comunidad primero, que lograrán el sueño de mil millones de personas que exploran y crean arte con nada más que su imaginación. Esta revolución en la expresión humana será equivalente a la invención de la imprenta o de Internet. La inteligencia artificial que permite que cualquiera haga arte”.
Pero aunque eso podría sonar bonito para algunos, hay varios factores a considerar. Ante todo, según recoge TechCrunch, Unstable Diffusion es un grupo que surgió con un foco en la generación de imágenes pornográficas mediante inteligencia artificial y por ende, aunque en el Kickstarter no se explicaba directamente, este proyecto entrenamiento básicamente era para crear mejor porno.
“Planeamos crear nuestros propios modelos y ajustarlos y combinarlos para casos de uso especializados que convertiremos en nuevas marcas y productos”, señaló Chaudhry, la entidad tras Unstable Diffusion, a TechCrunch en noviembre de este año.
Y además de las consideraciones éticas de ese tipo de contenido, otra arista polémica de este proyecto es que en la práctica el entrenamiento de esos modelos de inteligencia artificial conlleva el uso de imágenes que ya existen y pertenecen a artistas reales por lo que esta campaña no tuvo una muy buena recepción en redes sociales.
“Una vergüenza Kickstarter por permitir el crowdfund de Unstable Diffusion. Está habilitando el robo flagrante y financiando una herramienta que puede crear contenido abusivo, como la pornografía no consentida”.
“Absolutamente a la mierda este proyecto de Kickstarter de arte IA y todo lo que representa. Estoy seguro de que los 20 millones de imágenes que se mencionan a continuación también se utilizan con el consentimiento de sus creadores. En realidad suena como un espeluznante generador hentai de IA”.
Así ante la polémica Kickstarter decidió tomar medidas al respecto y suspendió el proyecto de Unstable Diffusion y mediante una publicación en su blog actualizó su postura sobre los proyectos que involucran arte generado mediante inteligencia artificial
“Kickstarter debe, y siempre estará, del lado del trabajo creativo y de los humanos detrás de ese trabajo. Estamos aquí para ayudar a que el trabajo creativo prospere”, indicó Everette Taylor, el CEO de Kickstarter antes de añadir que aunque esta es una tecnología que recién se está instalando y por ende hay varias dudas al respecto todavía, por ahora la postura de la plataforma se centrará en dos áreas: considerar si se usan imágenes de otro en cualquier parte del proyecto (incluyendo el entrenamiento de la IA) y si el “proyecto explota a una comunidad en particular o pone a alguien en riesgo de daño”.
Como pueden notar esas consideraciones son bastante amplias y probablemente este no será el fin de la suspensión o las polémicas pro proyectos de arte generado por inteligencia artificial en Kickstarter.
Unstable Diffusion ya había superado la meta de su proyecto cuando Kickstarter canceló la campaña por lo que los $56 mil dólares que juntó la organización serán reintegrados a las cuentas de quienes apoyaron la inciativa.
