Escrito por Camille Sojit Pejcha | Document Journal | Ilustración: Molly Crabapple
En una carta abierta, Molly Crabapple y Marisa Mazria Katz abogan contra el uso de la tecnología en el periodismo, un medio definido desde hace mucho tiempo por narradores humanos.
Hace un año, Sam Altman, CEO de OpenAI, tuiteó una imagen de dos osos de peluche en la luna. “DALL-E 2 ya está aquí”, escribió en el pie de foto. “Puede generar imágenes a partir de texto… Es tan divertido, y a veces hermoso”.
En el año transcurrido desde entonces, ha demostrado ser mucho más que eso. Los modelos de IA han tomado el mundo por asalto, prometiendo revolucionar sectores tan diversos como el arte, la cultura, la ciencia y la medicina, y con el auge han surgido debates sobre la ética de su uso, en un momento en que estos modelos están a punto de desplazar a los trabajadores humanos.
Por eso, la periodista, escritora y artista Molly Crabapple se unió a Marisa Mazria Katz -directora ejecutiva del Center for Artistic Inquiry and Reporting– para publicar una carta abierta en la que pide que se restrinjan las ilustraciones generadas por IA en el periodismo, con el argumento de que, si no se controla esta tecnología, los resultados cambiarán radicalmente el panorama de los medios de comunicación. “Estas herramientas generativas pueden producir simulacros pulidos y detallados de lo que antes habrían sido ilustraciones dibujadas por la mano humana. Lo hacen por unos pocos céntimos o de forma gratuita, y son más rápidas de lo que jamás podrá serlo un ser humano”, se lee en la carta, señalando que programas como Midjourney, Stable Diffusion y DALL-E se construyen utilizando millones de imágenes protegidas por derechos de autor realizadas por artistas humanos. En sus palabras, “Silicon Valley está apostando contra los salarios de artistas vivos y que respiran a través de su inversión en IA”.
Según Crabapple, el uso generalizado de estas herramientas podría ampliar la brecha entre los artistas de primera categoría y los obreros, y convertir la posibilidad de ganarse la vida con el arte en un lujo del que disfrutan unas pocas élites, en lugar de una carrera factible para la clase trabajadora.
Entre los creativos que más temen la sustitución están los ilustradores, que, a diferencia de los artistas de galerías, son artesanos que trabajan por encargo, generando arte para libros y revistas para pagar las facturas. “Un artista de galería puede hacer una obra y venderla a un coleccionista rico por mucho dinero, mientras que un ilustrador hace muchos dibujos, a menudo por muy poco dinero”, dice Crabapple, señalando que los ilustradores suelen quedar excluidos del debate sobre el impacto de la IA en las comunidades creativas, y que comparar los intereses de los artistas de galería con los de los ilustradores es como equiparar el trabajo de un sastre profesional con el de un diseñador: Puede que ambos trabajen en el campo de la moda, dice, pero ¿por qué iba a tener los mismos intereses económicos el que te hace el dobladillo que Alexander McQueen?
En enero, un grupo de artistas presentó una demanda colectiva contra Stability AI, alegando que la empresa violaba los derechos de autor de millones de creadores al utilizar imágenes de sus obras para entrenar su algoritmo. Desde entonces, el uso no consentido de datos se ha convertido en un tema de debate frecuente tanto para los creadores como para las empresas, y gigantes de la imagen de archivo como Getty Images han presentado sus propias demandas contra Stability AI -que creó el popular modelo de aprendizaje automático Stable Diffusion- por apropiarse ilegalmente de millones de fotos.
“Comparar los intereses de los galeristas con los de los ilustradores es como equiparar el trabajo de un sastre profesional con el de un diseñador: Puede que ambos trabajen en el campo de la moda… pero ¿por qué el tipo que te hace el dobladillo de los pantalones va a tener los mismos intereses económicos que Alexander McQueen?”.
Esto ha dado lugar a la invención de herramientas como Have I Been Trained?, que ofrece a los artistas la oportunidad de excluirse de los conjuntos de datos públicos utilizados para entrenar modelos de aprendizaje automático, una intervención práctica, destinada a poner el poder en manos de los artistas mientras se elaboran las nuevas normas de propiedad intelectual. Pero, en opinión de Crabapple, estas iniciativas siguen requiriendo un largo trabajo administrativo para presentar manualmente las solicitudes, lo que crea una barrera de entrada para los artistas de clase trabajadora que más necesitan su protección. Katz está de acuerdo: “Hay que mantener un debate ético más amplio sobre el uso de la IA en los medios de comunicación”, afirma, señalando que, aunque los creativos podrían utilizar esta tecnología, le preocupa que muchas más empresas la utilicen en lugar de contratar a artistas humanos.
Los algoritmos en los que se basan estos programas se entrenaron con un enorme conjunto de datos compuesto por más de 5.800 millones de imágenes extraídas de Internet -incluidos sitios como DeviantArt e incluso historiales médicos privados– sin consentimiento. Esto fue posible gracias a LAION, una empresa alemana que utilizó su condición de organización sin ánimo de lucro como “hoja de parra” para ocultar la cooptación de miles de millones de imágenes; después, entregó el conjunto de datos a Stability AI, la empresa con ánimo de lucro que está detrás de Stable Diffusion.
En opinión de Crabapple, hay algo fundamentalmente diferente entre la llegada de tecnologías como la cámara o la imprenta y el desarrollo de generadores de arte por IA: “Las cámaras no se basan en pinturas; quienes inventaron las cámaras no robaron un montón de obras de artistas vivos para crear algo que pudiera sustituirlas”, afirma, y argumenta que no sólo la apropiación indebida de millones de obras de arte es éticamente incorrecta, sino que la externalización del trabajo creativo a algoritmos de aprendizaje automático probablemente provoque una cultura visual más empobrecida: Una que enseñe a los consumidores a aceptar versiones falsas del arte y la ilustración, creadas por algoritmos que carecen del ingenio, la visión personal, la subjetividad y la humanidad de los artistas vivos. Por esta razón, rechaza el sesgo pro-tecnológico del lenguaje del “avance” tecnológico, señalando que el uso de generadores de imágenes de IA para crear ilustraciones de revistas no hace avanzar necesariamente el campo del arte, sino que facilita a las grandes empresas reducir costes.
“Históricamente, los desarrollos tecnológicos bajo el capitalismo se desarrollan con el dinero de los capitalistas, con el objetivo de descualificar a los trabajadores: desempoderarlos haciéndolos menos capaces de hacer valer sus derechos, más reemplazables, más intercambiables y más alienados.”
La práctica de eliminar la necesidad de mano de obra humana -y de condiciones de trabajo humanas- no es nueva. “Históricamente, los avances tecnológicos en el capitalismo se desarrollan con el dinero de los capitalistas, con el objetivo de descualificar a los trabajadores: desempoderarlos haciéndolos menos capaces de hacer valer sus derechos, más reemplazables, más intercambiables y más alienados”, dice Crabapple, citando ejemplos como la invención de la mula de hilar automática: una máquina encargada deliberadamente por los jefes de las fábricas para romper el poder de los trabajadores en huelga, y reducir su capacidad para mantener el rescate de la producción mientras negociaban condiciones de trabajo justas.
Hoy en día, incluso quienes están en la vanguardia del desarrollo de la IA se lo están pensando. La semana pasada, el llamado “Padrino de la IA”, Geoffrey Hinton, dimitió de Google, lamentando que la tecnología que ayudó a desarrollar podría “quitarnos algo más que [trabajo pesado]”. Es sólo el último de una serie de líderes de la industria convertidos en catastrofistas de la IA, miles de los cuales firmaron una carta abierta pidiendo que se detuviera el desarrollo de la IA generativa, citando riesgos para la sociedad y la humanidad en caso de que siguiera desarrollándose sin las barreras adecuadas.
“A la gente le gusta decir que esto es inevitable: que una vez que se ha creado algo, tenemos que estar usándolo o preparándonos para su uso”, dice Crabapple, señalando que esa retórica ya se está utilizando para suprimir la disidencia contra el uso de la IA. “Nada de lo que hacen los humanos es inevitable. No tienes que comprar o usar estos productos, sólo porque hayan sido creados”.
Para Crabapple, el hecho de que estos generadores se formen a partir de datos obtenidos ilícitamente no solo representa un problema ético evidente, sino también una posible solución en forma de restitución algorítmica, una sanción de la FTC que históricamente se ha impuesto a quienes cometían este delito, incluidas empresas como Weight Watchers, que se vio obligada a destruir algoritmos formados ilegalmente a partir de datos de niños. “Hay un precedente legal para esto, y la gente no habla de ello porque quieren ser como, Oh, el genio está fuera de la botella, no se puede deshacer”, dice Crabapple. “En mi mejor escenario, la FTC obligaría a estas empresas a destruir sus algoritmos, y tendrían que volver a entrenar sus herramientas utilizando datos totalmente consentidos”.
Este es el momento de luchar por ese resultado, afirma Crabapple, porque, aunque muchos artistas contemporáneos pueden integrar las tecnologías de IA en su propia práctica creativa, no ocurre lo mismo con los millones de obreros cuyos puestos de trabajo pueden verse alterados por el auge de la IA.
“Tenemos que luchar, porque el riesgo es existencial”, afirma. “La gente dice ‘adoptar o morir’, pero no hay adopción para los ilustradores: sólo hay morir”.