per Esther Paniagua | La Fábrica Digital
Varios colectivos profesionales como Arte es Ética se sublevan contra una tecnología que se entrena con su trabajo, sin su consentimiento y sin recibir compensación alguna.
Santiago Caruso es un artista e ilustrador argentino dedicado al mundo de la fantasía. Su obra se ha presentado en galerías y museos de países como Estados Unidos, Reino Unido o España. Hace unos meses le salió un imitador que no sólo crea obras muy similares a las suyas, sino que a menudo se hace pasar por él. Se llama Midjourney y es una herramienta de inteligencia artificial (IA) generativa.
Caruso es uno de los miles, probablemente millones de personas afectadas por la irrupción de los grandes modelos de lenguaje natural . Es un tipo de IA que genera cualquier tipo de contenido textual y audiovisual a partir de instrucciones de texto. Puede desde programar hasta componer música, diseñar, pintar cuadros, hacer locución o escribir artículos científicos falsos, entre otras tareas.
Son actividades propias de profesiones calificadas que se están viendo amenazadas por la automatización. La empresa Open AI (creadora de ChatGPT y Dall-E ) calcula en un estudio que aproximadamente el 80% de la fuerza laboral estadounidense se verá afectada por los lenguajes naturales.
Las personas trabajadoras ‘de cuello blanco’ se pueden sustituir por tecnologías que se entrenan con su trabajo, sin su consentimiento y sin compensarlas . Por eso varios colectivos están en pie de guerra. Uno de ellos –al que pertenece Caruso– es Arte es Ética , formado por profesionales independientes y por asociaciones gremiales del mundo hispanohablante.
Arte es Ética ha lanzado un manifiesto para comprender y regular las nuevas tecnologías. Se denuncia la expropiación de un caudal artístico inmenso –millones de imágenes y contenido de internet– a través del desarrollo del modelo de código abierto Stable Diffusion, que explotan herramientas como Midjourney o Dall-E 2. el “carácter delictivo”.
Lo más importante para Caruso es que su obra no se utilice para alimentar la tecnología. Sin embargo, con los modelos existentes esto ya no es posible. “Si son ilegales, construidos de forma espuria y contra la voluntad de miles de personas, que los destruyan”. Para quienes acepten que su obra se utilice para entrenar los modelos de lenguaje natural, sugiere un pago cuantioso, “ya que no podrán volver a ejercer su profesión”.
Desde Arte es Ética se reclama “volver a un estado de legalidad”; que no se legitime ni se normalice una industria nueva “de carácter parasitario” ; que se refuerce la regulación sobre recopilación y rastreo de datos “para evitar que se desarrollen modelos de IA nuevos que compitan de forma desleal”, y “una serie de reglas éticas que garanticen la continuidad sana del oficio creativo”.
La IA, a juicio
Esa continuidad, realmente, está en entredicho. ” Muchas profesiones tienen, probablemente, los días contados” , afirma Alejandro Puerto, registrador de la Propiedad Intelectual de la Comunidad de Madrid. Dice conocer a varias empresas que han dejado de contratar ilustradores para ciertos trabajos: ahora se las hace Midjourney.
Hasta ahora el registrador ha recibido dos solicitudes de registro de obras que utilizaban herramientas generativas. Quizá haya más que no lo especifiquen, y eso es un problema, porque no tiene ninguna manera de saberlo. Una de estas obras es un libro sobre cómo crear imágenes utilizando programas de inteligencia artificial diferentes. La otra es una novela en la que el contenido se ha producido, al menos en parte, por ChatGPT, y en la que se acreditan como autores al solicitante y ChatGPT. En ambos casos, la resolución de Puerto ha sido la misma: inscripción denegada.
El derecho de autor sólo funciona cuando lo crea una persona física, pero no si lo genera una máquina a partir de unas instrucciones o prompts. Los dictámenes de Puerto señalan que las obras presentadas no cumplen el requisito de la creación humana ni de la originalidad, y que el contenido sea resultado de las órdenes específicas del solicitante no es suficiente para considerar que es autor.
Además, en el caso de la novela, la forma en que se han fundido las aportaciones humanas con las generadas por la IA no permite identificar adecuadamente cuáles serían las creaciones a proteger en el conjunto del resultado final. Puerto asegura que el escenario “cambia totalmente con estas herramientas” y que es necesario que las autoridades tomen una decisión clara al respecto.
De momento, a los autores de este tipo de obras a las que se les deniegue la inscripción sólo les queda ir a juicio. En los tribunales hay cada vez más casos, pero en sentido opuesto: demandas contra sistemas de lenguaje natural que se han nutrido de imágenes, textos, obras audiovisuales, etc. para generar nuevos productos. Como explica el experto en propiedad intelectual y derecho digital Juan Antonio Orgaz, asesor de la Ventanilla Única Digital, procede tanto de autores como de organizaciones.
Orgaz –también profesor de la Universidad Complutense de Madrid– destaca la demanda contra Midjourney, Stability AI y DeviantArt en nombre de las diseñadoras Karla Ortiz, Sarah Andersen y Kelly McKernan en Estados Unidos (EE.UU.), y la del repositorio Getty Images contra Stability AI en el Tribunal Superior de Justicia de Londres.
Los programadores también han iniciado procedimientos . Los abogados que llevan el caso de Karla y sus compañeras habían presentado meses antes –en noviembre del 2022– una demanda colectiva ante un tribunal federal de EEUU en nombre de millones de usuarios de GitHub. Aún se está procesando y cuestiona la legalidad de GitHub Copilot, un producto de Microsoft que ayuda a desarrollar programas informáticos. La demanda afirma que la empresa ha violado los derechos legales de gran cantidad de creadores que publicaron el trabajo bajo ciertas licencias de código abierto en GitHub.
Los medios de comunicación son otro de los grandes afectados, que reclaman que las herramientas de IA no utilicen sus creaciones, imágenes, voces, etc. para la generación de nuevos productos. “Los principales medios de comunicación americanos han criticado abiertamente a OpenAI por utilizar los artículos escritos por sus periodistas y colaboradores para entrenar ChatGPT sin que hubiera ninguna autorización previa y, por tanto, sin ninguna compensación”, comenta Orgaz.
“También las principales compañías discográficas del mundo están prohibiendo el uso de los fonogramas grabados por los artistas con los que tienen contrato para que las herramientas de IA no puedan utilizarlos, tras el falso dúo entre Drake y The Weekend”, añade. Se refiere a una canción generada artificialmente por un usuario de una conocida red social que se hizo viral por cómo pasó por buena: parece que fuera obra de Drake y The Weekend en serio, y además –dice– suena bien. Otros músicos como Rosalía tampoco se han entregado.
¿Aumentados o enajenados?
Pintura, ilustración, fotografía, animación, locución, doblaje, programación, escritura, periodismo, moda… Pocos sectores se libran del alcance de la IA generativa. ¿Qué pasará con estas profesiones? ¿Mejorarán las condiciones gracias al uso de estas herramientas, como argumentan algunos, o por el contrario, los trabajos de los profesionales que los ejerzan estarán condenados a extinguirse?
Caruso se alinea claramente con el segundo argumento. Otros expertos creen que el trabajo se reconfigurará , que integrará la IA, y que estos cambios requerirán una recalificación. Así lo ve Albert Cañigueral , autor de ‘El trabajo ya no es lo que era’ . Alude, como propuesta válida, al marco conceptualizado por Arun Sundararajan, catedrático de emprendeduría de la Universidad de Nueva York: primero los humanos aumentan las máquinas, después –valiéndose– se reinventan los procesos de trabajo y, por último, estas máquinas aumentan las capacidades de los humanos.
Parece que ya se está realizando en ciertos ámbitos. Concretamente, en la atención al cliente. Un estudio firmado por el profesor emérito de la Universidad de Stanford Erik Brynjolfsson muestra que los chatbots de IA generativa pueden hacer que empleados con bajas calificaciones dedicados al servicio de atención al cliente sean hasta un 14% más productivos . Para los más calificados es, en todo caso, una distracción.
Caruso denuncia que en sectores como el de la ilustración o el diseño ocurre algo un poco más extremo: personas sin ningún tipo de destreza o experiencia, que como máximo tienen unas nociones de Photoshop, pueden imitar su trabajo con una precisión aterradora. Personas sin oficio que, tal vez, puedan forjarse una carrera artística, o como mínimo, una nueva forma de ingresos pero, será –dice–, aunque más precaria de lo que ya son estas profesiones. “Los prompters ofrecen sus servicios abiertamente ya muy bajo coste para obtener clientes, con el argumento del ahorro notable de costes que obtendrán”, critica. Mientras, los profesionales cualificados en estos sectores “nos quedaremos sin encargos”.
Javier de la Cueva, abogado y profesor especializado en propiedad intelectual, tecnología e internet, no cree que haya mucho margen de empeoramiento para los artistas y creadores. “La autoría está totalmente precarizada. Si algo nos ha demostrado el modelo de propiedad intelectual vigente es que es un sistema utilizado por una minoría para extraer su valor de las creaciones de los individuos”, señala. “La mayoría de personas autoras no son las titulares de los derechos de explotación de sus obras, sino que han tenido que cederlos por un plato de lentejas . Como ejemplo, el periodismo”, añade.
Para Caruso esto no es excusa. Tampoco lo es para Sandra Wachter, catedrática de Tecnología y Regulación en el Oxford Internet Institute (OII) de la Universidad de Oxford. “Que no sea un problema nuevo no quiere decir que no tengamos que hacer nada. ¿Lo hemos resuelto?”, cuestiona. “Seguimos sin estar preparados para ello. Es difícil saber lo disruptivo que será el efecto de la IA generativa , pero la respuesta no es no hacer nada, sino evaluar, de manera continua, cuál podría ser su impacto”, prosigue.
Wachter sostiene que el riesgo es que se repita la situación que hubo durante la Revolución Industrial , cuando las máquinas desplazaron a los granjeros, que tuvieron que mudarse a la ciudad y trabajar el doble de tiempo, en las fábricas, por la mitad de los ingresos. “Debemos anticiparnos antes de que la gente se quede sin trabajo y pensar qué es aceptable y qué no. Que puedas automatizar algo que no significa que tengas que hacerlo. No todos los tipos de automatización son deseables ”, sostiene la experta de la OII.
Ante el argumento de que la automatización permite a las personas trabajadoras afectadas dedicarse a tareas de valor añadido, pone el ejemplo de las cajeras y cajeros de los supermercados. “Para las personas que no han sido reemplazadas por máquinas, ¿quizás ha mejorado la calidad del trabajo? Todo lo que hacen ahora es supervisar y pulsar un botón si las máquinas no reconocen un código. El trabajo se ha vuelto más aburrido y peor pagado , porque necesitas menos calificación”, destaca.
Esto hace, además, que haya más personas que puedan competir por conseguir este trabajo, ya que se consideran menos calificadas. “Esta competencia hace que se bajen los salarios ”, apunta Wachter. Apliquemos esto, ahora, al ejemplo que ponía Caruso con los ilustradores y diseñadores: ocurre exactamente lo mismo.
Algo parecido ocurre con la fuerza de trabajo necesaria para desarrollar las herramientas de la IA generativa. La revista Time reveló que OpenAI pagó menos de 2 euros la hora a trabajadores kenianos por intentar hacer que ChatGPT fuera menos tóxico. Se dedicaban a etiquetar ejemplos de violencia, odio, abuso sexual, etc. con muestras de los rincones más oscuros de internet.
Esta problemática la denunciaron la antropóloga Mary Gray y el experto en ciencia social computacional Siddharth Suri en el libro Ghost work. How to stop Silicon Valley from building a new global underclass (2019). En la investigación describen cómo detrás de las herramientas automatizadas se esconde una masa de trabajadores invisibles y precarizados.
Sobre la IA generativa en particular, Gray –investigadora en Microsoft Research– señala que los modelos de lenguaje natural seguirán requiriendo actualizaciones, localización y traducción. “Cuanta más integración haya, más trabajo digital habrá para afinar y posprocesar estos modelos”, afirma. La experta cita el ejemplo de EPIC, el mayor proveedor de registros médicos electrónicos de EEUU, que ha anunciado que quiere añadir modelos de lenguaje natural al software para administrar la documentación clínica.“Esto reducirá el tiempo que los médicos dedican a ingresar los datos a mano o mediante la voz, pero será necesario que haya más control de calidadpara revisar los registros médicos electrónicos generativos creados por IA, e incluso para ayudar a integrar estos documentos con otros materiales”, explica Gray. Lo que más preocupa es que “si no hay una visión clara de cómo deben aplicarse los modelos de lenguajes naturales en los entornos sociales, veremos un desarrollo rápido de una brecha de IA similar a la brecha digital que todavía persiste : más de un tercio de la población mundial no está conectada ni ha accedido nunca a Internet”.
Medidas de protección
La brecha de la IA se añade a la lista de los efectos desatados para el lanzamiento de las herramientas generativas. Sus creadores dicen que son aspectos que huyen de su control. “Si no la puedes controlar ni anticipar el riesgo, entonces no la liberes” , dice Wachter. “Es interesante cómo las empresas de tecnología se salen con la suya. En cualquier otra industria esto sería impensable. Deberíamos pensar en las estructuras de responsabilidad tradicionales que obligan a rendir cuentas cuando se quitan al mercado productos nocivos o que puedan originar problemas”, sugiere.
Wachter asegura que, entonces, es necesario debatir medidas como la renta básica universal (RBU) o sobre la provisión de servicios básicos a trabajadores autónomos que se ganan la vida –o sobreviven– a base de contratos por tareas (los llamados minijobs ). También –dice– necesitamos hablar sobre impuestos . “Porque, las organizaciones que ahorran dinero al no contratar humanos ¿no deberían estar obligadas a pagar más tributos? No podemos hablar de distribución equitativa de la riqueza si no es así”, sostiene.
La investigadora cree que deberían recuperarse los debates sobre las tasas a los robots, la RBU y las coberturas sociales que se abrieron con la explosión de la gig economy , ya que sigue siendo un problema no resuelto. También considera que debería haber algún tipo de protección laboral que asegure que a una persona se le paga de forma justa si su salario se reduce a la mitad por estar sustituido parcialmente por una máquina y necesita realizar dos trabajos en sitio de una para poder pagar las facturas.
“¿Este es el progreso del que estamos hablando? ¿La utopía de la automatización profunda que nos prometen? Obviamente no”, asevera Wachter. “Todo lo que damos por sentado –un trabajo con buenas condiciones, capacidad para planificar más allá del día siguiente, cobertura sanitaria adecuada, una pensión, medidas de conciliación, etc.– desaparece en los trabajos temporales”, añade. “Debemos prepararnos para los peores escenarios” , concluye.
Entre las propuestas de la plataforma Arte es Ética también se encuentran en la línea de la cobertura de los trabajadores autónomos y de los impuestos que propone Wachter. También sugieren impulsar la creación de un fondo estatal para cubrir las necesidades más acuciantes del sector creativo destinado al desarrollo de proyectos artísticos, así como la creación de puestos de trabajo que incluyan mano de obra e inteligencia humana.
En cuanto a la explotación del trabajo creativo, Arte es Ética exige que sea necesario el consentimiento previo para utilizar cualquier contenido para el entrenamiento de plataformas generativas; que anulen para los usuarios la funcionalidad de buscar nombres propios de los creadores que no hayan aceptado formar parte del conjunto de datos ni de la generación de derivados automatizados de su obra, y que las imágenes producidas con estos modelos lleven una marca de agua de la plataforma que la generó, además de una firma digital, entre otros detalles. Apelan a la Organización Mundial de la Propiedad Intelectual (OMPI) para solicitar su intervención y arbitraje urgentes, y denegar el registro de obras generadas por IA hasta contar con información fehaciente de cuál es el grado de proceso humano implicado en el resultado final.
Como señala Puerto, ni España ni la Unión Europea (UE) se han pronunciado todavía al respecto. La UE sí lo ha hecho, parcialmente, sobre el asunto del copyright de las plataformas. La Comisión Europea ha propuesto incluir en la Ley de Inteligencia Artificial la obligación por parte de las empresas de divulgar cualquier material protegido por derechos de autor empleados para desarrollar los sistemas de IA generativa.
Es una medida que no satisfará a todo el mundo, como reconoce la diputada Svenja Hahn. “En contra de los deseos conservadores de una vigilancia mayor y de las fantasías izquierdistas de una regulación excesiva, el Parlamento encontró un compromiso sólido para regular la IA de forma proporcional, proteger los derechos de los ciudadanos, fomentar la innovación e impulsar el economía”, aseguró el pasado 28 de abril, según recoge Reuters .
“La producción masiva de contenidos generados por IA probablemente supondrá una profunda crisis en todo lo que significa la cultura de un territorio y también una revolución en las industrias creativas, así como en el desarrollo de los sistemas políticos en los que vivimos. Propongo que aprovechemos lo vivido en tiempos de la Revolución Industrial y que evitemos a los ciudadanos del siglo XXI sufrir las grandes penurias que vivieron los trabajadores de entonces”, apunta Orgaz.
La cuestión de la regulación es espinosa y compleja , pero esto no debe ser excusa para la inacción. En un momento en que parece que la industria tecnológica sigue los pasos de la industria de la moda, al copiar las peores prácticas en relación a la explotación laboral, es necesario reforzar los marcos internacionales para garantizar unas condiciones de trabajo justas . Trabajar en el análisis y las medidas de prevención y protección frente a externalidades negativas para los trabajadores es imperativo en un contexto de funcionamiento como un oligopolio de los gigantes tecnológicos, en el que las asimetrías de poder siguen aumentando.
:: Ejemplo de resolución de máquinas y derechos de autor ::
:: Ejemplo de notificación de denegación de derechos de autor ::