Objetivo de este Comunicado
El 23 de Enero de 2024 armamos un equipo de trabajo desde Arte es Ética, convocando a FADIP, SEGAP, e integrantes de los grupos de trabajo internacionales sobre IA, comentando nuestra preocupación al leer el Capítulo 9.1 TRANSFORMACIÓN DIGITAL – EL FUTURO DEL CÓMIC, LA INTELIGENCIA ARTIFICIAL ENTRE VIÑETAS, a partir de la Pag 245 del PDF original de El Libro Blanco del Cómic. Con ese equipo conformado, analizamos el texto y detectamos ciertos párrafos que aportan confusión y que motivaron a la elaboración de este comunicado cuya principal intención es la de trasladar estos apuntes para que puedan ser útiles con miras a modificar el citado capítulo antes de una nueva edición de El LIBRO BLANCO DEL CÓMIC.
Enero 2024.
Libro Blanco del Cómic en España
es una iniciativa desarrollada por la Sectorial del Cómic.
Este proyecto ha recibido una ayuda del Ministerio de Cultura a través de la Dirección General del Libro, del Cómic y de la Lectura, y ha contado con la colaboración de Acción Cultural Española, AC/E.
Se autoriza la reproducción citando la fuente: “Libro Blanco del Cómic en España (2024), elaborado por la Sectorial del Cómic”.
El Ministerio de Cultura no se identifica necesariamente con las opiniones expresadas ni con los resultados del presente estudio.
COMUNICADO DE FADIP, ARTE ES ÉTICA, SEGAP y EGAIR
En referencia al apartado sobre Inteligencia Artificial, escrito por Ibán García del Blanco, dentro de EL LIBRO BLANCO DEL CÓMIC, publicado por La Sectorial del Cómic y presentado en la sede del Ministerio de Cultura el 18/01/2024.
Muchos y muchas compañeras ilustradoras nos han hecho llegar a la junta directiva de la Federación de Asociaciones de Ilustradores/as Profesionales el descontento tras leer el apartado dedicado a la Inteligencia Artificial en este Libro que pretende ser un manual o guía para autores/as y empresas relacionadas con el sector del Cómic.
Desde FADIP queremos aclarar que ninguna de las asociaciones, sindicatos y colectivos firmantes de este comunicado hemos colaborado con dicho proyecto, ni formado parte de ninguna comisión ni grupo de trabajo en el que nos hayan pedido revisar los contenidos.
Sí estamos, en cambio, en un equipo de trabajo conformado por personas activas en la defensa de los derechos de autoría en materia de Inteligencia Artificial como son los colectivos y plataformas Arte es Ética, EGAIR, y miembros de asociaciones/as como APIV, Euskal Irudigileak dentro de la propia FADIP, el Foro Europeo de Ilustración EIF, o sindicatos como SEGAP, que aportan información y ayuda en esta materia tan compleja como es en este caso la irrupción de la IA generativa en las disciplinas artísticas. Es en este grupo en el que decidimos escribir estas letras, haciéndonos FADIP portavoz de una queja trasladada desde el estrato más delicado del sector del libro y del cómic, el de los autores/as y en este caso las ilustradoras e ilustradores.
Creemos que a futuro, guías como esta deberían de ser compartidas previamente a su publicación con las Federaciones, Sindicatos y Asociaciones profesionales del sector del libro, el cómic, las artes gráficas, para intercambiar miradas que puedan enriquecer el contenido final. Esto ayudaría a remar a la par, si es que coincidimos en la lucha por unas mejores condiciones de trabajo y un fortalecimiento dentro de nuestro sector. Es de gran importancia la revisión y contraste de informaciones en la redacción de documentos que pueden convertirse en ejemplo, o guía, pues estos pueden afectar o condicionar de una manera directa o indirecta al desarrollo del trabajo de muchos y muchas profesionales a los y las que representamos y a los que tratamos de aconsejar y proteger con nuestras acciones.
Hemos detectado ciertos párrafos que aportan confusión y queremos trasladar nuestros apuntes para que puedan ser útiles a profesionales de la ilustración y otros sectores relacionados con el libro, así como a instituciones, a la propia Sectorial del Cómic y al Ministerio de Cultura y agentes que hayan apoyado o redactado este libro. Siempre partiendo del respeto y apoyando que existan más libros blancos, que se actualicen con mayor frecuencia, y que se difundan con más fuerza.
INTELIGENCIA ARTIFICIAL
Primero es necesario que diferenciemos IA (convencional) de IA generativa. Siendo la Inteligencia Artificial Generativa un campo dentro de la IA, centrada en la producción automática de datos, texto, imágenes y otros contenidos. Es importante referirnos a los resultados de la IAG como eso, como resultados o productos, pues no se trata de creaciones o de obras, términos que son propios de una actividad humana sujeta a las leyes del derecho de autor. Las tecnologías detrás de la IA generativa están basadas en el aprendizaje automático y necesitan ser entrenadas con grandes cantidades de contenidos: textos en el caso de ChatGPT; fotografías o ilustraciones en casos de IA generadoras de imágenes como Dall-E, Midjourney o Stable Diffusion.
Partiendo desde esta introducción.
La inteligencia artificial generativa, al menos en el campo del cómic, de la ilustración y en los sectores que requieren de humanos y humanas creadoras nunca podrá considerarse “una herramienta que nos permita vivir mejor”. No se trata de una herramienta. Una herramienta es un instrumento que facilita el trabajo humano y los profesionales de los campos creativos trabajamos con verdaderas herramientas tecnológicas desde el día 1: dispositivos, softwares y apps que resultan asistentes para amplificar las capacidades humanas, jamás para sustituirlas o nutrirse en su proceso de obra de otros/as seres humanos. Las IA generativas, en cambio, son servicios comerciales; plataformas que ejecutan determinadas funciones a partir de datasets alimentados con obras robadas. Obras utilizadas y comercializadas sin permiso. No se puede equiparar eso a una herramienta. Los programas tecnológicos que autores/as utilizamos como herramientas no atentan contra la propiedad intelectual de los creadores. No es el caso de las IA generativas ya que por el contrario las imágenes de base que usan en sus datasets se emplean sin consentimiento, compensación económica ni reconocimiento de autoría.
Y a tales modelos comerciales generativos se los refiere erróneamente en este Libro Blanco del Cómic como “herramientas”.
EN EL APARTADO DE INTELIGENCIA ARTIFICIAL ESCRITO POR IBÁN GARCÍA DEL BLANCO
En términos generales, a todos los integrantes de este equipo de trabajo este apartado nos ha parecido una alabanza excesiva del uso de la IA generativa, teniendo en cuenta que esta tecnología vulnera la Ley de Propiedad Intelectual y se utiliza para sustituir a los trabajadores.
Este texto parece preocuparse más por la industria que por el trabajador y tampoco parece un documento elaborado desde el conocimiento en la materia, o con el asesoramiento especializado requerido para abordar este tema con criterio y veracidad. Nos consta que este eurodiputado es uno de los que ha puesto el foco en los impactos que la Inteligencia Artificial han supuesto en el ecosistema creador, y por ello nos preocupa aún más que él, teniendo conocimientos suficientes no incida con mayor precisión en ciertos temas para la mejor divulgación del verdadero funcionamiento de estos softwares. Además, este texto no refleja la situación actual ni los perjuicios que esta tecnología está causando en la industria creativa en su conjunto, tan sólo se limita a intentar convencer a los artistas de que la implementación de la inteligencia artificial generativa en el sector del cómic es inevitable y hasta deseable.
Si desde las asociaciones profesionales y las instituciones públicas se le da cabida a la IAG como un servicio inofensivo y necesario para el sector creativo, se está avalando la utilización de programas que funcionan de manera ilícita vulnerando la Ley de Propiedad Intelectual, poniendo en riesgo la continuidad de las profesiones creativas y destruyendo el medio de vida de los artistas.
La adaptación al entorno digital del sector creativo como uno de los grandes objetivos de las políticas públicas no es una opción si se continúa obviando que los principales programas comerciales como Midjourney, Dall-e, Stable Diffusion y ChatGPT, entre otros, se apropiaron de millones de obras protegidas por derechos de autor sin el consentimiento de sus autores legítimos.
Y no debemos confundir esta postura con un tipo de neoludismo. Todas las partes aquí firmantes apostamos por un progreso sostenible en todos los aspectos, y sobre todo en el más primordial: la mejora de las condiciones de trabajo de las personas creadoras. El día que exista un software que pueda probar la no vulneración de derechos nos encargaremos de difundir y promover su uso, al igual que difundimos y fomentamos el uso de softwares como los desarrollados por el equipo de la Universidad de Chicago para la protección de nuestra obra ante el robo de material por parte de las IA generativas.
Esta labor no es nuestra, debería ser competencia de las instituciones que abogan por el fomento y defensa de la Cultura.
La sensación que tenemos es que todo este discurso está centrado en el mercado, en fomentar la competitividad y en obtener un beneficio económico que repercuta en las empresas que lo conforman, pero no tiene en consideración a los artistas que son los afectados realmente por la irrupción de esta tecnología. Es incongruente promover la implantación de la IAG, por lo citado anteriormente, y al mismo tiempo, aludir a la responsabilidad de garantizar la protección de los autores a través de la legislación europea que no entrará en vigor hasta 2026. Reiteramos que en el texto se hace apología de un futuro prometedor a través del uso de la IA generativa, pero obvia por completo el problema en el presente y el hecho de que ya se están vulnerando los derechos de autoría y sustituyendo a los artistas, por lo que el uso actual de esta tecnología es nociva para el desarrollo ético y económico de las profesiones artísticas y creativas.
No entendemos cómo se habla de la diferencia entre IA íntegramente automatizada y la manipulada por humanos/as. Nos encontramos en una fase extremadamente delicada en las negociaciones por la regulación de la IA y concretamente la IA Generativa que es la más dañina para autores/as de muchísimos sectores creadores de cultura.
En el Parlamento Europeo se ha planteado no conceder derechos de autoría a las obras íntegra y exclusivamente generadas por IA generativa, sin embargo se plantea que la Propiedad Intelectual siga siendo aplicable cuando los autores/as firmantes hayan utilizado dicha tecnología, que no herramienta de manera parcial. Es una medida insuficiente, y por lo tanto, nos encontramos en plena lucha por la regulación de la IA generativa de una manera eficaz. Desde nuestros colectivos denunciamos que tanto parcial como total, el uso de esta tecnología VULNERA NUESTROS DERECHOS de igual manera, y es por tanto igualmente ilícito.
Toda IA generativa, aunque la usen humanos, está desarrollada con una base de minería ilegal; la use después quien la use, esas producciones no son fruto de la persona que da órdenes al software, sino de la mezcla (la ley nos protege, o debería proteger, ante el uso, la manipulación y modificación de nuestra obra sin permiso) de todas las creaciones que poseen derechos de autoría recogidas por estos softwares para sus entrenamientos, y que bajo dichas órdenes, toman partes de dichas obras creando un refrito al que quieren llamar OBRA pero que especialistas en derechos de autoría lo consideran PRODUCTO.
Hay que decir que nuestras ilustraciones y trabajos, son traducidas en datos desde nuestras webs personales, desde todo lo que internet contiene y sin permiso, a través de empresas que están lucrándose por ello, que posteriormente venden estos datos a las empresas desarrolladoras de modelos generativos como ChatGPT o Midjourney, bajo la terrible excusa y vacío legal de la investigación.
Esto no solo afecta a creadores/as, también a editoriales que compran las cesiones y deberían preocuparse pues también se les está robando imágenes. Y en segundo lugar deberían preocuparse porque los derechos del material generado por estos softwares no pertenecen a “quien da las órdenes” sino al “ordenador inicial”. Esto aún está discutiéndose ante los tribunales, por lo que animamos a toda persona entusiasta, gurús e impulsores del uso de la IA generativa en el sector del libro que dejen de hacerlo y de promoverlo por el bien de todos/as.
A su vez la reciente publicación del AI ACT exige transparencia a los softwares, pero no está surtiendo efecto y también debemos hablar públicamente sobre esto. Actualmente ninguna base de datos como es el caso de LAION es capaz de encontrar el material concreto de un autor o autora que solicite la retirada de su obra de la base de datos. Ningún software es capaz de “desaprender” retirando esos materiales de sus procesos de entrenamiento. Por ello es necesario explicar que estamos en un momento de vacíos legales, en los que hay que desarrollar leyes para la limitación de uso, y medidas retroactivas que sanen el daño ya creado.
Desde las asociaciones profesionales no solo conversamos a diario con instituciones para que se deje de financiar a empresas que usan softwares ilegales como estos, o para que se incluyan cláusulas específicas que no abran la puerta al uso de la IAg en subvenciones, contrataciones públicas o Premios Nacionales, mientras estos softwares inclumplan las bases de la LPI, sino que estamos intentando que la futura ley de regulación de la IA generativa tenga consecuencias retroactivas por medio de las entidades de gestión.
Desde el Manifiesto de EGAIR, que apoyamos desde nuestras asociaciones, sindicatos, colectivos y muchas otras organizaciones de todo el mundo, se pide la regulación de la IA generativa en materia de derechos de autoría pidiendo tres cuestiones importantísimas que echamos de menos en este artículo y este LIBRO BLANCO DEL CÓMIC:
- EL CONSENTIMIENTO PREVIO del uso de las imágenes solicitado a cada una de las personas creadoras de las que se requiere material para los entrenamientos del software.
- LA REMUNERACIÓN de los y las creadoras cuya obra haya alimentado al software para la elaboración del nuevo material.
- LOS CRÉDITOS que recojan los nombres de las personas cuya obra se haya utilizado en ese nuevo “producto” generado.
Queremos expresar que la preocupación del sector parte de las infracciones de la LEY DE PROPIEDAD INTELECTUAL por parte de estos softwares; que no parte del miedo a que las máquinas nos sustituyan, cuestión muy dudosa, por lo que llevamos a cabo campañas de puesta en valor de los procesos creativos humanos siendo esta la verdadera HERRAMIENTA DE FUTURO, y viendo la IAg como tecnologías que se nutren del pasado, de lo que los autores/as hemos creado y publicamos. Nunca estas tecnologías trabajan con obra presente, o con planteamientos evolutivos en el arte. Esta es una cuestión clave. Como parte de las asociaciones que estamos presentes en los procesos de elaboración de medidas dentro del ESTATUTO DE LOS ARTISTAS, CREADORES/AS y TRABAJADORES/AS DE LA CULTURA, no entendemos la lentitud de este proceso, y la rapidez en cambio de implantación de la IA generativa en muchísimas administraciones sin estudiar previamente sus impactos en todos aquellos sectores que llevamos desde 2017 acudiendo a las reuniones del ESTATUTO. Nos preocupa la FALTA DE INFORMACIÓN y por ello nos disgusta no haber encontrado más textos contrastados y aclaratorios en materia de IA generativa en este libro, que pretende ser un manual para creadores/as.
Cuando se dice en este libro que los creadores/as estamos inquietos/as, por la gran potencia de los resultados de estos softwares, nos sentimos bastante indignados/as. Son miles los ejemplos de imágenes generadas por IA cuyos píxeles se rompen o contenidos están deformados. Son miles los ejemplos de textos en los que el popurrí de estilos se hace visible y las construcciones léxicas son erradas. Y en el campo de la traducción los errores son tan garrafales que se ha creado un nuevo concepto de traductor-corrector. Nuestros compañeros y compañeras traductoras lo sufren cada día, por parte de editoriales que ya no les solicitan traducir, sino corregir a los traductores automáticos. ¿Esto es a lo que animamos al sector del libro, a destruir oficios por los que a su vez se lucha en la mejora de condiciones laborales? ¿Animamos a hacer chapuzas?
Nuestra labor dentro de nuestro sector consiste en concienciar e informar y también SOLICITAR QUE NO SE APOYE CON DINERO PÚBLICO A NINGÚN PROYECTO EDITORIAL (y de ningún otro sector creativo) QUE NO SUSTENTE LAS AUTORÍAS, que no fomente un ECOSISTEMA de CREACIÓN DIGNO Y LEGAL. TODO PROYECTO DE LIBRO DEBERÍA CONTAR CON CORRECTORES/AS, TRADUCTORES/AS, ESCRITORES/AS E ILUSTRADORES/AS a quienes se les contrate y se les remunere como la ley de Propiedad Intelectual exige.
Queremos trasladar a su vez, que no somos un grupo de activistas anclados al romanticismo del pasado, ni artesanos/as o artistas neandertales armados/as con cincel y maza. Somos agrupaciones, asociaciones, colectivos con décadas de trayectoria en el estudio y la defensa de los derechos de autoría y la creación gráfica, y contamos con conocimientos en tecnología suficientes para detectar cuando los avances vienen desde el capitalismo más feroz.
Gracias también al avance de la tecnología estamos conociendo nuevos sistemas de protección de nuestras imágenes (Glaze), o programas para confundir a la IA generativa (Nightshade), promoviendo en eventos internacionales y nacionales su uso, como única forma de protección visto que las instituciones no están actuando con la rapidez necesaria ante el avance descontrolado de la inteligencia artificial generativa.
Si autores/as profesionales protegemos nuestro trabajo evitando que la minería de datos pueda seguir alimentándose, los resultados inevitablemente se devaluarán. Habría sido positivo incluir este tipo de HERRAMIENTAS (en este caso sí) dentro del capítulo de IA, para informar de ello a lectores/as que sean autores/as de cómic.
Cuando los autores/as comprendamos que la REVOLUCIÓN de la que nos habla Ibán García del Blanco en realidad es una AMENAZA para la mejora de las condiciones laborales de los creadores/as y que comete INFRACCIONES LEGALES, cuando nos preocupemos de protegernos ante la minería ilegal de la IA generativa, la calidad de estos resultados no será la misma, y volverán a ser valiosas las mentes y las manos creadoras. Por ello estamos más enfadados/as que preocupados/as.
En la definición de ARTE siempre va ligada la palabra HUMANO/A, pero hay algo más, quienes trabajamos de la creación de contenidos artísticos sabemos que tan importantes son los PROCESOS como los RESULTADOS y esto determina claramente en la CALIDAD DE LA OBRA. Cuando la IA generativa tenga que solicitar permiso, remunerar, y citar a los creadores/as, veremos resultados similares a los bancos de imágenes, y entonces seguramente las empresas prefieran seguir pagando como hasta ahora a personas que cuenten con un proceso creativo, unas ideas, técnicas y resultados propios. Pues no debemos olvidar, que hasta los bancos de imágenes cuentan con una regulación y una remuneración para los autores/as que los alimentan. Y ese es uno de los objetivos de la regulación de la IAG: que los autores/as podamos decidir si ser partícipes de ello o no, a cambio de unas condiciones ofrecidas de manera legal en términos de remuneración y créditos de autoría.
Mientras tanto no nos queda otro remedio que insistir en divulgar que no hay usos éticos de las IA generativas ya que hasta la fecha no existe ningún modelo generativo que esté libre de explotación. Los que afirman ser éticos siguen basándose en Stable Diffusion, utilizan LAION u otros métodos de scraping masivo.
En la lucha por la desprecarización del sector creativo hay que incluir medidas urgentes ante la Inteligencia Artificial Generativa y esto es algo que concierne al Ministerio.
Esto sí queda recogido en el libro y lo celebramos.
SOSTENIBILIDAD
Otra cuestión que queremos resaltar es la relativa al compromiso medioambiental y a los objetivos de desarrollo sostenible (ODS) en el sector del cómic.
Si uno de los objetivos es reducir la huella de carbono, integrar la IA generativa como parte del proceso creativo es una incongruencia en relación a este compromiso. Los datos que alimentan la IA generativa contaminan muchísimo durante los distintos procesos de entrenamiento y almacenaje. Para todos esos procesos se requiere poder computacional masivo para entrenar a sus modelos, y sabemos que puede consumir grandes cantidades de energía y generar emisiones de carbono, además de utilizar enormes cantidades de agua para enfriar estos contenedores de datos.
Muchos expertos y expertas como Amparo Alonso han advertido que: “Las previsiones nos dicen que las demandas de electricidad que requieren los centros de datos se pueden multiplicar por 15 y eso significa que en 2030 alcanzaríamos el 30% del consumo energético mundial para IA”.
Echamos de menos que se mencione esta cuestión en el LIBRO BLANCO DEL CÓMIC.
PIRATERÍA
Para terminar, en el apartado dedicado a la piratería en el cómic, aunque se centran en la descarga ilegal de contenidos digitales, sí que mencionan que no hay argumentos válidos que justifiquen la descarga y el consumo de contenidos ilícitos. El contenido ilícito es el alma y el cuerpo de la IA generativa, y no es coherente condenar la piratería a la vez que se promueven las IAGs desde el mismo sector.
Todos/as deberíamos trabajar de la mano en la denuncia de los derechos de autorías no remunerados, no cedidos y robados en los entrenamientos de todos y cada uno de los softwares de inteligencia artificial generativa que podemos encontrar hoy en día al alcance de nuestra mano, y aquí CEDRO y VEGAP cumplen un papel importante.
ÚLTIMOS APUNTES
También queremos mencionar que se confunden en este libro los conceptos de asociación profesional y entidades de gestión como las que acabamos de mencionar. No quita que trabajemos de la mano, el hecho de que seamos diferentes.
Además lo que hay que mencionar y también echamos de menos, es que la IA generativa abre la puerta al intrusismo laboral más descarado, en el que el cliente, quien da las órdenes de los contenidos que quiere obtener, se pretende convertir en creador a través de estos softwares (que no herramientas) ilegales. Y también abre la puerta a la devaluación del trabajo, precarizando aún más la situación laboral existente, queriendo convertir a ilustradores y dibujantes de cómics, sobre todo a los portadistas, en retocadores de imágenes generadas por estos modelos de IA generativa.
Por todo esto, mediante el presente comunicado pretendemos aclarar por un lado la no relación de nuestras asociaciones, sindicatos y colectivos con la redacción de los contenidos del LIBRO BLANCO DEL CÓMIC. Y por otro lado, pretendemos responder las dudas y completar los vacíos encontrados en dicho documento.
Esperando poder seguir informando e ilustrando, nunca mejor dicho, en materia de Inteligencia Artificial Generativa a quien lo necesite, concluimos este comunicado las asociaciones, sindicatos y colectivos firmantes que componen nuestro EQUIPO DE TRABAJO EN MATERIA DE IAG.
Valencia, Bilbao, Buenos Aires, Roma. 20 de mayo de 2024.
