Ante la próxima reapertura del debate sobre el Reglamento de IA, es muy importante hacer oír la voz de EGAIR y de todos sus miembros, entre los cuales Arte es Ética hace parte, para garantizar la protección de los derechos de autor y la privacidad en el uso de la IA generativa.
Sin embargo, creemos que la nueva obligación de transparencia sobre el material con derechos de autor utilizado para entrenar los sistemas de IA, en lugar de resolver el problema del robo de datos/material, en realidad corre el riesgo de legitimarlo. Esto es aún más relevante ya que estamos hablando de material utilizado con fines comerciales y también plantea el tema de la competencia con los otros actores del sector, de los cuales se sustraen los materiales.
En este sentido, durante la discusión sobre las modificaciones a la Ley de IA, creemos que es muy importante recalcar la importancia de asegurar que el uso de datos y obras de otra persona para entrenar IA generativas esté autorizado previamente mediante el consentimiento explícito de la persona sujeto de derechos de autoría. Además, es importante subrayar que en el uso de obras ajenas por parte de las IA generativas, se debe respetar la legislación nacional y europea sobre derechos de autor.
Para representar nuestras posiciones, adjuntamos un documento de EGAIR ( adjunto más abajo y traducido al castellano), esperando que compartas nuestro punto de vista y lo apoyes durante el debate sobre la Ley de IA.
Creemos que todxs deberíamos enviar el documento de posicionamiento (descargar PDF) a nuestros representantes institucionales. Para mayor comodidad, aquí hay un borrador de correo electrónico que puede usarse para enviar el documento de posición a los eurodiputados:
Puede encontrar el contacto de sus diputados nacionales aquí https://op.europa.eu/webpub/wiw/pdf/EUWhoiswho_EP_IT.pdf ( a partir de la página 13)
En las líneas siguientes pueden leer la traducción al castellano del documento de posicionamiento que EGAIR leerá en el AI Act de la UE.
Las aplicaciones de IA permiten proyectar sistemas de hardware y software diseñados para dotar al procesador electrónico de prestaciones, como un aprendizaje continuo, reproducir o imitar determinadas capacidades humanas. Esas aplicaciones conllevan implicaciones significativas para cada aspecto de la vida cultural, profesional y social de los seres humanos, con consecuencias éticas y prácticas que es momento de cuestionar.
El campo de las artes y la creatividad está directamente involucrado en este fenómeno. De hecho, las IA generativas se proponen en el mercado del arte como productos destinados a ofrecer un servicio sustitutivo del trabajo de artistas y creativos, produciendo resultados comparables a las obras de un ser humano en términos de calidad. El ejemplo más famoso de este tipo de IA es “AI TTI Text To Image“. El “resultado artístico” se logra gracias a un simple escrito textual a partir del cual se procesan imágenes/dibujos. La IA TTI es
por lo tanto capaz de interpretar un lenguaje de texto y utilizarlo para generar imágenes. El resultado se basa en un proceso elaborado de un conjunto de datos/trabajos previamente recopilados. La calidad del producto final (imagen o dibujo) depende esencialmente de los datos/trabajos recopilados a lo largo del tiempo. Cuanto mayor sea la calidad de los mismos, mejor será la imagen procesada y su consiguiente competitividad en el mercado. Por el contrario, si se ingresan datos deficientes, el producto procesado será de baja calidad.
En consecuencia, lo que define el valor de una aplicación de IA TTI son las obras (imágenes, dibujos, bocetos, etc.). Por ejemplo, una aplicación que trabaje en el conjunto de datos de un solo estilo visual será exclusivamente capaz de reproducir imágenes en ese estilo específico. Por lo tanto, gracias al contenido de los conjuntos de datos, las obras de los artistas en este caso, la IA puede expresarse produciendo resultados que también son de una calidad y variedad notables.
En los últimos años, a través del escamoteo de excepción de uso con fines de investigación (non profit), muchas start-ups de IA han podido acumular miles de millones de datos/obras tomadas de la web, la gran mayoría de los cuales han sido obtenidos sin el consentimiento de sus legítimos titulares. Sus propietarios, en la mayoría de los casos, desconocían por completo que las obras en la web podían usarse y manipularse libremente para convertirse en herramientas de capacitación para el software de IA. En pocos años, hemos visto la escisión de estas empresas para crear subsidiarias que en cambio tienen una intención comercial manifiesta y pública. Se trata de empresas que han podido ofrecer servicios a los usuarios únicamente a través del uso y explotación de las obras de miles de diseñadores, dibujantes e ilustradores de todo el mundo. Estas empresas, algunas de ellas cotizadas en bolsa o participadas por Fondos de Inversión, se están enriqueciendo explotando el trabajo, el talento y la creatividad de los profesionales sin haberlos remunerado nunca.
El Parlamento Europeo está trabajando en una Propuesta de Reglamento (COM (2021) 2026) que tiene como objetivo armonizar las regulaciones nacionales de IA a nivel europeo, dejando a los estados miembros algunas tareas subsidiarias relacionadas con la supervisión y las sanciones. Actualmente, no existe legislación nacional en Italia ni en ninguno de los estados miembros. El espíritu subyacente del Reglamento es fomentar el uso y desarrollo de sistemas de IA en determinadas áreas, sujeto al respeto de los derechos fundamentales de la Unión Europea: dignidad humana, privacidad, no discriminación, etc. La propuesta de la Comisión Europea se centra en -llamados sistemas de IA de alto riesgo, pero también regula secundariamente otras aplicaciones de IA (Título IV).
En lo que se refiere a la aplicación de los sistemas de IA a las obras creativas y la protección de las profesiones creativas, el Reglamento carece por completo. Se limita a unas pocas menciones, relativas a la manipulación de imágenes o contenidos de audio y vídeo. No se hace referencia a la protección del autor y/oa su consentimiento preventivo. La única obligación incluida es una obligación genérica de transparencia. En el texto propuesto por la Comisión Europea, mientras que en la letra c) del artículo 1 hay una referencia explícita inmediata al hecho de que las reglas del Reglamento se aplican “también a los sistemas de IA utilizados para generar o manipular imágenes o contenidos de audio o video”, sólo hay -en los artículos siguientes- una única vaga referencia a este tipo de aplicación.
Asimismo, no se hace referencia a la protección de las obras creativas ni siquiera con referencias genéricas a las normas relativas a la protección de la propiedad intelectual. Prueba clara de ello es que el Anexo II del Reglamento hace referencia a varias directivas que luego habrá que armonizar, pero entre ellas parece no estar la relativa, por ejemplo, a los derechos de autor.
En los dictámenes de las comisiones CULT y JURI del Parlamento Europeo se plantearon algunas observaciones sobre la importancia de la protección de la propiedad intelectual en los sistemas de IA. Sin embargo, estos son referencias generales sin disposiciones específicas.
En nuestra opinión, el texto de AI ACT debería contener una sección específica dedicada al uso de AI TTI en las artes creativas y la protección de las obras y los datos de los artistas. Deben introducirse normas que sean coherentes con los principios de protección de la propiedad intelectual y la protección de datos personales, armonizando la AI ACT con los marcos normativos de derechos de autor y RGPD. Es necesario desde el principio evitar el constante y continuo robo web de obras y datos que se viene produciendo desde hace algún tiempo sin ningún control por parte de las autoridades europeas y nacionales.
No es realista pensar que un artista pueda presentar demandas internacionales contra corporaciones multimillonarias que operan sin interrupciones en otros continentes, sabiendo la lentitud, el costo y los resultados impredecibles de tales demandas. Por estas razones, creemos que la actual propuesta de regulación europea AI ACT debería modificarse significativamente de la siguiente forma:
- Todos los datos sobre personas u obras, en cualquier forma, ya sea que ya estén digitalizados como archivos de texto, audio, video o imagen o capturados de la realidad a través de cámaras, micrófonos o cualquier medio de grabación, no debe permitirse que se utilicen para entrenar modelos de IA sin la consentimiento informado explícito de los legítimos titulares. Cualquier dato/trabajo individual de terceros que se incluya en los modelos de capacitación debe ser seleccionado y autorizado por los propietarios legítimos y luego, de manera voluntaria e informativa, por los autores individuales. Las empresas de IA pueden producir materiales de capacitación originales internamente o licenciar contenido de terceros según los términos y condiciones contractuales previamente establecidos con los autores en cuestión. A menos que las Partes acuerden lo contrario, el uso de las obras de terceros por parte de empresas de IA debe estar sujeto a una remuneración adecuada y proporcionada, incluso mediante acuerdos de licencia con el propietario legítimo.
- Las aplicaciones de IA que permitan un “prompt” de texto o voz para solicitar la generación de una imagen, video, texto o sonido deberán prever mecanismos que inhiban el uso de nombres de personas, nombres de arte u obras que no se rijan por una licencia de explotación para el entrenamiento de IA.
- Las aplicaciones de IA que permitan insertar contenidos para requerir la generación de una imagen, video, texto o sonido, deberán prever mecanismos que inhiban el uso de video, imágenes, sonidos y texto que no esté amparado por una licencia de explotación para entrenamiento de IA .
- Debe preverse un mecanismo de intervención previa notificación a las Autoridades Nacionales del titular de los derechos para prohibir a las empresas propietarias de aplicaciones de IA que no utilicen datos y obras sin el consentimiento de los titulares de los derechos y una sanción posterior.
procedimiento en caso de incumplimiento. Un procedimiento prestable por la Directiva Europea de Comercio Electrónico. - Para empresas que posean aplicaciones de IA que ya operan en violación de las regulaciones europeas existentes (por ejemplo, Copyright o GDPR), debe haber una divulgación completa de los respectivos conjuntos de datos con los que han recopilado trabajos y datos sin ningún consentimiento. Dicha información debe ser comunicada por las empresas a sus respectivos propietarios legítimos para obtener el consentimiento de uso o solicitud de eliminación de sus sistemas de formación. Alternativamente, deberían proporcionar sistemas para una amplia difusión de información sobre las obras utilizadas
a las categorías correspondientes, para que los titulares de derechos puedan, dentro de un plazo apropiado, solicitar la eliminación de sus obras, incluso a través de organizaciones representativas profesionales. - Introducir la sanción de degüelle algorítmico, ya utilizada en los EE. UU. por la Comisión Federal de Comercio, en los casos en que no se pueda divulgar el conjunto de datos.
- Disponer que las autoridades nacionales realicen comprobaciones aleatorias periódicas de los conjuntos de datos de las aplicaciones más utilizadas para verificar la eliminación efectiva de obras no autorizadas a empresas que ya han comercializado productos AI TTI.
Sobre nosotros
La Red Europea por la Regulación de la IA (EGAIR) (www.egair.eu) es una asociación sin ánimo de lucro que reúne a creativos, artistas visuales, dibujantes, ilustradores, locutores junto con editoriales y sindicatos profesionales de varios países europeos para proponer a las instituciones europeas una regulación sobre la explotación de datos y trabajos creativos por parte de empresas de IA.
La iniciativa ha sido encabezada por los artistas italianos Lorenzo Ceccotti LRNZ y Francesco Archidiacono de MeFu, la asociación Mestieri del Fumetto, que ha llevado a cabo una intensa labor de enlace con redes de profesionales del cómic de toda Europa en los últimos meses, proponiendo la firma de un Manifiesto en defensa de los derechos humanos. derechos y creatividad.
El Manifiesto fue firmado por cientos de artistas de renombre mundial como Milo Manara, Claire Wendling, Aleksi Briclot y Greg Rutkowksi, por las asociaciones Central Vapoeur (BEL), Ligue
des Auteurs Professionnels (FR), SNAC (FR), Illustratoren Organization (DEU) AÉ ARTEesÉTICA (SP & Latin America), Associazione Nazionale Attori Doppiatori (IT), European Illustrators Forum, CAA Concept Art Association (EE. UU.), por las editoriales Bao, Coconino, y por festivales de historietas como como ComiCon y ARF!
Las preocupaciones sobre las aplicaciones de AI TTI en las artes han conmovido a la comunidad artística mundial y han llevado a varias partes a interesarse. Tal es el caso de la Concept Artists Association (CAA), que junto a EGAIR lidera un movimiento por la regulación de las empresas de IA generativa en Estados Unidos.
Para cualquier información adicional:
Relaciones Institucionales
francesco.schlitzer@verastudio.it
gaia.frascella@verastudio.it
Relaciones con los medios
veronica.reda@verastudio.it
The AI applications allow to project hardware and software systems designed to provide the electronic processor with performances, such as a continuous learning, to reproduce or to imitate certain human capacities. Those applications lead to significant implications for each aspect of cultural, professional and social life of human beings, with ethical and practical consequences on which is time to question.
The field of arts and creativity is directly involved in this phenomenon. In fact, generative AIs are proposed on the art market as products aimed to offer a substitute service for the work of artists and creatives, producing outputs comparable to the works of a human being in terms of quality. The most famous example of this kind of AIs are “AI TTI Text To Image”. The “artistic result” is achieved thanks to a simple textual brief from which images/drawings are processed. AI TTI is
thus able to interpret a text language and use it to generate images. The result is based on an elaborated process of a previously gathered set of data/works. The quality of the final product (image or a drawing) depends essentially on the data/works collected over time. The higher the quality of the data/works, the better the processed image and its consequent competitiveness on market. Conversely, if poor data are entered, the processed product will be of low quality.
Consequently, what defines the value of an AI TTI application are the works (images, drawings, sketches, etc.). For example, an application working on the dataset of a single visual style will be exclusively capable of reproducing images in that specific style. It is thus thanks to the content of the datasets, the works of artists in this case, that AI can express itself producing results that are also of remarkable quality and variety.
Over the past few years, through the escamotage of the research use exception (U.S. fair use) many AI start-ups have been able to rake in billions of data/works on the web, the vast majority
of which have been obtained without the consent of the rightful owners. Owners who, in most cases, were completely unaware that works on the web could be freely used and manipulated to be training tools for AI software. In a few years, we have seen the spin-off of these companies to create companies that instead have a manifest and public commercial intent. These are companies that have been able to offer services to users only through the use and exploitation of the works of thousands of designers, cartoonists, and illustrators from around the world. These companies, some of them publicly traded or participated in by Investment Funds, are getting rich by exploiting the work, talent, and creativity of professionals without ever having remunerated them.
The European Parliament is working on a Proposal for a Regulation (COM (2021) 2026) that aims to harmonize national AI regulations at the European level, leaving to the member states some subsidiary tasks related to supervision and sanctions. Currently, there is no national legislation in Italy or in any of the member states. The underlying spirit of the Regulation is to encourage the use and development of AI systems in certain areas, subject to the respect of fundamental rights of the European Union: human dignity, privacy, non-discrimination, etc. The European Commission’s proposal focuses on so-called high-risk AI systems, but secondarily regulates other AI applications as well (Title IV).
For what concerns the application of AI systems on creative works and the protection of creative professions, the Regulation is entirely lacking. It is limited to only a few mentions, relating to the manipulation of images or audio and video content. There is no reference to the protection of the author and/or his preventive consent. The only obligation included is a generic obligation of transparency. In the text proposed by the European Commission, whereas in letter c) of Article 1 there is an immediate explicit reference to the fact that the rules in the Regulation apply “also to AI systems used to generate or manipulate images or audio or video contents”, there is – in the subsequent articles – only a single vague reference to this type of application.
Likewise, there is no reference to the protection of creative works even with generic references to the rules regarding intellectual property protection. Clear evidence of this is that Annex II of the Regulation refers to several directives that will later have to be harmonized, but among them seems not be those relating, for example, to copyright.
Some remarks on the importance of intellectual property protection in AI systems were raised in the opinions of the CULT and JURI Committees of the European Parliament. However, these are
general references without any specific provisions.
In our opinion, the text of AI ACT should contain a specific section dedicated to the use of AI TTI in the creative arts and the protection of artists’ works and data. There should be introduced rules that are consistent with the principles of intellectual property protection and personal data protection, harmonizing the AI ACT with the copyright and GDPR regulatory frameworks. It is necessary from the outset to avert the constant and ongoing web theft of works and data that has been taking place for some time without any control by European and national authorities.
It is unrealistic to think that an artist could file international lawsuits against multimillion-dollar corporations operating undisturbed in other continents, knowing the slowness, cost, and unpredictable outcomes of such lawsuits. For these reasons, we believe that the current proposed European AI ACT regulation should be significantly amended with the following ideas:
- All data about persons or works, in whatever form, whether already digitized as text, audio, video or image files or captured from reality through cameras, microphones or any recording media, should not be allowed to be used for training AI models without the explicit informed consent of the rightful owners. Any individual data/work by third parties that is included in training models must be curated and authorized by the rightful owners and then voluntarily and informatively included by the individual authors. AI companies may produce original training materials in-house or license third-party content under contractual terms and conditions previously established with the authors concerned. Unless otherwise agreed between the Parties, the use of others’ works by AI companies must be subject to appropriate and proportionate remuneration, including through licensing agreements with the rightful owner.
- AI applications that allow a text or voice “prompt” to request the generation of an image, video, text or sound must provide mechanisms that inhibit the use of names of people, names of art or works that are not governed by an exploitation license for AI training.
- AI applications that allow content to be inserted to require the generation of an image, video, text, or sound must provide mechanisms that inhibit the use of video, images, sounds, and text that is not covered by an exploitation license for AI training.
- Provision should be made for an intervention mechanism upon notification to the National Authorities of the right-holder to enjoin the companies owning AI applications not to use data and works without the consent of the right-holders and a subsequent sanction
procedure in case of non-compliance. A procedure lendable by the European Ecommerce Directive. - For companies owning AI applications that already operate in violation of existing European regulations (e.g., Copyright or GDPR), there must be full disclosure of the respective datasets with whom they have collected works and data without any consent.
Such information must be communicated by companies to their respective rightful owners to obtain consent for use or request for removal from their training systems. Alternatively, they should provide systems for wide dissemination of information about the works used to the relevant categories so that rights holders can, within an appropriate time frame, request the removal of their works, including through professional representative organizations. - Introduce the sanction of algorithmic disgorgement, already used in the U.S. by the Federal Trade Commission, in cases where data-set disclosure cannot be made.
- Provide that national authorities conduct periodic spot checks on the datasets of the most widely used applications about the effective removal of unauthorized works for companies that have already placed AI TTI products on the market.
About Us
The EUROPEAN GUILD FOR AI REGULATION (www.egair.eu) is a nonprofit association that brings together creatives, visual artists, cartoonists, illustrators, voice actors together with publishing houses and professional unions from several European countries to propose to European institutions a regulation on the exploitation of data and creative works by AI companies.
The initiative was spearheaded by Italian artists Lorenzo Ceccotti LRNZ and Francesco Archidiacono of MeFu, the Mestieri del Fumetto association, which has carried out intensive liaison work with networks of comics professionals across Europe in recent months, proposing the signing of a Manifesto in defense of human rights and creativity.
The Manifesto was signed by hundreds of world-renowned artists such as Milo Manara, Claire Wendling, Aleksi Briclot, and Greg Rutkowksi, by the associations Central Vapoeur (BEL), Ligue
des Auteurs Professionnels (FR), SNAC (FR), Illustratoren Organisation (DEU) AÉ ARTEesÉTICA (SP & Latin America), Associazione Nazionale Attori Doppiatori (IT), European Illustrators Forum, CAA Concept Art Association (USA), by the publishing houses Bao, Coconino, and by comic book festivals such as ComiCon and ARF!
Concerns about AI TTI applications in the arts have stirred the global art community and led several parties to take an interest. Such is the case with the Concept Artists Association (CAA), which together with EGAIR is leading a movement for the regulation of generative AI companies in the United States.
For any further information:
Institutional Relations
francesco.schlitzer@verastudio.it
gaia.frascella@verastudio.it
Media Relations
veronica.reda@verastudio.it