Publicado originalmente el 14 de mayo de 2023 / Última actualización: 10 de junio de 2025
Las IA generativas operan hoy sin regulación alguna, y lejos de ser meras herramientas para las personas aplicadas al campo creativo, se presentan como los medios ideales para la sustitución de éstas.
Los lanzamientos de nuevos modelos de algoritmos generativos, su promoción y sus múltiples aplicaciones “progresan” en un contrasentido: la de-generación de la cultura humana por la falsificación algorítmica de procesos creativos del arte, un fenómeno que parasita el valor creado por personas toda vez que un modelo generativo sólo opera a partir de inferir derivaciones estadísticas de obra humana previamente creada, sin la cual no sería capaz de redisponer bits o pixels de audio e imagen.
Las generaciones audiovisuales son posibles por intermedio de una masiva violación de derechos de las personas por parte de empresas desarrolladoras de algoritmos de aprendizaje automático o IA generativas, que atentan por principio contra el punto 2 del artículo 27 de la Declaración Universal de los Derechos Humanos.
Lo que sigue, es la secuencia de hechos lesivos de la sociedad en su conjunto, sobre el derecho a la preservación de la identidad, el derecho a la propiedad intelectual, a la sana competencia laboral, lo que genera un expolio del valor creado por personas y la exclusión masiva de sus puestos laborales por la automatización acelerada de procesos creativos.
I – Robo y lavado de Datos
Captura de miles de millones de imágenes, videos, audios y textos personales o de obra protegida por derechos de autor y su compilación en datasets para su transformación con modelos de machine learning /deep learning. Sólo sus autorxs tienen derecho a hacer cualquier transformación de su obra o autorizar a terceros a hacerlo. Pero bajo la apariencia de non profits, las empresas hacen capturas masivas de obras y datos personales y ceden su explotación comercial a otras, que los transforman para la generación algorítmica de derivados de las mismas. Este conjunto de acciones constituye un robo de la propiedad intelectual y de datos personales, además de un data laundering (lavado de datos). /ver evidencia
II – Violación a la privacidad e identidad de las personas
Entrenamiento de modelos algorítmicos capaces de imitar y generar derivados artificiales de obra sujeta a derechos de autoría o de copyright, así como también utilizar imágenes personales para generar réplicas o derivaciones de la identidad de personas reales. Sólo las personas y autorxs pueden crear y/o autorizar a terceros a producir réplicas o derivados de su imagen y obras. Toda persona tiene derecho a que su identidad esté exenta de explotaciones no consentidas. /ver evidencia
III – Lanzamiento al público mundial de estos modelos imitativos, de uso libre o pago, que explotan el nombre de los propios artistas con comandos indicativos de texto o prompts: imagina X cosa “pintada por X artista” o “en el estilo de X artista”, etc. Esto atenta contra sus identidades; usurpa y vulnera derechos morales y patrimoniales de lxs autorxs. /evidencia
IV – Apropiación y concentración del valor creado durante décadas por autorxs. Las empresas desarrolladoras de estos softwares de IA generativa centralizan la producción de contenidos a nivel mundial y, recaudando el pago de suscripciones de millones de usuarios que van de 10 a 60 dólares mensuales o cotizando en bolsa las API de su software, incurren en parasitismo económico y competencia desleal para con lxs autorxs y creativxs, a los cuales explotan comercializando la capacidad de generar derivados artificiales o remixes automatizados de su obra que compiten en el mismo mercado con lxs creativxs. /evidencia
V – Reducción de la contratación de autorxs emulados por modelos generativos. El uso de esta tecnología como vía de emprendimiento comercial o como sustituto de la contratación del autorx que se desee, generando miles de derivaciones de obras de artistas usando su nombre en procesos de Text to Image o incluso sus imágenes específicas en procesos de Image to Image. Esto ocasiona un daño patrimonial en primera instancia, pero también moral, porque ningúnx autorx hubo acordado qué producen en su nombre las empresas y los usuarios, pero de modo forzado le atribuyen producciones realizadas artificialmente. /evidencia
VI – Indexación de spam, falsificaciones y derivaciones artificiales de obras de arte. Google y otros motores de búsqueda procesan todo archivo audiovisual ligado a texto como pertenecientes a lxs artistas mencionadxs en los prompts, por lo tanto indexan la obra original junto con la creciente ola de deep fakes. Esto resta visibilidad a la obra original de modo creciente y acelerado, en tanto que las imágenes generadas por IAs se producen de a miles por minuto. Sepultando la presencia mediática de las que sí son legítimas y originales, las producciones artificiales liquidan el valor del arte y precarizan la remuneración de creativxs en el mercado laboral. /evidencia
VII – Automatización de tareas con modelos de IA generativas. Actores del campo creativo, agencias publicitarias y de animación, bajo el eufemismo de una “adaptación” a esta forma de producción acelerada, obligan a sus creativxs al empleo de modelos generativos. Lxs empleadxs, creyendo adaptarse, se someten a explotar la capacidad de todo el gremio y, por consecuencia, de sí mismxs. Así aceleran el automatizado de la producción creativa y liquidan el valor de la contraprestación económica de su propio puesto laboral, junto con el que resuelve tareas en tiempos humanos. /evidencia
VIII – Plagio y derivaciones automatizadas a escala global. Si bien las imágenes generadas por IAs no pueden protegerse por copyright se comercializan de facto por “prompters” que hacen uso de la capacidad algorítmica de explotar obra ajena y publicarla y/o comercializarla como propia, luego de un mínimo retoque o ninguno. De esta forma validan que todo lo publicado se vuelva reapropiable para su remix. /evidencia
IX – Sustitución de creativos. Ante el aval de uso de IA generativa por parte de creativos o negando incluso sus derechos de autoría, editoriales e instituciones gubernamentales comienzan a apelar a la automatización de la producción de libros, discos, folletos, catálogos, cartelería, etc. /evidencia
X – Refinamiento algorítmico mundial. Millones de personas se vuelven usuarios de plataformas generativas como Midjourney o ChatGPT con servicio gratuito o de pago y refinan el funcionamiento del algoritmo de estas empresas al solicitar millones de generaciones automatizadas a su bot, e indicándole el nivel de asertividad de los outputs que ofrece. Este proceso se denomina “entrenamiento por refuerzo”. De dicho proceso, las empresas acopian y sistematizan, no sólo datos personales de sus usuarios, sino también los parámetros derivados de la interacción humana con el software además de los inputs y outputs arrojados por el algoritmo. /evidencia
Esta secuencia de hechos lesivos busca sustituir los procesos humanos por un medio casi absoluto, útil al fin de los dueños de la maquinaria tecnológica y contrario a los derechos de lxs trabajadorxs que realizan tareas de media y alta demanda cognitiva en el mundo.
XI – Concentración de la producción y distribución de contenidos. Las empresas dueñas de las IAs generativas buscan dominar oligopólicamente el mercado de consumo de contenidos audiovisuales. Su finalidad es la de prescindir de lxs creativxs habiendo automatizado sus procesos, y así concentrar la producción y distribución de contenidos a una vez, haciendo que los consumidores finales sean quienes comanden el contenido para su uso dentro de las plataformas generativas. /evidencia
El desarrollo de esta tecnología que explota y desplaza a las personas no existe sin el robo de obras humanas y su transformación en datos apropiables por el modelo de aprendizaje maquínico para generar derivaciones artificiales. Debemos ir contra ese punto porque es el corazón de la tecnología.
El escenario que describimos se atiene a problemas laborales porque es la afectación de nuestro sector. Pero si extrapolamos este escenario de generación de contenido automático al problema de la seguridad informática e informativa, la peligrosidad de que los algoritmos sigan tomando nuestros datos y que generen símiles de los instrumentos a través de los cuales nos informamos, atenta directamente contra todo orden democrático.
También lo es la usurpación de identidad a nivel personal a través de la clonación de voces con fines delictivos, como los secuestros virtuales o el blackmail. Sitios webs, artículos periodísticos, audios y videos, son susceptibles de falsearse por IAs generativas y ser implantados en la “burbuja” de cada usuario en redes sociales o sesgar la circulación de información por vías coptadas por algoritmos.
Urge trazar e implementar nuevos límites sobre el raspaje y captura de datos personales, así como también del registro del obrar humano.
La pregunta clave es si como sociedad nos someteremos al mandato neoliberal de bregar por una mayor productividad al menor costo, cuando el recorte del costo humanitario atenta directamente contra nuestro requerimiento como fuerza laboral y, por consecuencia, contra nuestra propia existencia.
La regulación es el camino para evitar la catástrofe.
Firma y comparte nuestro manifiesto.
Apéndice legal
¿Cuáles son los derechos de autor? (ARGENTINA)
Art. 2°. — El derecho de propiedad de una obra científica, literaria o artística, comprende para su autor la facultad de disponer de ella, de publicarla, de ejecutarla, de representarla, y exponerla en público, de enajenarla, de traducirla, de adaptarla o de autorizar su traducción y de reproducirla en cualquier forma.
Art. 4°. — Son titulares del derecho de propiedad intelectual: a) El autor de la obra;
b) Sus herederos o derechohabientes; c) Los que con permiso del autor la traducen, refunden, adaptan, modifican o transportan sobre la nueva obra intelectual resultante.
La obra original genera para su autor derechos de dos clases:
Derechos morales: se refieren al sujeto creador, denominados así pues están relacionados con la esfera de personalidad del autor.
Derechos patrimoniales, se refieren al objeto de creación y están relacionados con la faz de explotación económica de las obras.
1 – Los llamados Derechos Morales son las facultades reconocidas a los autores en virtud de que la obra es considerada un reflejo de la personalidad del autor. Las características de los mismos es que son irrenunciables e inalienables, es decir que su autor no puede renunciar a ellos ni transferirlos a otra persona. Asimismo son absolutos, extramatrimoniales, inembargables e imprescriptibles. Estos derechos morales comprenden para su autor:
- El derecho de paternidad o autoría , derecho a que el nombre del autor figure siempre
acompañando la obra de la manera en que el autor lo desee, sea el nombre completo,
el apellido y las iniciales del nombre o bajo un seudónimo. - El derecho de divulgación de la obra,
- El derecho al respeto e integridad de la obra, que la misma sea mostrada en su
totalidad tal como la creó el autor.
2- Los llamados Derechos Patrimoniales del autor consisten en la facultad que tiene el creador de obtener una retribución económica con las diferentes formas de explotación de su obra.
¿Qué son los delitos contra la propiedad intelectual? ( ESPAÑA )
La propiedad intelectual es un bien económico que hace referencia tanto a productos físicos como a intangibles y que, por lo tanto, son sujetos de explotación por parte de quien es poseedora legal de ella. El objetivo de esta figura es el de proteger los intereses de los creadores frente a quienes solo buscan obtener un rendimiento monetario a partir del trabajo de otros.
Por lo tanto, los delitos contra la propiedad intelectual deben entenderse como la vulneración de los derechos de los autores respecto a la explotación económica de sus creaciones. Vienen tipificados en los artículos 270, 271 y 272 del Código Penal, aunque también están regidos por el Código Civil.
Hay que partir de la base de que, en el artículo 270.1 del Código Penal, se establece el tipo básico de delito contra la propiedad intelectual. Este hace referencia a todo aquel que, con ánimo de obtener un beneficio económico indirecto o directo y/o con la intención de perjudicar a un tercero, plagie, distribuya, reproduzca o comunique en público, en parte o en su totalidad, una obra científica, artística o literaria.
También incluye a aquellos que transformen, ejecuten o interpreten la obra con dicha finalidad a través de cualquier medio sin que exista una autorización expresa de los propietarios de los derechos de autor o, en su defecto, de sus concesionarios. Para todos ellos se establecen multas de entre 12 y 24 meses y penas de prisión de entre 6 meses y 4 años de duración.
El plagio también entra dentro del ámbito de los delitos contra la propiedad intelectual. En concreto, es un concepto que hace referencia a la supresión del nombre y de la figura del autor de una determinada obra con el propósito de poner a otro en su lugar. La principal diferencia respecto al tipo básico es que, en lugar de ser un atentado expreso contra la obra, es un daño realizado al creador explícitamente.
Conviene destacar que no es necesario que una obra haya sido publicada para que sea objeto de plagio, al contrario de lo que muchos creen. De hecho, el delito de plagio también abarca la copia de una idea original aunque, en su desarrollo, se haya cambiado por completo la redacción o ejecución y su planteamiento.
Las peculiaridades del delito contra la propiedad intelectual a través de Internet
Existe un incremento exponencial de este tipo de demandas, fundamentalmente debido a la irrupción de Internet y a su implantación en la inmensa mayoría de hogares españoles. Esto hace que, hace algunos años, el Código Penal reformulase lo dictado en sus artículos frente a los delitos contra la propiedad intelectual. En concreto, añadió un punto que especificaba que los sujetos o entes que, mediante la prestación de servicios que pudiesen englobarse dentro de la sociedad de la información, siempre que existiese un ánimo directo o indirecto de obtener un beneficio económico y/o el perjuicio de un tercero, facilitasen activamente la comisión de estos, serían responsables y tendrían que afrontar las mismas penas que si los hubiesen cometido directamente.
Esto aparece, en concreto, en el artículo 270.2 del Código Penal. Ese apartado también añade otra puntualización. Y es que también castiga a aquellos que pongan a disposición de los usuarios listados clasificados y ordenados de obras sujetas a derechos de propiedad intelectual sin la autorización expresa de sus creadores sin importar si han sido sus usuarios los que los han compartido con los demás.
¿Qué es el parasitismo económico y la competencia desleal? (CERLALC Latinoamérica)
El sistema está constituido esencialmente por los tratados de París y Berna, con el complemento del régimen que reprime la competencia desleal, previsto ya en el Convenio de París. Cuando la normativa de las patentes y la del derecho de autor no sean aplicables —ni las leyes especiales para determinadas creaciones—, la parte interesada puede accionar por competencia desleal. Pero no podrá reclamar la violación de un derecho subjetivo —dado que este es inexistente—, sino la conducta del infractor en la explotación del objeto intangible creado por la persona perjudicada o que se encuentra bajo el control de esta. Este mecanismo complementario ejerce una tutela indirecta, pues no defiende derechos de propiedad —o de exclusividad—, sino que solo es hábil para atacar un comportamiento contrario a los usos honestos, la buena fe, las buenas prácticas comerciales, la corrección profesional. Reiterando, se reprime la conducta del infractor, no la violación de un derecho subjetivo.
En España y en Francia se registran fallos en que se sanciona el apoderamiento de ideas ajenas por medio de las disposiciones del derecho de la responsabilidad civil. En esencia, se aplica la norma basada en el principio de que aquel que por acción u omisión causa daño a otro, interviniendo en ello culpa o negligencia, está obligado a reparar el daño causado. En concreto, se considera incurso en este tipo de responsabilidad a quien con ánimo de lucro se apropia de ideas bajo control ajeno y las explota directamente o las transmite a un tercero. Con ello da nacimiento a un derecho de crédito para el generador de la idea.
Una creación jurisprudencial francesa es la condena civil del llamado parasitismo económico, consistente en la explotación unilateral de la notoriedad adquirida por otro con una creación. Es una extensión de la doctrina de la competencia desleal, pues va más allá de considerar desleal la copia de bienes ajenos competitivos con el propio, sino también la copia de bienes no competitivos, es decir, que no impliquen necesariamente la posibilidad de confusión entre los objetos. El infractor utiliza ideas generadas por terceros, sin haber hecho inversiones previas y sin correr riesgos, pues aquellas están contenidas en un objeto que ya ha ganado la aceptación de los consumidores, dado que se trata de un bien que con anterioridad ha pasado airosamente el riguroso examen de los consumidores. La copia de creaciones ajenas, sin que vaya acompañada de confusión, ha sido incorporada ya en las legislaciones española y paraguaya, aunque no emplean la denominación de parasitismo.
• Escrito y estructurado originalmente por Santiago Caruso, artista e ilustrador argentino especializado en poesía y terror, integrante de Arte es Ética.
• Compilación de evidencias y actualizaciones sobre el texto + diseño y maquetación: Naida Jazmin Ochoa, diseñadora gráfica, ilustradora. Coordinadora del colectivo Arte es Ética.