Escribe Oscar Araya, para Arte es Ética
“Los Generadores de Imágenes no son artistas porque no tienen conciencia del significado de sus obras, ni del significado de los materiales seleccionados para producir la obra”
Dr. Jonathan Flowers
Así como ésta, varias ideas, frases y conceptos fueron transmitidos a los asistentes de la ACM FAcct Conference 2023 en Chicago, cuyo objetivo fue generar conversaciones en torno al crecimiento de esta nueva tecnología como lo es la IA generativa.
La ACM FAcct Conference es una conferencia interdisciplinar dedicada a reunir a una comunidad diversa de estudiosos de la informática, el derecho, las ciencias sociales y las humanidades para investigar y abordar cuestiones de este ámbito emergente.
Comenzó a impartirse en 2018 y desde ese año se ha realizado anualmente en diversos países del mundo. Este año la conferencia se realizó en Chicago durante el 12 y 15 de junio. Se basa en el éxito de la conferencia de 2022 celebrada en Seúl (Corea del Sur).
ACM Conference on Fairness, Accountability, and Transparency (ACM FAccT, anteriormente conocido como ACM FAT) es una serie de conferencias académicas revisadas por pares sobre ética y sistemas informáticos. Patrocinada por la Association for Computing Machinery , esta conferencia se enfoca en temas como la transparencia algorítmica, la equidad en el aprendizaje automático, el sesgo y la ética desde una perspectiva multidisciplinaria. La comunidad de la conferencia incluye informáticos, estadísticos, científicos sociales, estudiosos del derecho y otros. Fuente: Wikipedia
“Los académicos y profesionales firmantes de la Conferencia sobre imparcialidad, responsabilidad y transparencia acogemos con satisfacción los crecientes llamamientos para desarrollar y desplegar la IA de forma que proteja los intereses públicos y los derechos fundamentales. Desde los peligros de los algoritmos imprecisos o sesgados que niegan asistencia sanitaria vital hasta los modelos lingüísticos que exacerban la manipulación y la desinformación, nuestra investigación ha anticipado durante mucho tiempo los impactos perjudiciales de los sistemas de IA de todos los niveles de complejidad y capacidad. Este corpus de trabajo también muestra cómo diseñar, auditar o resistirse a los sistemas de IA para proteger la democracia, la justicia social y los derechos humanos. Este momento exige una política sólida basada en los años de investigación que se han centrado en este tema. Ya disponemos de herramientas para ayudar a construir un futuro tecnológico más seguro, y hacemos un llamamiento a los responsables políticos para que las desplieguen plenamente.”
Firmado, El Comité de Conferencia sobre imparcialidad, responsabilidad y transparencia (FAccT)
Durante los meses previos a la conferencia, la organización logró ponerse en contacto con la Concept Art Association (CAA) y se sugirió que este año se realizara un panel para hablar sobre qué tipo de impacto estaban generando las IAs en la industria audiovisual.
Se propuso que hubiera multiculturalidad dentro del panel puesto que es importante conocer las experiencias dentro de los distintos continentes. La oportunidad de estar presente se dio gracias a que estoy en contacto con miembros de la CAA, y me ofrecí a acompañar a diversos artistas de este grupo para a ser panelista. Nos acompañaron Timnit Gebru, Mehtab Khan y Dr. Johnathan Flowers. Nuestro tema a presentar era “el arte IA y su impacto en los artistas”
Comenzamos la presentación mostrando las mayores empresas de IA generativas actualmente, pasando por generadoras de imágenes (Midjourney, Stability.ai, Dall-e, Bing, Adobe Firefly, etc), generadoras de video (Runway, Kaiber, ModelScope, Meta AI,etc) y 3D (AI2 objaverse), etc.
Luego realizamos una introducción como artistas, presentándome junto a Eva Toorerent y Reid Southen. El objetivo era mostrar nuestra evolución como profesionales y también dar a conocer cómo es el proceso creativo detrás de un proyecto de animación y liveaction.
Mucha gente desconoce cómo se realizan este tipo de proyectos y es importante mostrar que es un proceso que requiere tiempo, fases de iteración y sobre todo labor humana. No “todo lo hace la computadora”. Cada uno de nosotros también aportó visiones personales con respecto a las IAs.
“Hay muchas cuestiones éticas relacionadas con la IA que los artistas nos estamos cuestionando estos últimos meses. Muchas preguntas y dudas, y la poca transparencia de parte de las empresas e instituciones nos deja insatisfechos. Las IAs generativas tal y como están construidas actualmente no están desarrolladas bajo normas y valores éticos, sino que nacen de la ambición y búsqueda del acelerado crecimiento tecnológico.
El propósito del conocimiento debe ser la promoción del bienestar de las personas y esto se puede lograr a través de las artes. Debe apreciarse el verdadero valor de los artistas y artesanos, pues hacen avanzar los asuntos de la humanidad.”
Oscar Araya
“El arte ya está al alcance de todos. A los artistas les encanta compartir sus conocimientos, esto nunca ha sido un problema, por ello el concepto de democratización del arte llama mucho la atención.
La canibalización de las personas cuyo trabajo ha hecho posible la máquina, sin consentimiento ni compensación, es el problema. Las empresas generadoras de imágenes con IA no son héroes, no son tus amigos. Existen para ganar dinero.”
Reid Southen
“Los Generadores de Imágenes no son artistas porque son productos culturales, no miembros de una cultura. Imitan los hábitos de los artistas: no encarnan las perspectivas de los espectadores ni son sensibles a las cualidades que organizan una obra de arte.
Los Generadores de Imágenes no son artistas porque no tienen conciencia del significado de sus obras, ni del significado de los materiales seleccionados para producir la obra.”
Dr. Johnathan Flowers
Otro punto que tocamos fue el del impacto económico en donde se dejó claro cómo, al menos en Estados Unidos, un análisis de reporte respecto al arte y producción cultural toma en consideración el 4,4% de la economía en USA contribuyendo a un total de 4,851,046 trabajos. Entre las áreas a destacar son servicios de arquitectura, construcción, publicidad, artes escénicas, cine, etc.
El impacto económico de la IA entre los artistas actuales y nuevos se ve reflejado en la degradación del trabajo, traumas mentales, competición injusta, daño de reputación, automaticidad de los trabajos, entre otros. Respecto a uno de estos puntos, el de los traumas mentales, se mostró la lamentable evidencia de casos de artistas con pensamientos suicidas debido al posible reemplazo de sus carreras y sus vidas.
Tampoco pudimos dejar de lado otro grave daño de estas IAs generativas como lo es su uso en noticieros, sobre todo para generar fakenews. Mostrando evidencia en todo el mundo de cómo el aumento de las fakenews ha generado un problema grave para los medios de comunicación. Noticieros reemplazados por IAs, reemplazo de fotografías reales de eventos por imágenes generadas con IA, etc.
Por ultimo, compartimos brevemente el movimiento que se ha levantado contra la creciente violación de derechos, vulnerabilidad laboral y competición injusta. Movimientos como el de la Writers Guild of America (WGA) quienes comenzaron huelgas el 2 de mayo del 2023. La Director’s Guild of America (DGA) y la Screen Actors Guild (SAG-AFTRA).
También se mencionó la demanda colectiva realizada por The Concept Art Association (CAA), las acciones que ha ido realizando la European Guild for Artificial Intelligence Regulation (EGAIR) y también lo que propone Arte es Ética en su manifiesto y petición de la regulación de IAs generativas en Latinoamérica y España.
El recibimiento de nuestro panel fue bastante positivo. Logramos exponer claramente los puntos mencionados y en general nos agradecieron por compartir nuestras experiencias y nuestro punto de vista como artistas siendo afectados por esta tecnología.
El potencial de la IA sólo puede liberarse verdaderamente cuando estas tecnologías reflejan toda la diversidad de perspectivas y valores de la sociedad. ¿Cómo pueden la innovación y la regulación ir de la mano para avanzar hacia el bien común?. ¿Cuáles son los valores e intereses que subyacen a los modelos utilizados para el desarrollo y la aplicación de la IA?. Cuando hablamos del desarrollo de la IA, ¿tienen en cuenta las empresas la opinión y la perspectiva de todos los ámbitos implicados o sólo velan por el bien de unos pocos?
La labor por generar mayor concientización y regulación de las IAs aún se debe mantener firme, ya que es un proceso largo y lento, pero aún así, es un agrado saber que las voces de los artistas cada vez llegan con más fuerza a espacios tan importantes como este y otros más que se están dando alrededor del mundo. Artistas de Estados Unidos, Asia, Europa y Latinoamérica están realizando una labor en conjunta como nunca antes se había visto.