¿QUÉ ES TED?

TED es una organización sin fines de lucro dedicada a ideas que vale la pena difundir. TED comenzó como una conferencia de cuatro días en California hace 30 años y ha crecido para apoyar su misión con múltiples iniciativas. Las dos conferencias TED anuales invitan a los principales pensadores y emprendedores del mundo a hablar durante 18 minutos o menos.

Steven Zapata comparte sus ideas
sobre el futuro de la creación artística

Steven Zapata siempre ha tenido un gran amor por el dibujo. Desde muy joven, su ávido dibujo fue impulsado por un apetito voraz por los videojuegos, las películas de terror, las novelas de ciencia ficción y los pulposos reportajes paranormales. Originario de Nueva York, sus frecuentes visitas al Museo Metropolitano de Arte lo inspiraron a esforzarse por lograr la fluidez y libertad de los viejos maestros en su propio trabajo imaginativo. Poco después de la secundaria, se mudó a Los Ángeles para asistir al Art Center College of Design y comenzó a trabajar en videojuegos, cine, parques temáticos y publicidad.

Continuó su trabajo en el entretenimiento después de regresar a Nueva York y comenzó a enseñar arte, tanto de forma independiente como en el Art Center. Después de una década en el arte comercial, comenzó a reorientar su enfoque hacia la educación en línea y a cultivar el amor por el dibujo en todos aquellos que se sentían atraídos por él. En 2019, comenzó un canal de YouTube donde comparte ensayos en video sobre los desafíos mentales que acompañan a una práctica artística y donde intenta guiar a los espectadores hacia los aspectos verdaderamente extraños y espirituales del dibujo. En 2022 publicó un video, “El fin del arte: un argumento contra las IA de imágenes”, donde expresaba sus preocupaciones sobre las prácticas de formación de modelos de texto a imagen

¿Quién crea el Arte en una Utopía?

Imaginen que estamos 100 años en el futuro. En realidad, no. Tal como están avanzando las cosas, hablemos del año que viene. Acaban de pasar por algo difícil. Quizá el final de una relación larga, o el fallecimiento de una mascota o de uno de sus padres. Poco después, da comienzo una serie de procesos siniestros. Empiezan a notar cambios. Les salen anuncios para descargar Tinder, y antes eran de anillos de compromiso. El refugio de animales aparece de repente cuando hacen scroll. Un poco raro todo, pero dentro de lo que cabe esperar.

Pero empiezan a pasar cosas nuevas. El teléfono les muestra unas imágenes imposibles. Renders muy realistas de su perro, feliz en el cielo de los perros. Pero el teléfono sabe cuál es su religión, así que, si son católicos, su perro es feliz en el cielo católico de los perros.

Una empresa, con muchísimo tacto, pregunta si querrían hablar con su madre, recientemente fallecida. Con su voz. Sonará exactamente como ella. Y promete que su madre se disculpará por esa última discusión que tuvieron. A muchos esto les parecerá violar los límites de su privacidad. Pero a otros seguramente les resulte reconfortante de verdad.

Les atraiga o no esa terapia de alta tecnología, adonde quiero llegar es que la tecnología necesaria para eso ya está aquí. Son los sistemas de IA generativa. Y los datos que necesitan para eso son los que ya les damos a las empresas.

Todos saben eso. Todos saben que, si subieron arte o fotos a Internet, o si dejaron un comentario o escribieron una reseña, o si le dieron “me gusta” a lo que sea, de cierta forma, trabajaron gratis para empresas tecnológicas. Si piensan que usan esos datos solo para mostrarles mejores anuncios, quizás en algún momento ese fuera el caso, pero ya no.

Les leo el objetivo que afirma tener OpenAI, creadores del generador de imágenes DALL-E y el chatbot ChatGPT: El objetivo de OpenAI es garantizar que la inteligencia artificial general, que definimos como unos sistemas de alta autonomía que superan a las personas en la mayoría de los trabajos de valor económico, benefician a toda la humanidad. Intentaremos desarrollar directamente una IAG segura y beneficiosa.

Así pues, su plan es usar tus datos para reemplazarte… en tu beneficio. Sí, genial. Ojalá pudiera decir que esto aún está en la esfera de lo hipotético, pero ya ha comenzado.

El año pasado precisamente, la automatización de ni nada más ni nada menos que el arte entró en escena con productos como Midjourney, DALL-E (OpenAI) y Stable Diffusion (Stability AI). Estos son modelos de texto a imagen, así que toman el input del usuario como un prompt de lenguaje natural, como el que ven aquí. Tras un proceso complicado, devuelven una imagen que concuerda con el prompt.

Automatiza el arte. Automatiza… el arte. Es exactamente lo que creen. Escriben unas palabras y sale la imagen. Oh!, excelente. Muy bien. No, muy bien. Debo admitir que no lo vi venir. Aún no circulan los vehículos autónomos que que llevan tanto prometiendo, pero Internet está a rebosar de arte creado por máquinas.

¿Parezco molesto? Bueno, es que lo estoy. No queda bien admitirlo, pero se lo digo, estoy molesto. Por supuesto que lo estoy, porque soy artista visual. ¡Qué suerte tengo!. Soy diseñador profesional e ilustrador desde hace más de diez años. Yo amo dibujar. No se cómo expresarlo de la forma más clara posible. Verdaderamente lo amo. Me aportó mucho. Disciplina, perseverancia, conciencia de mí mismo, compasión… Me ayudó a superar el duelo y la pérdida.

Crear arte posibilita todo eso porque es un vehículo de autotransformación y permite, de una manera asombrosa, compartir esa transformación con los demás. Pero no es el producto final lo que transforma al artista. Es el proceso creativo, el acto mismo de crear arte. En la era del arte automatizado, es posible que sigamos teniendo “arte”, pero nos arriesgamos a perder todo lo que hay por ganar en ese proceso.

Estas empresas de IA van a decir que lo que ofrecen, todo esto, es ético, conforme, justo… Eso es branding. Pueden decir todo eso. Según la experiencia de los artistas con estos sistemas, es todo menos eso.

Piensen en cómo se entrenan actualmente estos modelos con nuestro contenido. Un modelo de texto a imagen debe entrenarse usando como ejemplo millones o miles de millones de imágenes. Esas imágenes son muy variadas. Hay ilustraciones y también fotos. Las hay inofensivas y problemáticas. Muchas de ellas son contenidos con derechos de autor. Todo se extrajo de la Web mediante scraping sin el consentimiento de los creadores, sin acreditarlos y sin compensarlos, lo cual es… Digamos que interesante. Porque es la calidad de los datos de entrenamiento lo que determina la calidad del modelo. Cuanto mejor sea el input creativo, mejor será el output creativo.

Normalmente, ahora pasaría a hablar en detalle del proceso de entrenamiento, pero no voy a ser tan tonto de hacerlo en una sala en la que debe haber especialistas en aprendizaje automático. Afortunadamente, la tarea de determinar la naturaleza de este entrenamiento, y si es legal, ético, fair use, etc, recayó recientemente en los profesionales. En las últimas dos semanas, se han presentado denuncias contra algunas de estas empresas. Una es la que interpuso GettyImages en Reino Unido contra Stability AI. La otra es una denuncia colectiva en Estados Unidos por parte de artistas.

Es un hito muy importante que unos artistas se hayan unido para defender colectivamente su contenido, sus datos, su pasión y su sustento. Vamos a necesitar más acciones así. Gracias a estos casos, van a poder plantearse y discutirse esas cuestiones complicadas de derechos de autor y el fair use. Lo necesitamos desesperadamente, porque la legislación de derechos de autor y las exenciones de la minería de datos no se idearon con estos sistemas en mente. Por supuesto que no. Estamos lidiando con algo que es de ciencia ficción. Pero, pase lo que pase en los juzgados, nosotros como sociedad y el aprendizaje automático como industria debemos establecer una base legal y ética que permita controlar este tipo de sistemas emergentes.

Si no lo hacemos, si permitimos la apropiación del trabajo creativo de todos en beneficio de la tecnología, la cual pasará a competir directamente contra ellos en sus mismos mercados, vamos a causar un daño indecible al tesón que las personas ponen en su trabajo. Personas como yo, mis alumnos, mis amigos… y ustedes. Porque no sabemos qué van a automatizar después. Vinieron por el arte antes de lo que nadie hubiera pensado que fuera posible.

Mis colegas han sufrido la desalentadora experiencia de hallar su trabajo en los datasets que se usan para entrenar estos sistemas que van a socavar su trabajo en el mercado para siempre. Algunos han descubierto que se usa su nombre en los prompts para generar específicamente su estilo. Como Greg Rutkowski, cuyo nombre se ha utilizado como prompt contra su voluntad cientos de miles de veces.

Y luego están aquellos como Sam Yang. Se han generado y publicado modelos ajustados y entrenados con su obra que se especializan en replicar su estilo. Pululan por Internet estos modelos que generan imágenes con su estilo y tienen su nombre vinculado. No creo que nadie pueda imaginarse lo que se siente sin haber pasado por ello. Que todo tu árduo trabajo se use en contra tuya de esa manera. Pensar que cada vez que compartías tu creatividad estabas acordando tácitamente tu propio reemplazo.

Para los artistas, es un ambiente sofocante en el que vivir. Y está claro que no lo harán. A diario, los estudiantes me envían mensajes sobre la incredulidad y el desánimo que les provocan estos avances. Les preocupa enseñar su estilo a un sistema de IA antes de haber podido aprovecharlo. Desearía poder decirles que no va a pasar. Así que se retraen, se esconden. Ya no publican su trabajo en Internet. Se van a comunidades cerradas y a webs donde se cobra el acceso. Es bastante antiético con el espíritu del arte. Y hoy en día necesitamos estar más conectados con las personas, no menos. El vacío que los artistas dejen podrá llenarlo billones de veces la IA. Puede producir a una velocidad sin precedentes, y lo que actualmente le falte en técnica y especificidad sin duda puede compensarlo en volumen. Yo preveo que quienes actualmente hacen prompts en estos sistemas pronto se volverán… demasiado humanos en un proceso que puede ir mucho más rápido sin ellos. En octubre del año pasado, publiqué un video en Youtube en el que hablo de todo esto. No lean los comentarios. Nada bueno que ver. En él especulé que estos sistemas de generación de imágenes podrían combinarse con sistemas de generación de texto para eliminar la necesidad del prompting humano. En noviembre del año pasado, el mes siguiente, OpenAI publicó ChatGPT, un generador de texto cuya naturalidad es sorprendente.

Saben cuál es, el mismo que usé para escribir esta misma charla. ¡Es broma! Caray. Habría sido muy hipócrita. Podría haberlo hecho. No lo hice. No, era broma… En fin, la gente no tardó en descubrir que podía generar los prompts con ChatGPT. ¿Quieren la imagen de alguien en un bote, pero no saben qué escribir para generar algo sofisticado? ¡Pídanle a ChatGPT que les escriba un prompt elegante y péguenlo! No hace falta una persona para escribir un prompt. Es como si solo se necesitara que una persona quiera algo. Y hay algo en lo que todos somos buenos: querer cosas.

Ni hace falta saber qué es lo que uno quiere. Vivimos en una sociedad donde las empresas están encantadas de decirnos qué queremos. Facebook, Google, YouTube… Invierten miles de millones en desarrollar este perfil tan bien definido de nosotros, a través del espejo unidireccional que son sus servicios. A cada día que pasa, les damos más información sobre lo que queremos ver, oír, jugar, comprar… Todo.

No pasará mucho tiempo antes de que esos flujos de datos se conecten a los modelos de IA generativa. Y esos sistemas combinados emitirán automáticamente arte, imágenes, música, películas, experiencias de RV, sobre todo lo verdadero y falso de todos los acontecimientos mundiales y personales. Y nos los enviarán directamente. ¿Qué haremos cuando en ese flujo de contenido personalizado no sepamos qué fue creado por una persona y qué por una máquina? Pasado un tiempo, ¿intentaríamos diferenciarlos siquiera?. ¿No empezaríamos a presuponer que todo lo ha hecho una máquina? Eso es malo para todos, no solo para los artistas. ¿Ese es el mundo en el que quieren vivir? ¿Piensan que deberían verse obligados a contribuir a ese mundo, contra su voluntad, solo porque publicaron su trabajo en Internet? Claramente no.

Los modelos que automaticen el trabajo creativo entrenándose con trabajo creativo tienen que desarrollarse sobre una base ética que respete los derechos de los creadores de contenido y que les permita incluirse en los sistemas que les interesen, en vez de luchar por salirse de ellos. Asimismo, todas las cosas honorables, emocionantes y fantásticas que esperamos obtener de estos modelos tan tremendos también son posibles en su versión ética.

Se que hay quien quiere estos sistemas. Creo que formarán parte de nuestro futuro. Pero debemos responder a la pregunta de cómo los integraremos en nuestro trabajo y nuestra vida sin suplantarnos a nosotros mismos y a los demás. Debemos tener claro para quién creemos que es el futuro. Yo creo que para las personas, no para las máquinas.

Entonces, ¿qué podemos hacer? Primero debemos interiorizar el hecho de que tenemos poder. Estos sistemas no existirían sin nuestros datos y contenidos. Si sus creadores no quieren que se desvanezcan los valiosos datos que usan para entrenar sus productos, tendrán que ayudar a mantener los mercados. Así que resistan. Hablen. Digan a estas empresas, a los legisladores y a las webs que usan que quieren que se protejan sus datos y contenidos.

Es una oportunidad para los artistas, los creativos y personas de toda clase de juntarnos y defendernos entre todos. Nunca habíamos tenido una necesidad tan desesperada de acción colectiva. La esencia misma del acto de crear puede estar en juego.

Si de verdad queremos que el futuro nos beneficie, debemos recordar por qué decidimos dedicarnos a las artes. Porque podemos experimentar dicha al hacerlo, al crear.

¿Es eso algo que estamos listos para rendir a las máquinas?
Yo no lo estoy.
Gracias.

Nos encuentran en estas plataformas

• Instagram
• Bluesky
• X
• Mastodon
• Threads
• LinkedIn
• YouTube
• Link

---

• Diseño y maquetación: Naida Jazmin Ochoa, diseñadora gráfica, ilustradora. Coordinadora del colectivo Arte es Ética.

---