MAGNIFICA HUMANITAS • Análisis de Milagros Miceli

Acabo de terminar de leerme toda la encíclica Magnifica Humanitas que presentó hoy el papa León XIV con foco en la inteligencia artificial. Dejo algunas frases + reflexiones que se me van ocurriendo:

• Parece que la IA tiene materialidad: «En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, de una extensa red de recursos naturales, de infraestructuras energéticas y, sobre todo, de personas.»

• Una alegría personal fue ver reflejada una idea que traje allá por el 2020, cuando la ética de la IA parecía reducirse a sesgos y métricas de equidad: no hay IA ética sin discutir el trabajo y la explotación que la sostienen.

• Y encontrar el corazón de mi investigación en esta frase: «Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos, empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos —a menudo pésimos— y entrenamiento de modelos. En muchos casos se trata de jóvenes, en su mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas.»

• Alerta sobre la concentración de poder: «En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA.»

• El Papa dice que la IA define qué importa y qué puede descartarse, y recuerda que la tecnología «no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza.»

• También rompe con el mito de la IA como sinónimo de productividad. Llama a proteger el empleo y advierte sobre deskilling y alienación: «mientras la IA promete impulsar la productividad (…) a menudo los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas (…) puede desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas.»

• Sobre el final pone el foco en la guerra y en el riesgo de que «la tecnología, separada de la ética y de la responsabilidad, haga más rápida e impersonal la decisión sobre la vida y la muerte, y presente el uso de la fuerza como una opción inmediata y viable.»

• Utiliza intencionalmente la palabra desarmar: «Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva.»

• El Papa dice algo que gritamos hace años: «no serviría de nada una IA más moral si esta moral es decidida por unos pocos.» Sería un placer escucharlo si no fuera porque lo dice sentado al lado de uno de esos pocos: Chris Olah, cofundador de Anthropic

• No creo que León ignore los lazos entre Anthropic y Palantir, el uso de Claude en Venezuela, Irán y la persecución de inmigrantes en EE.UU. Hablar de IA, guerra, migración y refugiados mientras se «acepta la invitación (de Olah) para caminar juntos» es, como mínimo, cuestionable.

• También se hace difícil pensar que León escribe sobre el trabajo oculto que sostiene a la IA sin saber que Anthropic terceriza gran parte del trabajo de datos en condiciones muy similares a las denunciadas en los casos de OpenAI y Meta.

• Y es imposible leer la advertencia sobre trans- y posthumanismo sin pensar en lo que vienen señalando hace años Timnit Gebru y Émile P. Torres sobre los TESCREAL y su ideología, de la que Anthropic tampoco está exenta:

• Finalmente, la encíclica refleja cosas que venimos señalando desde hace una década, pero les pone un manto de inevitabilidad. Como si la única alternativa fuera alinear la tecnología con la doctrina social de la Iglesia, sin preguntarnos si realmente necesitamos IA y para qué.

• Análisis de Milagros Miceli, socióloga & Dra. en ingeniería informática, publicado en su cuenta de X
• Diseño y maquetación web: Naida Jazmin Ochoa, diseñadora gráfica, ilustradora. Coordinadora del colectivo Arte es Ética.

---