El papa León XIV pidió el lunes una regulación sólida de la inteligencia artificial y que sus desarrolladores trabajen por el bien común en lugar de por el lucro, en un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras la tecnología impacta en todo, desde el trabajo hasta la guerra.
“Magnifica Humanitas” (Humanidad Magnífica), la primera encíclica de León, había sido esperada con entusiasmo desde que el primer papa nacido en Estados Unidos anunció, días después de su elección, que consideraba que la IA era el mayor desafío que enfrenta hoy la humanidad.
En el texto, León denunció la “cultura del poder” que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia.
Declaró que “no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre el papa estadounidense y el gobierno del presidente de Estados Unidos, Donald Trump, que ha trabajado de manera agresiva para desregular el desarrollo de la IA.
“Hay que desarmar la IA” para apartarla “de lógicas que la convierten en un instrumento de dominación, exclusión y muerte”, dijo el papa en el Vaticano durante una presentación especial de la encíclica, uno de los documentos doctrinales de mayor rango que puede emitir un papa.
Expertos de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia tanto para responsables de políticas públicas como para investigadores y ciudadanos corrientes. Llega en un momento en que los avances casi diarios de la tecnología disparan el aumento de las preocupaciones por la sustitución de empleos humanos por la IA e incluso por el reemplazo de la inteligencia humana.
“Esto se presta a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas sobre su propio ‘¿qué significa ser humano?’”, comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.
El papa critica a las empresas de IA incluso mientras recibe a Anthropic
El acto en el Vaticano también incluyó declaraciones del cofundador de Anthropic, que actualmente está inmersa en una batalla legal con el gobierno de Trump por el acceso a su tecnología de IA.
El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA.
Y, sin embargo, en su texto, León arremetió repetidamente contra la concentración de poder y datos en manos de tan pocas personas en el sector privado como un peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.
“No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, escribió. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”.
León apeló varias veces a los desarrolladores de IA y a los líderes políticos responsables de regularlos para que simplemente reduzcan la velocidad y reflexionen sobre lo que están haciendo. Los instó a seguir pautas éticas y espirituales para tomar la decisión de trabajar no por su propio lucro o poder, sino por el mejoramiento de la humanidad.
Los competidores de IA OpenAI y Anthropic son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchas naciones.
El cofundador de Anthropic, Christopher Olah, acogió con satisfacción las críticas y la preocupación de León. Dijo que esos controles externos sobre la IA y los investigadores que la desarrollan son fundamentales para que la tecnología “salga bien” para la humanidad, dado lo mucho que está en juego, que describió como “una posibilidad real de que la IA desplace el trabajo humano a una escala muy grande”.
“Necesitamos que más del mundo —comunidades religiosas, sociedad civil, académicos, gobiernos— haga lo que Su Santidad ha hecho aquí: tomarse esto en serio, mirar de cerca y empujar los acontecimientos en una mejor dirección”, dijo Olah.
“Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”, sentenció.
