Ciudad del Vaticano. El papa León XIV pidió el lunes una regulación sólida de la inteligencia artificial y que sus desarrolladores trabajen por el bien común en lugar de por el lucro, en un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras la tecnología impacta en todo, desde el trabajo hasta la guerra.
“Magnifica Humanitas” (Humanidad Magnífica), la primera encíclica de León, había sido esperada con entusiasmo desde que el primer papa nacido en Estados Unidos anunció, días después de su elección, que consideraba que la IA era el mayor desafío que enfrenta hoy la humanidad.
En el texto, León denunció la “cultura del poder” que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que “no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, lo que abre otro punto de fricción entre el papa estadounidense y el gobierno del presidente de Estados Unidos, Donald Trump, que ha trabajado de manera agresiva para desregular el desarrollo de la IA.
Expertos de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la IA, un punto de referencia tanto para responsables de políticas públicas como para investigadores y ciudadanos corrientes. Llega en un momento en que los avances casi diarios de la tecnología disparan el aumento de las preocupaciones por la sustitución de empleos humanos por la IA e incluso por el reemplazo de la inteligencia humana.
“Esto se presta a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas sobre su propio ‘¿qué significa ser humano?’”, comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.
El Papa critica a las empresas de IA incluso mientras recibe a Anthropic
El papa tenía previsto presentar el texto el lunes en un acto en el Vaticano en el que participaría el cofundador de Anthropic, que actualmente está inmersa en una batalla legal con el gobierno de Trump por el acceso a su tecnología de IA. El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo durante la última década por entablar un diálogo con Silicon Valley sobre el costo humano de la IA.
Y, sin embargo, en su texto, León arremetió repetidamente contra la concentración de poder y datos en manos de tan pocas personas en el sector privado como un peligro, especialmente para los niños y los más vulnerables, y pidió una regulación externa de su trabajo.
“No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”, escribió. “No serviría de nada una IA más moral, si esta moral es decidida por unos pocos”.
León apeló varias veces a los desarrolladores de IA y a los líderes políticos responsables de regularlos para que simplemente reduzcan la velocidad y reflexionen sobre lo que están haciendo. Los instó a seguir pautas éticas y espirituales para tomar la decisión de trabajar no por su propio lucro o poder, sino por el mejoramiento de la humanidad.
Los competidores de IA OpenAI y Anthropic son la segunda y la tercera empresas privadas más valiosas de Estados Unidos, cada una valorada en cientos de miles de millones de dólares, más que el PIB de muchas naciones.
Deja una respuesta