El Papa León XIV pide 'desarmar' la IA por el bien común

El Papa León XIV lanza su primera encíclica sobre inteligencia artificial

El Papa León XIV acaba de publicar su primera encíclica, titulada Magnifica Humanitas (Humanidad Magnífica), un documento de más de 40,000 palabras que pone sobre la mesa una crítica directa y sin rodeos al desarrollo actual de la inteligencia artificial. Lo hizo en Roma, acompañado nada menos que por Dario Amodei, cofundador de Anthropic —una de las empresas de IA más influyentes del mundo. El mensaje central: la IA debe ser "desarmada" para que sirva al bien común y no a lógicas de dominación.

¿Por qué el Papa usa la palabra "desarmar" para hablar de IA?

El propio León XIV reconoce que el término es fuerte, y lo eligió exactamente por eso. Según el documento, este momento histórico requiere "palabras capaces de atraer la atención, despertar conciencias e indicar caminos hacia adelante para la humanidad". No es retórica vacía: el Papa argumenta que la IA, tal como opera hoy, corre el riesgo de convertirse en un instrumento de dominación, exclusión e incluso de muerte si no se le imponen límites claros.

La referencia a Gandalf —el mago de El Señor de los Anillos— aparece en el documento como metáfora del poder que debe ejercerse con responsabilidad y sabiduría, no con ambición desmedida. Un guiño cultural que muestra que el Vaticano quiere hablar en un lenguaje que llegue más allá de los círculos religiosos.

¿Qué critica concretamente la encíclica Magnifica Humanitas?

El documento no se queda en generalidades. Identifica tres grandes problemas del ecosistema tecnológico actual:

• Armas autónomas con IA: La encíclica condena sin ambigüedades el desarrollo de sistemas de armas que toman decisiones letales sin intervención humana. Para el Papa, delegar la decisión de matar a un algoritmo es éticamente inaceptable.
• Neo-colonialismo digital: Critica las actitudes de grandes corporaciones —mayormente de países ricos— que extraen datos masivos de poblaciones vulnerables sin su consentimiento real, reproduciendo dinámicas coloniales en el entorno digital.
• Acaparamiento del conocimiento tecnológico: El documento apunta directamente al control monopólico de patentes, algoritmos, plataformas digitales, infraestructura tecnológica y datos. León XIV los llama "nuevas formas de propiedad" que concentran poder en pocas manos y excluyen al resto del mundo.

¿Por qué esto importa más allá de la religión?

Que el Vaticano publique un documento de esta magnitud no es un asunto solo para creyentes. Las encíclicas papales tienen peso histórico y político real: influyen en legisladores, organizaciones internacionales y debates de política pública en decenas de países, incluyendo México y América Latina, donde la Iglesia Católica sigue siendo una institución con presencia social significativa.

Además, el hecho de que Dario Amodei —cofundador de Anthropic, empresa detrás del modelo Claude— haya estado presente en la presentación dice mucho. Sugiere que al menos parte del sector tecnológico está dispuesto a dialogar sobre los límites éticos de la IA, aunque la brecha entre el discurso y las prácticas reales todavía es enorme.

¿Qué significa esto para los usuarios de tecnología en México?

Para quienes usamos tecnología en México —desde herramientas de IA para el trabajo hasta dispositivos conectados— este debate tiene implicaciones prácticas:

• Los modelos de IA que usas todos los días fueron entrenados con datos que en muchos casos no fueron recolectados con transparencia.
• Las decisiones sobre qué IA se desarrolla, cómo se regula y quién tiene acceso a ella se toman principalmente en Estados Unidos y China, sin consultar al resto del mundo.
• México aún no cuenta con una ley de inteligencia artificial. El debate ético que plantea esta encíclica es exactamente el tipo de conversación que necesitan tener legisladores, empresas y ciudadanos en nuestro país.

¿Qué sigue después de Magnifica Humanitas?

El documento no es un llamado a rechazar la tecnología. Al contrario, León XIV reconoce el potencial transformador de la IA para resolver problemas de salud, educación y pobreza. Lo que exige es que ese potencial se oriente hacia el bien común y no hacia la acumulación de poder por parte de unos pocos.

Si quieres leer el documento completo, el Vaticano lo publicará en varios idiomas. Es lectura densa, pero el debate que abre es de los más relevantes de esta década.

En ECAPRO trabajamos con tecnología todos los días: vendemos equipos, hacemos reparaciones y asesoramos a nuestros clientes. Creemos que entender el contexto ético y social de la tecnología es parte de usarla bien. Si tienes dudas sobre tus dispositivos o quieres saber más sobre herramientas de IA para tu trabajo o negocio, pásate a nuestra tienda o contáctanos.

Vía Ars Technica