El Papa advierte que la IA no es moralmente neutra

La inteligencia artificial ya no es solo tema de tecnólogos, gobiernos o grandes empresas. Ahora también ocupa un lugar central en la discusión ética global, y el Vaticano acaba de dejar clara su postura: la IA no puede entenderse como una herramienta neutral.

En su primera encíclica, Magnifica Humanitas (“Magnífica humanidad”), publicada este lunes, el papa León XIV lanzó una advertencia directa sobre los riesgos de deshumanización, concentración de poder y nuevas formas de explotación vinculadas al desarrollo acelerado de esta tecnología.

El documento, de 130 páginas, plantea una discusión que toca de lleno a cualquier usuario de plataformas digitales, desde quienes interactúan con algoritmos a diario hasta quienes comienzan a convivir con sistemas automatizados en el trabajo, la educación o la vida cotidiana.

“No podemos considerar a la IA como moralmente neutra”, escribió el pontífice, al advertir que la adopción tecnológica sin regulación ética podría derivar en una subordinación progresiva de lo humano frente a sistemas diseñados bajo lógicas exclusivamente económicas o de eficiencia.

Para lectores que siguen de cerca cómo la inteligencia artificial transforma industrias, empleos y relaciones sociales, el mensaje central del Vaticano apunta a una pregunta de fondo: ¿quién está diseñando el futuro digital y bajo qué intereses?

León XIV advirtió que el control de las plataformas, la infraestructura tecnológica y los datos personales está cada vez más concentrado en grandes corporaciones privadas, una dinámica que, sostuvo, redefine las condiciones de acceso, participación y autonomía digital a escala global.

La “nueva esclavitud” detrás de la IA

Uno de los pasajes más duros del documento se refiere al costo humano oculto detrás del desarrollo tecnológico.

El papa denunció que parte de la cadena productiva necesaria para sostener la expansión de la inteligencia artificial descansa en condiciones de explotación vinculadas a la extracción de minerales estratégicos, como las tierras raras esenciales para fabricar dispositivos y centros de procesamiento.

“En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas”, advierte el texto, al señalar que el desarrollo tecnológico puede reproducir formas contemporáneas de esclavitud cuando se desconecta de criterios de dignidad humana.

El señalamiento introduce un ángulo que rara vez aparece en la conversación cotidiana sobre IA: el costo material y social de una tecnología que suele presentarse como abstracta o inmaterial.

Más allá de la automatización

La encíclica también alerta sobre el riesgo de reducir a las personas a métricas, datos y rendimiento cuantificable.

Para León XIV, la preocupación no es solo que las máquinas realicen tareas humanas, sino que la lógica algorítmica termine moldeando la forma en que se entiende el valor de las personas.

Desde esa óptica, el pontífice llamó a una alfabetización digital amplia y a construir marcos regulatorios que prioricen la dignidad humana por encima de la rentabilidad tecnológica.

El documento incluso extiende la discusión al uso militar de la inteligencia artificial y rechaza cualquier intento por justificar conflictos armados mediante sistemas automatizados.

“Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”, sostiene.

La publicación de Magnifica Humanitas coloca al Vaticano en uno de los debates más relevantes del presente: el de cómo aprovechar el potencial de la inteligencia artificial sin que el desarrollo tecnológico termine desplazando principios básicos de justicia, libertad y humanidad.

En un momento en que la IA ya empieza a definir decisiones laborales, educativas, financieras y políticas, la advertencia papal pone sobre la mesa una discusión incómoda, pero cada vez más urgente: no basta con preguntarnos qué puede hacer la tecnología, sino qué estamos dispuestos a permitirle hacer.