Papa León XIV alerta sobre riesgos y falta de transparencia en la inteligencia artificial

El papa León XIV advirtió este sábado sobre los riesgos de la inteligencia artificial (IA), en particular por la falta de transparencia en la creación de los algoritmos que regulan el funcionamiento de los chatbots basados en grandes modelos de lenguaje.

En un mensaje con motivo de la Jornada Mundial de las Comunicaciones Sociales, el pontífice señaló que herramientas como ChatGPT o Gemini son “especialmente eficaces en la persuasión oculta”, debido a la manera en que procesan y presentan la información.

León XIV explicó que los modelos de IA están condicionados por la visión del mundo de quienes los desarrollan y que, al reproducir datos con estereotipos o prejuicios, pueden influir en la forma de pensar de las personas.

Asimismo, advirtió que estos sistemas ofrecen “probabilidades estadísticas” como si se tratara de conocimiento, lo que puede generar percepciones imprecisas de la realidad.

El papa también expresó su preocupación por la concentración del desarrollo de la inteligencia artificial en pocas empresas, al considerar que se trata de una “fuerza invisible” que impacta a amplios sectores de la sociedad.

Sin embargo, subrayó que el desafío no es frenar la innovación digital, sino gobernarla y reconocer su carácter ambivalente. Para ello, recomendó incorporar educación en medios y en inteligencia artificial en los sistemas educativos de todos los niveles.

“La revolución digital exige una alfabetización digital para comprender cómo los algoritmos modelan nuestra percepción de la realidad”, indicó.

Desde su elección en mayo, León XIV ha mantenido una postura crítica sobre el uso de la IA. Hace un mes, alertó sobre su aplicación en el ámbito militar y cuestionó que se deleguen en máquinas decisiones relacionadas con la vida y la muerte de las personas.

Con información de AFP