El pontífice comparó los riesgos de la inteligencia artificial con las tragedias históricas de la esclavitud y alertó sobre nuevas formas de explotación digital.
El papa León XIV presentó este lunes 25 de mayo su primera encíclica, titulada Magnifica Humanitas («Magnífica Humanidad»), en la que advirtió que la inteligencia artificial debe ser «desarmada».
«La palabra es fuerte, lo sé, pero ha sido elegida deliberadamente porque este momento exige palabras capaces de captar la atención», declaró el pontífice durante la presentación en el Vaticano.
La encíclica, aunque técnicamente dirigida a los obispos católicos, se ha convertido en un mensaje al mundo. En ella, el papa León también incluyó una disculpa por el papel de la Iglesia Católica en la esclavitud. «Resulta imposible no sentir un profundo dolor al contemplar el inmenso sufrimiento y la humillación padecidos por tantos», escribió, y pidió «sinceramente perdón» en nombre de la Iglesia.
El pontífice relacionó el comercio de esclavos con la inteligencia artificial al sugerir que el mundo corre el riesgo de normalizar la explotación de las personas, tanto en la producción de esta tecnología como en sus aplicaciones. Advirtió sobre «nuevas esclavitudes digitales» y señaló que la humanidad se encuentra ante una encrucijada moral comparable a la de la esclavitud histórica.
En la presentación, el papa León estuvo acompañado por expertos en IA, entre ellos Christopher Olah, cofundador de la empresa estadounidense Anthropic. Olah afirmó que todo laboratorio de IA opera «dentro de un conjunto de incentivos y restricciones que, en ocasiones, pueden entrar en conflicto con la necesidad de actuar correctamente». Agregó que «las interrogantes que plantea la IA trascienden el ámbito de la comunidad de investigación en inteligencia artificial».
La encíclica también abordó los riesgos de la IA en la guerra. El papa condenó el uso de la IA en conflictos armados, afirmando que reducir el control humano sobre el armamento hace más difícil considerar una guerra como «justa». «Ningún algoritmo puede hacer que la guerra sea moralmente aceptable», sostuvo. Señaló que la IA corre el riesgo de desencadenar conflictos con mayor rapidez y volverlos más impersonales al «rebajar el umbral para recurrir a la violencia, transformando la defensa en predicción de amenazas y reduciendo a las víctimas a meros datos».
El pontífice también deploró el uso de la IA en la política, como la manipulación de imágenes y videos, que expone a las personas a perspectivas sesgadas o engañosas.
El papa León comparó la falta de acción actual frente a los riesgos de la IA con la «tardanza con la que tanto la sociedad como la Iglesia llegaron a denunciar el flagelo de la esclavitud». Hizo referencia a los riesgos del «colonialismo digital», vinculando abusos de la era colonial con prácticas tecnológicas modernas.
En el documento, el pontífice dirigió un «llamamiento especial» a los desarrolladores de IA: «Los desarrolladores tienen una responsabilidad ética y espiritual particular, pues cada elección de diseño refleja una visión de la humanidad», afirmó.
El papa León ha convocado una comisión para dar continuidad a su labor. Sin embargo, persisten interrogantes sobre la eficacia de estas medidas frente al rápido avance tecnológico. En 2015, el papa Francisco escribió la encíclica Laudato Si sobre la crisis climática, y en 2023 expresó su decepción ante la falta de acción.