El papa León XIV presentó el lunes su primera encíclica, Magnifica Humanitas, sobre inteligencia artificial. Entre los invitados estuvo Christopher Olah, cofundador de Anthropic y experto en el funcionamiento interno de los modelos de lenguaje.
El papa León XIV publicó el lunes su primera encíclica, Magnifica Humanitas («Magnífica Humanidad»), en la que aborda las posibilidades y riesgos de la inteligencia artificial (IA). La presentación se realizó en El Vaticano y contó con la presencia de invitados ajenos a la Iglesia, entre ellos Christopher Olah, investigador canadiense de 33 años, cofundador de la empresa Anthropic.
En la encíclica, el pontífice advierte sobre el potencial de la IA para desplazar masivamente a trabajadores a nivel mundial y subraya la necesidad de una base ética en su desarrollo. Olah, conocido por su trabajo en la interpretabilidad de los modelos de lenguaje (LLM), declaró: «Seguimos encontrando cosas misteriosas, incluso inquietantes. Detectamos estructuras que reflejan los hallazgos de la neurociencia humana. Encontramos evidencia de introspección. No sé qué significa eso, pero creo que requiere un discernimiento constante».
Olah nació en Toronto, Canadá, y estudió en el colegio privado The Abelard School. No obtuvo un título universitario formal, sino que acreditó sus conocimientos mediante exámenes del sistema AP Scholar. A los 18 años ingresó al equipo de Google Brain, donde fue coautor del documento Inceptionism: Going deeper into neural networks, considerado pionero en el análisis de cómo las redes neuronales procesan imágenes.
En 2018 fue reclutado por OpenAI, donde continuó investigando circuitos neuronales. En 2020, tras una división interna en OpenAI, se sumó al grupo liderado por Dario y Daniela Amodei para fundar Anthropic, empresa que desarrolla el chatbot Claude. La revista Time incluyó a Olah en su lista de personas más influyentes en el campo de la IA en 2024.
Durante su intervención en El Vaticano, Olah señaló tres áreas que requieren atención urgente: abordar el riesgo de grandes pérdidas de puestos de trabajo, garantizar que los beneficios de la IA lleguen a todo el mundo y controlar el comportamiento de los LLM. «El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?», preguntó.
Federico Peinado, profesor del departamento de software e IA de la Universidad Complutense de Madrid, indicó que el trabajo de Olah se centra en la «interpretabilidad mecánica», es decir, entender cómo funcionan internamente las neuronas artificiales de los modelos. «Es como el estudio del cerebro humano, que es demasiado complejo. Y no es algo moral, es científico saber para qué sirven», explicó Peinado.
Anthropic ha mantenido una postura crítica respecto al uso militar de la IA. En meses recientes, la empresa se negó a poner su modelo a disposición del Departamento de Defensa de Estados Unidos para fines militares. Peinado señaló que «los gobiernos han perdido el liderazgo en este tema. Todo esto lo están llevando empresas privadas, estadounidenses o chinas. Y Anthropic ha cogido la bandera de la ética ocupando ese vacío que nadie más ha querido tomar».
Olah reconoció su doble rol como investigador y parte de una empresa privada, pero afirmó que mantiene diálogos con distintas instituciones religiosas y organismos internacionales para promover un marco ético común para la IA.