El papa León XIV pidió a los países que se reunirán en Ginebra durante noviembre dar pasos concretos hacia la prohibición de las armas letales autónomas. También reclamó que las decisiones sobre la vida, la libertad y el uso de la fuerza permanezcan bajo un control humano eficaz, informado y responsable.
En su discurso ante científicos y representantes del Vaticano, afirmó que “ciertas decisiones nunca deben delegarse”. Extendió esa advertencia más allá del ámbito militar y mencionó la inclusión de personas en listas de sospechosos o en bases de datos de controles fronterizos.
El papa recibió a participantes de un encuentro en la Casina Pio IV organizado por la Pontificia Academia para la Vida, organismo vaticano dedicado a la bioética, y el Future of Life Institute (Instituto del Futuro de la Vida), organización que estudia riesgos de tecnologías avanzadas. El diálogo reunió a especialistas y a la Comisión Interdicasterial sobre Inteligencia Artificial.
León XIV reclama control humano sobre las armas autónomas
El Comité Internacional de la Cruz Roja define un sistema de armas autónomo como aquel que, una vez activado por una persona, selecciona objetivos y aplica fuerza sin intervención humana posterior. Sus sensores detectan señales como calor, movimiento o forma, y el software las compara con un perfil de objetivo.
El criterio se centra en quién selecciona el objetivo y aplica la fuerza. Un dron pilotado a distancia por una persona que elige el blanco y autoriza el disparo permanece bajo ese control. La navegación automática y la capacidad de atacar sin intervención humana son funciones distintas, según la explicación del organismo humanitario.
León XIV vinculó la petición de prohibición con un principio más amplio. Las aplicaciones de IA que pueden afectar derechos o causar daño deben conservar una responsabilidad humana identificable. En su discurso sostuvo que las máquinas son instrumentos y rechazó que una entidad automatizada se convierta en una barrera para exigir cuentas.
El papa ya había desarrollado esa posición en la encíclica Magnifica Humanitas, donde planteó “desarmar” la Inteligencia Artificial. En la audiencia también cuestionó conceder personalidad jurídica a estos sistemas, porque esa fórmula podría dificultar identificar a las personas responsables de los daños.
Normas, supervisión y responsables identificables
León XIV pidió instituciones internacionales capaces de aplicar los principios éticos a sistemas de IA. Reclamó normas compartidas, supervisión independiente y mecanismos de rendición de cuentas. También incluyó medidas de reparación para las personas que sufran daños por decisiones vinculadas al desarrollo o uso de estas tecnologías.
La reunión buscó acercar a la comunidad científica y a la comisión vaticana presidida por el cardenal Michael Czerny. Participaron Max Tegmark, físico y presidente del Future of Life Institute, Stuart Russell, profesor de ciencias de la computación, Gary Marcus, científico cognitivo, y Valerie Pisano, presidenta del instituto canadiense Mila.
Renzo Pegoraro, presidente de la Pontificia Academia para la Vida, señaló que los participantes aportaron evaluaciones y propuestas diferentes, con preguntas comunes sobre seguridad, libertad y concentración del poder tecnológico.
Czerny pidió avanzar desde las ideas hacia políticas y acciones. Paolo Benanti, profesor y director científico de la RenAIssance Foundation, reclamó reglas obligatorias, instituciones que verifiquen su cumplimiento y una persona que responda por cada decisión asistida por una máquina.
Fuentes
Santa Sede, discurso oficial de León XIV
Vatican News, diálogo sobre IA y dignidad humana
Comité Internacional de la Cruz Roja, sistemas de armas autónomos
