Expertos ante el Congreso de EEUU advirtieron que la IA militar puede generar identificaciones y recomendaciones de objetivos con tal rapidez que una aprobación formal no garantice una revisión humana efectiva. Una persona necesita tiempo, información y autoridad para comprobar la recomendación, cuestionarla y detener el proceso cuando detecta un error.
La Comisión Tom Lantos de Derechos Humanos examinó el uso de Inteligencia Artificial en el ámbito militar junto con representantes de Amnesty International, Institute for Innovative Governance, Carnegie Endowment for International Peace, Human Rights Watch y University of Massachusetts Boston.
Anna Mysyshyn, del Institute for Innovative Governance, resumió el problema durante su testimonio: “El botón de aprobación por sí solo no demuestra el control”. También planteó si una persona encargada de supervisar varios sistemas puede identificar una recomendación incorrecta e intervenir antes de que termine el margen disponible.
Mysyshyn citó la guerra en Ucrania como un entorno donde algunas decisiones que antes requerían horas se han comprimido a minutos. Ese cambio reduce el margen disponible para contrastar los datos que sustentan una recomendación.
La IA militar exige más que un humano en el circuito
Mantener a una persona dentro de la cadena de autorización no asegura por sí mismo un control significativo. Los testigos señalaron que esa persona debe recibir los datos necesarios, comprender las limitaciones del sistema, contar con formación adecuada y tener autoridad real para rechazar o interrumpir una recomendación.
Amanda Klasing, de Amnistía Internacional en EEUU, advirtió que la IA puede comprimir la cadena de ataque. Cuando la detección, clasificación y recomendación se producen en intervalos cada vez menores, resulta más difícil comprobar después si existió un discernimiento humano sustantivo antes del uso de la fuerza.
Joe Chapa, investigador del Applied Ethics Center de University of Massachusetts Boston, explicó que los sistemas estadísticos pueden producir resultados muy distintos ante pequeños cambios en sus entradas. En sistemas complejos también puede ser difícil reconstruir posteriormente qué datos y procesos condujeron a una recomendación concreta.
La Directiva 3000.09 del Departamento de Defensa dispone que las armas autónomas y semiautónomas deben permitir niveles apropiados de juicio humano sobre el uso de la fuerza. Esa obligación sirve como marco para un debate que también alcanza las actuales políticas del Pentágono sobre proveedores y sistemas de IA.
Pruebas de presión temporal, trazabilidad y protección de civiles
Los participantes propusieron evaluar la IA militar bajo condiciones cercanas a una operación real. Las pruebas deberían medir sesgo, confiabilidad, protección de civiles, tiempo efectivo para revisar cada recomendación, capacidad de detener el sistema y conservación de registros que permitan auditar sus resultados.
La presión temporal debe formar parte de esas evaluaciones porque una interfaz con un botón de rechazo puede ofrecer una garantía solo nominal. Si el operador carece de datos suficientes, atiende varios sistemas simultáneamente o recibe la recomendación demasiado tarde, su intervención puede reducirse a confirmar una salida sin verificarla de forma independiente.
La directiva vigente exige juicio humano, pero la aplicación de ese principio depende de cómo se diseñen las pruebas, los procedimientos y las facultades del personal. La trazabilidad también permite investigar errores, asignar responsabilidades y determinar si las reglas de protección de civiles fueron aplicadas con información suficiente.
Fuentes
- Comisión Tom Lantos de Derechos Humanos — Inteligencia Artificial en el ámbito militar: implicaciones para los derechos humanos
- Military Times — La selección militar de objetivos mediante IA puede avanzar más rápido que la verificación humana
- Departamento de Defensa de EEUU — Directiva 3000.09 sobre autonomía en sistemas de armas
