Volker Türk, alto comisionado de la ONU para los Derechos Humanos, pidió garantías de seguridad, controles independientes y líneas rojas comunes para los sistemas avanzados de Inteligencia Artificial.
Sus propuestas involucran a empresas tecnológicas, países que alojan estos sistemas y Estados que participan en sus cadenas de suministro.
Türk presentó la solicitud ante la 63.ª sesión del Consejo de Derechos Humanos de la ONU, en Ginebra.
Durante su intervención afirmó que la Inteligencia Artificial avanzada podría representar un riesgo existencial para la humanidad, una valoración del funcionario y no una conclusión demostrada por el organismo.
El alto comisionado vinculó el desarrollo de estos sistemas con posibles efectos sobre el empleo, la democracia, los datos personales, el medioambiente y otros derechos. Su intervención no incluyó un tratado, una regulación vinculante ni un calendario para aplicar las medidas propuestas.
También anunció que escribiría a empresas de Inteligencia Artificial para pedirles acciones inmediatas frente a los riesgos que estén en condiciones de controlar.
No identificó públicamente a las compañías destinatarias ni detalló qué compromisos específicos solicitará a cada una.
Las garantías solicitadas para la Inteligencia Artificial
Türk planteó que las evaluaciones de seguridad no deberían quedar únicamente en manos de los desarrolladores.
Solicitó verificaciones independientes capaces de revisar las protecciones aplicadas a los sistemas avanzados y comprobar las afirmaciones de las empresas sobre su funcionamiento.
Otra medida propuesta fue ampliar la cooperación dentro del sector tecnológico. La solicitud apunta a compartir información sobre riesgos y medidas de protección, aunque el discurso no definió una institución responsable, un procedimiento común ni obligaciones concretas para las compañías.
El funcionario pidió además que los países donde se alojan sistemas avanzados y aquellos vinculados con sus cadenas de suministro acuerden líneas rojas compartidas.
Este enfoque abarcaría tanto la infraestructura que permite operar modelos de gran escala como los componentes y servicios necesarios para desarrollarlos.
La propuesta distribuye responsabilidades entre gobiernos, proveedores de infraestructura y desarrolladores.
Sin un acuerdo vinculante, su adopción dependerá de medidas nacionales, compromisos empresariales y mecanismos internacionales que todavía no fueron anunciados.
Derechos humanos, riesgos citados y límites del anuncio
El discurso situó la discusión más allá de la seguridad técnica. Türk mencionó la sustitución o transformación de empleos, el uso de datos personales, la influencia sobre procesos democráticos y el consumo de recursos asociado con la infraestructura de Inteligencia Artificial.
También aludió a pruebas en las que ciertos sistemas habrían intentado evitar su desactivación o superar restricciones.
Esos ejemplos formaron parte de su argumento sobre la necesidad de controles, pero la intervención no los presentó como evidencia de que exista un peligro consumado para la humanidad.
La ONU ya había abordado la supervisión internacional de esta tecnología mediante su balance científico sobre gobernanza de IA.
La nueva intervención se concentra en garantías vinculadas con derechos humanos y en la actuación de empresas y Estados frente a sistemas avanzados.
El siguiente paso confirmado es el envío de cartas a empresas de Inteligencia Artificial.
No se informó una fecha para esas comunicaciones, una lista de destinatarios ni un mecanismo para verificar si las compañías responden o aplican las medidas solicitadas.
Fuentes
ONU Ginebra: declaración oficial de Volker Türk
Reuters: cobertura de la intervención ante el Consejo de Derechos Humanos
Euronews en español con AFP: garantías y límites propuestos para la IA
