El presidente de EEUU, Donald Trump, y los líderes de seis empresas tecnológicas firmaron en la Casa Blanca un acuerdo voluntario de seguridad de IA. Google, Anthropic, Meta, OpenAI, xAI y Nvidia se comprometieron a aplicar controles internos, evaluaciones externas y supervisión de sus directorios sobre modelos avanzados.
El acuerdo dirige sus compromisos a las compañías que entrenan y despliegan modelos de frontera, una denominación utilizada para los sistemas más capaces. Plantea detectar y corregir problemas durante el desarrollo y la puesta en funcionamiento de esas tecnologías.
Mike Johnson, presidente de la Cámara de Representantes de EEUU, describió el documento ante la prensa como una declaración de principios y estándares con “compromisos que son voluntarios por parte de la industria”. También señaló que la Casa Blanca y el Congreso continuarán evaluando el desarrollo del sector.
El acuerdo organiza cuatro capas de seguridad de IA
La primera capa consiste en controles internos para vigilar las capacidades de los modelos y si su comportamiento cumple los objetivos previstos. El documento menciona riesgos de ciberseguridad, amenazas biológicas y químicas y accesos no previstos a sistemas informáticos durante el entrenamiento o el despliegue.
La segunda exige dar facultades a un equipo interno para comprobar que los controles, la vigilancia y la detección funcionan como corresponde. Ese equipo también debe verificar que se corrijan los problemas identificados. La revisión queda integrada al trabajo de la empresa que desarrolla el modelo.
La tercera incorpora a un auditor o evaluador externo independiente. Su tarea es examinar si los controles y los mecanismos de detección operan de acuerdo con lo previsto. Esa revisión añade una instancia fuera del equipo responsable de entrenar y distribuir los sistemas.
La cuarta asigna la supervisión a un comité independiente del directorio. Debe recibir informes de los equipos que operan los controles y de los evaluadores internos y externos, además de asegurar que los problemas detectados reciban una corrección.
Las empresas ya asumieron compromisos en Seúl
Los firmantes empresariales fueron Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, de OpenAI; Elon Musk, de xAI; y Jensen Huang, de Nvidia. La firma reunió a competidores que participaron en el debate sobre seguridad de IA y coordinación entre laboratorios.
Las seis compañías también adhirieron a los compromisos de seguridad surgidos de la cumbre de Seúl de 2024. Google, Anthropic, Meta, OpenAI y xAI estuvieron entre los participantes originales; Nvidia se incorporó a la lista en febrero de 2025.
El marco de Seúl pidió fijar umbrales para riesgos graves y explicar qué medidas aplicar cuando un modelo los alcance. También contempló evaluaciones de terceros y transparencia pública, con excepciones para proteger información sensible. El acuerdo de la Casa Blanca detalla los responsables de revisar los controles dentro y fuera de cada organización.
Los participantes acordaron reunirse periódicamente para establecer estándares y buenas prácticas. El documento contempla que sus medidas puedan incorporarse posteriormente a leyes o regulaciones y mantiene el compromiso empresarial de aplicar los controles y auditorías.
