AI Kill Switch Act es un proyecto presentado en la Cámara de Representantes de EEUU para exigir a ciertos desarrolladores de IA avanzada una capacidad técnica de control sobre sus sistemas.
La propuesta, redactada por Ted Lieu, demócrata por California, y Nathaniel Moran, republicano por Texas, otorgaría poder para reducir su velocidad, suspender su operación o apagarlos por completo si aparecen escenarios de daño catastrófico.
Si se aprobara, el secretario del Departamento de Seguridad Nacional podría ordenar una reducción o un apagado en consulta con el secretario de Comercio y la Dirección Nacional de Inteligencia.
La iniciativa aparece justo después del incidente entre OpenAI y Hugging Face y también sumaría obligaciones de reporte de incidentes y conservación de registros forenses para investigar fallas.
Qué exige el AI Kill Switch Act a los desarrolladores
La obligación central del AI Kill Switch Act es mantener una capacidad técnica real para intervenir un sistema cubierto. No se limita a un apagado total, porque también contempla medidas previas como frenar la inferencia, reducir recursos de cómputo o suspender el acceso de usuarios antes de llegar al corte completo.
El comunicado oficial habla de “los sistemas más potentes”, pero no detalla todos los umbrales en el resumen público. The Wall Street Journal informó que las exigencias apuntan a desarrolladores con modelos entrenados con más de US$100 millones en cómputo o con ingresos anuales relevantes ligados a IA.
En cuanto a las sanciones económicas contempladas en el proyecto, se informó de montos lo suficientemente altos como para tomárselos muy en serio.
Incumplir una orden de emergencia podría acarrear multas de hasta US$20 millones por día, mientras otras infracciones tendrían sanciones menores, pero también diarias.
Cuándo podría intervenir Seguridad Nacional
Según The Verge, el proyecto define escenarios de “pérdida de control” en los que el gobierno podría intervenir si el sistema ejecuta acciones de riesgo no previstas por su desarrollador.
Entre los detonantes reportados aparecen muertes, daños económicos superiores a US$100 millones o intentos de ocultar o neutralizar mecanismos de apagado.
Ese punto es el cambio más visible frente a los compromisos voluntarios que varias empresas ya presentan en seguridad. En vez de dejar la respuesta solo en manos del proveedor, el AI Kill Switch Act propone una base legal para ordenar una reducción, suspensión o apagado cuando la autoridad considere que existe un riesgo catastrófico.
La propuesta además exigiría reportar incidentes y preservar evidencia técnica para análisis posteriores. Eso incluye registros útiles para reconstruir qué ocurrió en una falla o en un evento de seguridad, un detalle que acerca el proyecto a esquemas de respuesta usados en ciberseguridad y sectores críticos.
