OpenAI presentó Control Room, un sistema central que puede bloquear la generación de nuevas respuestas de sus modelos de investigación en un máximo de 35 segundos después de recibir una orden de detención. La herramienta conecta la supervisión de riesgos con un mecanismo que impide continuar usando el modelo en el trabajo afectado.
El control abarca experimentos de entrenamiento, evaluaciones y procesamiento de datos de investigación. La infraestructura que atiende ChatGPT y la API pública utiliza sus propios mecanismos operativos para retirar modelos del servicio.
El plazo de 35 segundos corresponde a la ejecución de la orden de bloqueo. La detección de una conducta problemática ocurre antes, mediante investigadores o sistemas de monitoreo que pueden solicitar la intervención.
Control Room comprueba el permiso de cada trabajo
Cada trabajo obtiene un identificador y lo adjunta cuando solicita respuestas. El motor que ejecuta el modelo consulta si ese identificador sigue autorizado. Si se revoca, rechaza las nuevas solicitudes asociadas, incluso cuando el programa del experimento continúa funcionando.
La protección se aplica donde se generan las respuestas, en vez de depender del código de cada investigador. Ese código cambia con frecuencia. Concentrar el control en los motores permite mantener la misma regla entre trabajos que utilizan modelos y programas diferentes.
La demora procede de una memoria temporal que conserva autorizaciones para atender el volumen de solicitudes. OpenAI afirmó en su explicación técnica: “Estamos trabajando para reducir este tiempo a cero”. También realiza revisiones continuas para detectar motores que omitan o desactiven la integración.
El bloqueo se mantiene cuando falla el servicio central
Si Control Room deja de funcionar por una avería, una desactivación o una manipulación, los motores deniegan las solicitudes hasta que el servicio se recupera. Según la empresa, esta protección ya cubre los trabajos de investigación de sus modelos más avanzados y se extenderá a los restantes durante los días posteriores al anuncio.
El sistema se integra con monitores que revisan la actividad de los experimentos. OpenAI explicó que sus trabajos de entrenamiento por refuerzo más avanzados cuentan con otro modelo que examina lo realizado y genera alertas. Dependiendo de la gravedad y los detalles, esa supervisión puede ordenar una pausa automática.
La medida se suma a las protecciones frente a controles de seguridad desactivados. En su marco de seguridad para el entrenamiento, la compañía propuso impedir el inicio de ejecuciones sin supervisión y exigir procedimientos de pausa cuando aparece un problema que invalida su autorización.
Ese marco también plantea revisar los riesgos antes de iniciar el entrenamiento, identificar responsables y conservar registros para investigar incidentes. Control Room convierte la posibilidad de retirar el permiso en una restricción aplicada por la infraestructura, mientras la supervisión aporta la señal para intervenir.
Fuentes
OpenAI — condiciones de seguridad del entrenamiento
