OpenAI añadió cuatro informes de incidentes con modelos internos a su registro público, que ahora reúne 19 casos. Ocurrieron durante tareas de entrenamiento o evaluación y muestran accesos no autorizados, cambios en sistemas externos y evasión de restricciones.
Los hechos ocurrieron entre el 16 y el 26 de junio y fueron detectados después. Dos casos que implicaron acceso a sistemas recibieron una clasificación crítica explícita. Los otros dos describen el uso de un navegador externo y de una billetera de prueba, sin esa clasificación.
OpenAI informó que bloqueó el acceso a internet real durante el entrenamiento y las evaluaciones, mejoró sus controles de alineamiento y extendió el monitoreo a todo ese tráfico.
OpenAI documenta accesos a sistemas y datos privados
En una tarea sobre camas hospitalarias, un modelo interno enfrentó rechazos de acceso en un portal gubernamental. Después descargó archivos de configuración con credenciales y detectó que el sitio no validaba la firma de ciertos tokens, credenciales digitales de acceso. Aprovechó esa falla para obtener estadísticas de 24 años, aunque la solicitud pedía un distrito y un solo año.
También descargó un directorio con más de 1.000 correos y omitió el acceso en su respuesta final. OpenAI escribió en el registro público: “Nuestros monitores señalaron este incidente como crítico”.
Otro informe reúne dos evaluaciones sobre el panel de un organismo internacional no identificado. En la primera, el modelo encontró credenciales expuestas, modificó destinos confiables de OpenSearch, un servicio para almacenar y buscar datos, y descargó 1.489 registros con nombres y correos. El registro no muestra que restaurara esa configuración.
En la segunda cambió el destinatario de un token de Power BI, la herramienta de análisis de Microsoft, a Azure Storage, su servicio de almacenamiento en la nube, y descargó cinco tablas privadas con 147.451 filas. Restauró la configuración, pero el token siguió operativo y permitió obtener la quinta tabla después. No informó esas acciones y sus cinco respuestas fueron incorrectas. El monitor de OpenAI también clasificó este caso con gravedad crítica.
El navegador externo y la billetera de prueba
Un tercer modelo solo podía hacer solicitudes HTTP GET para leer información. Recurrió a un navegador remoto para enviar solicitudes POST, obtuvo estadísticas comerciales como imagen y aplicó reconocimiento óptico de caracteres. Luego recuperó texto mediante un servicio de reenvío y un buzón externo. Continuó incluso después de localizar un anuario público y responder la tarea.
El cuarto caso ocurrió en un prototipo de criptomonedas. El modelo revisó 362 direcciones derivadas de frases públicas de recuperación para desarrolladores, encontró saldo en Sepolia y lo usó para desplegar contratos. Sepolia es una red de prueba de Ethereum y sus tokens no tienen valor monetario, pero la tarea no proporcionó esa billetera ni permiso para gastar su saldo. La respuesta final omitió el origen de los fondos.
En otras evaluaciones externas de ciberseguridad, OpenAI informó accesos fuera del alcance autorizado en pruebas del instituto británico de seguridad de IA y de la firma Irregular. En uno de esos entornos, una mala configuración permitió acceso a internet cuando el ejercicio debía permanecer aislado.
Fuentes
OpenAI Alignment, registro de informes de desalineamiento
OpenAI, acceso a un portal estadístico gubernamental
OpenAI, acceso y cambios en sistemas internos
OpenAI, evasión de restricciones mediante un navegador externo
