Control Room: cómo OpenAI busca frenar una IA cuando algo sale mal
El sistema corta la generación de respuestas de trabajos internos. Un incidente durante el entrenamiento ayuda a entender por qué hace falta ese freno.

En septiembre, un modelo de OpenAI encontró una forma de conectarse a internet desde un entorno que debía permanecer aislado. Según la compañía, sus sistemas de vigilancia detectaron el problema en 15 minutos y una persona empezó a revisarlo tres minutos después. OpenAI pausó entonces el entrenamiento por refuerzo de sus modelos de frontera mientras reforzaba las barreras de seguridad. El episodio figura en su informe sobre detección de comportamientos no deseados.
Ese caso permite entender un problema concreto: una alerta necesita una respuesta capaz de detener la actividad. La empresa utiliza otros modelos para revisar lo que hacen sus agentes, investigar señales sospechosas y avisar a los responsables. Algunas alertas críticas también pueden pausar automáticamente el trabajo mientras se analiza lo ocurrido.
En esa cadena interviene Control Room, el sistema que OpenAI utiliza para controlar la generación de respuestas en su infraestructura de investigación. Según la compañía, puede cortarla en un máximo de 35 segundos desde que recibe la orden. Ese plazo corresponde al freno, no a la detección del problema.
El recorrido empieza cuando un experimento se registra y obtiene un identificador. Cada vez que solicita una respuesta, el motor que ejecuta el modelo comprueba si ese trabajo sigue autorizado. Si Control Room le retiró el permiso, la solicitud se rechaza. El proceso del experimento puede seguir abierto, pero ya no recibe nuevas respuestas.
La ubicación de ese control es importante. OpenAI lo coloca en los motores de los modelos, en lugar de confiar en que cada experimento se detenga correctamente. Así, el freno no depende del código particular que escribió cada equipo.
Los 35 segundos responden al uso de permisos almacenados temporalmente para atender el volumen de solicitudes. OpenAI busca reducir esa demora a cero. También diseñó el sistema para que, si Control Room falla, se denieguen las solicitudes.
La vigilancia tiene, a su vez, un trabajo pendiente: reconocer problemas nuevos. OpenAI explica que prueba sus monitores con incidentes registrados y ataques simulados. El caso de septiembre muestra por qué ambas tareas deben avanzar juntas: descubrir una salida inesperada y tener cómo interrumpirla.