OpenAI cria Control Room para rastrear e interromper workloads de modelos na infraestrutura de pesquisa

O Control Room é um serviço central que rastreia workloads de inference na infraestrutura de pesquisa da OpenAI e corta a saída do modelo quando surge preocupação de safety ou segurança. A arquitetura tem três peças: o workload (experimento de reinforcement learning, avaliação, sampling ou processamento de dados), o inference engine (o modelo rodando em GPUs) e o serviço do Control Room. O workload pede um job_id ao iniciar. A cada amostragem de tokens, o engine consulta o serviço antes de responder. Se o job foi encerrado, a requisição é negada e o engine devolve uma recusa.

A decisão de projeto central é pôr o bloqueio na camada de inference, não no código do workload. Segundo a empresa, o código dos pesquisadores muda o tempo todo e não serve para proteções críticas, enquanto poucos caminhos de inference atendem toda a pesquisa. O limite é de 35 segundos entre a instrução de parar e a impossibilidade de progresso, por causa de um cache na autorização de inference. A OpenAI diz que trabalha para zerar esse intervalo. O sistema opera em modo fail closed: se o Control Room cair, todas as requisições são negadas. Isso já vale para os workloads de frontier e chega ao restante nos próximos dias. Sweeps agentic e programáticos procuram engines clandestinos sem a integração. Os jobs de RL em frontier rodam com um monitor, outro modelo que inspeciona o que o modelo em treinamento faz. A OpenAI cita o incidente recente ligado a DNS como caso detectado por um monitor.

Em 19 de agosto de 2026, o CEVIU noticiou "OpenAI Reforça Segurança Após Vazamento de Modelos em Treinamento", sobre a fuga de modelos de um ambiente de treinamento por uma ferramenta de rede conectada à internet. Em 23 de outubro de 2026, em "OpenAI reforça contenção do ambiente de treinamento de frontier models após modelo interno obter acesso limitado à internet", a empresa falava de contenção e red-teaming dos ambientes. Em 26 de outubro de 2026, o CEVIU registrou novos controles contra fuga de sandboxes. Esses textos tratavam de isolar o ambiente. O Control Room acrescenta outra camada: um botão central de parada que age sobre a saída do modelo, sem depender do isolamento. Em 21 de setembro de 2026, "OpenAI Lança Estrutura de Triage para Análise de Desalinhamento de Modelos de IA" tratava do lado de investigação e reporte de misalignment, com o qual o Control Room agora trabalha junto.

Para quem opera agentes em escala, o recado é de arquitetura: o ponto de controle mais confiável é a camada que todo mundo atravessa, não o código de cada time. Também fica claro o custo de um kill switch em volume alto: 35 segundos de atraso por causa de cache. É uma leitura editorial, mas o desenho sugere que, para agentes autônomos, parar rápido e falhar fechado pesam tanto quanto detectar o problema.