OpenAI Inicia Avaliações de Segurança Aprofundadas com Parceiros Externos
Aprofundamento CEVIU
Aprofundamento
A OpenAI iniciou a primeira fase de avaliações de segurança embedded, uma estratégia que permite a parceiros externos acesso profundo a seus sistemas e modelos de IA. Essa abordagem, em colaboração com Apollo Research, METR, Transluce e Goodfire, visa identificar e mitigar riscos de desalinhamento e segurança que as avaliações internas poderiam não detectar. Os avaliadores terão acesso privilegiado a dados sensíveis, como checkpoints de modelos, código-fonte, dados de treinamento e avaliação, sistemas de monitoramento e documentação técnica, além de interagir diretamente com equipes de pesquisa e engenharia. O objetivo é fortalecer a transparência e a responsabilidade no desenvolvimento de IAs avançadas, complementando os protocolos de safety já existentes da OpenAI.
Cada parceiro tem um foco específico: a Apollo Research investigará a capacidade dos modelos de agir secretamente contra as intenções dos desenvolvedores e a eficácia das salvaguardas. A METR focará em comportamentos desalinhados em execuções de aprendizado por reforço em larga escala e na avaliação de mecanismos de monitoramento. A Transluce revisará a qualidade e abrangência das avaliações de alinhamento pós-treinamento, enquanto a Goodfire analisará os mecanismos internos dos modelos para monitoramento de treinamento, depuração e alinhamento. Todos operarão sob rigorosos protocolos de segurança, incluindo trabalho on-site e em dispositivos fornecidos pela OpenAI, para proteger informações confidenciais. A empresa mantém o direito de editar material confidencial em publicações e solicitar atrasos na divulgação para permitir a remediação de possíveis vulnerabilidades.
O que mudou
Esta fase de avaliações de segurança embedded representa a materialização do que o CEVIU noticiou em 16 de novembro de 2026, sob o título "OpenAI Inicia Avaliações Independentes Abrangentes de Seus Modelos de IA". Naquela ocasião, a notícia introduzia a iniciativa, enquanto a atualização de hoje detalha as especificidades de cada parceria e os protocolos de acesso e segurança envolvidos. O anúncio de agora detalha os objetivos de cada um dos quatro parceiros externos, esclarecendo como a Apollo Research, METR, Transluce e Goodfire terão acesso privilegiado a dados internos e como suas avaliações serão conduzidas. Isso demonstra um avanço significativo na operacionalização do compromisso da OpenAI com avaliações de segurança independentes, trazendo mais clareza sobre o escopo e a profundidade dessas colaborações.
Por que isso importa
Para profissionais de segurança da informação, esta iniciativa da OpenAI é um indicativo importante da complexidade e da seriedade com que as vulnerabilidades em modelos de IA de fronteira estão sendo tratadas. A concessão de acesso profundo a sistemas internos e código-fonte, mesmo sob estritos controles, mostra uma abordagem proativa na detecção de falhas que podem não ser óbvias em testes superficiais. Isso pode estabelecer um novo padrão para a indústria em termos de transparência e responsabilidade no desenvolvimento de IA. A metodologia adotada, com foco em subversão de intenções e desalinhamento, ressalta preocupações sobre a autonomia e o comportamento inesperado de sistemas de IA, oferecendo insights valiosos sobre como grandes laboratórios estão tentando mitigar riscos sistêmicos.
Linha do tempo
OpenAI revisa segurança em meio a treinamento de IA pausado, reformulando seu Preparedness Framework.
OpenAI lança estrutura de triage para análise de desalinhamento de modelos de IA.
OpenAI padroniza regras de safety e exigirá aprovação para gateways e routers de modelos.
OpenAI e instituto polonês NASK firmam parceria em safety e segurança de IA.
OpenAI reforça a segurança dos ambientes de treinamento de seus frontier models.
OpenAI anuncia acordos com quatro avaliadores independentes para avaliações aprofundadas de modelos.
OpenAI detalha início das avaliações de segurança aprofundadas com parceiros externos, especificando escopos e protocolos.
Perguntas frequentes
O que são as avaliações de segurança embedded da OpenAI?
São avaliações aprofundadas conduzidas por parceiros externos (Apollo Research, METR, Transluce e Goodfire) que recebem acesso privilegiado aos sistemas internos da OpenAI, incluindo código-fonte, dados de treinamento e modelos. O objetivo é identificar falhas de segurança e desalinhamento que poderiam passar despercebidas em avaliações convencionais.
Quais tipos de acesso os avaliadores externos terão?
Os avaliadores terão acesso a checkpoints de modelos, código-fonte, dados de treinamento e avaliação, sistemas de monitoramento, documentação técnica e terão permissão para interagir com as equipes internas da OpenAI. Este acesso é concedido sob rigorosos protocolos de segurança e confidencialidade.
Como a OpenAI garante a segurança das informações confidenciais durante essas avaliações?
A OpenAI exige que os avaliadores trabalhem em suas instalações, utilizando dispositivos fornecidos pela empresa e seguindo os mesmos padrões de segurança aplicados aos funcionários. Além disso, há um processo para gerenciar conflitos de interesse, regras claras para publicações e o direito da OpenAI de editar informações confidenciais ou solicitar atrasos na divulgação.
Qual o papel do Safety and Security Committee (SSC) da OpenAI Foundation nesse processo?
O SSC, um comitê de supervisão independente, terá visibilidade sobre todo o processo de avaliação, recebendo relatórios não editados e podendo se comunicar diretamente com os avaliadores. Ele atua como instância de resolução final para quaisquer desacordos entre a OpenAI e os avaliadores.
Fontes
- openai.comfonte original
- Categoria
- CEVIU Segurança da Informação
- Publicado
- 17 de novembro de 2026
- Editoria
- CEVIU Segurança da Informação

