OpenAI Inicia Avaliações Aprofundadas de Segurança e Alignment com Especialistas Externos
Aprofundamento CEVIU
Aprofundamento
A OpenAI começou a primeira fase de avaliações de segurança aprofundadas, chamadas de embedded assessments, para seus modelos de IA. A iniciativa dá a especialistas independentes, como Apollo Research, METR, Transluce e Goodfire, acesso interno a modelos e sistemas. Eles vão avaliar o alinhamento dos modelos e a eficácia das salvaguardas por um tempo, gerando evidências e contexto para análises independentes, e identificando falhas. Este acesso pode incluir checkpoints de modelos, código-fonte, dados de treinamento e avaliação, sistemas de monitoramento, documentação técnica e conversas com pesquisadores. Os relatórios públicos dessas avaliações buscam trazer transparência sobre os métodos de avaliação e gestão de riscos da empresa. A iniciativa cumpre compromissos do White House Accord on Super Intelligence.
O que mudou
Em 16 e 17 de novembro de 2026, o CEVIU já tinha noticiado, em "OpenAI Inicia Avaliações Independentes Abrangentes de Seus Modelos de IA" e "OpenAI Inicia Avaliações de Segurança Aprofundadas com Parceiros Externos", a fase inicial dessas avaliações. O que agora se confirma é a disponibilidade e o início formal dessas avaliações aprofundadas, detalhando os parceiros e o acesso que terão. Antes, o foco era o anúncio do acordo; agora, o acesso é real, com cada avaliador tendo um escopo específico. A Apollo Research, por exemplo, vai verificar se os modelos podem agir contra as intenções dos desenvolvedores, enquanto a Goodfire vai analisar os internos do modelo para monitoramento e depuração do treinamento. A METR vai focar em comportamento desalinhado e monitoramento, e a Transluce vai avaliar a qualidade das avaliações de alinhamento pós-treinamento.
Por que isso importa
Para quem opera com modelos de IA da OpenAI ou desenvolve sobre eles, essa iniciativa de avaliação aprofundada sinaliza um esforço concreto na gestão de riscos e transparência. O acesso interno e estendido dado a avaliadores independentes, incluindo a possibilidade de examinar código-fonte e dados de treinamento, pode resultar em melhorias significativas nas salvaguardas dos modelos. Isso é crucial para empresas que dependem da robustez e segurança dessas IAs, especialmente em aplicações críticas. A publicação dos relatórios pode gerar um padrão de mercado e fomentar a confiança no uso de IAs avançadas, ao mesmo tempo que oferece insights sobre como a OpenAI endereça potenciais falhas de alinhamento e segurança.
Linha do tempo
A Transluce apresenta plano de avaliação incorporada para mitigar riscos em IAs de ponta.
OpenAI lança estrutura de Triage para análise de desalinhamento de modelos de IA.
OpenAI anuncia o MentalHealthBench para testar IA em saúde mental com apoio de especialistas.
OpenAI padroniza regras de safety e exigirá aprovação para gateways e routers de modelos.
OpenAI anuncia acordos para avaliações independentes abrangentes de seus modelos de IA.
OpenAI inicia formalmente avaliações aprofundadas de segurança e alignment com especialistas externos.
Perguntas frequentes
O que são as avaliações aprofundadas (embedded assessments) da OpenAI?
São avaliações de segurança em que especialistas independentes recebem acesso profundo aos modelos e sistemas internos da OpenAI. Eles analisam o alinhamento dos modelos e a eficácia das salvaguardas por um período estendido.
Quais informações e recursos os avaliadores independentes acessam?
Os avaliadores podem acessar checkpoints de modelos, código-fonte, dados de treinamento e avaliação, sistemas de monitoramento, documentação técnica e conversar com pesquisadores da OpenAI. O nível de acesso varia conforme a necessidade de cada avaliação.
Qual é o objetivo principal dessas avaliações?
O principal objetivo é coletar evidências e contexto para avaliações independentes, identificar falhas imprevistas nos modelos de IA e aumentar a transparência pública sobre os métodos de avaliação e gestão de riscos da OpenAI.
Quem são os avaliadores independentes envolvidos nesta primeira fase?
Nesta fase inicial, a OpenAI estabeleceu parcerias com quatro organizações: Apollo Research, METR, Transluce e Goodfire. Cada uma tem um foco específico na avaliação de segurança e alinhamento dos modelos.
Fontes
- openai.comfonte original
- Categoria
- CEVIU IA
- Publicado
- 17 de novembro de 2026
- Editoria
- CEVIU IA

