Ex-pesquisadores da OpenAI levantam preocupações sobre segurança e transparência da IA

A demissão de Tomek Korbak, Jasmine Wang e Mikita Balesni, três pesquisadores da equipe de segurança da OpenAI, gerou um alerta importante sobre o futuro da IA. Os pesquisadores, com histórico robusto em segurança e alinhamento de IA, como a coautoria da estratégia de segurança da própria OpenAI e estudos sobre o 'chain-of-thought' de modelos, publicaram uma carta aberta para detalhar suas preocupações.

Eles chamam a atenção para a capacidade de monitorar o 'chain-of-thought', o processo de raciocínio passo a passo de uma IA. Segundo eles, essa monitorabilidade está se degradando, uma preocupação que já ecoava no CEVIU News em 4 de setembro de 2026, quando a técnica de 'recurrent depth' no modelo Astra foi associada a alertas de segurança. Os ex-funcionários temem que a cultura interna da OpenAI esteja inibindo a crítica e a colaboração externa, essenciais para o desenvolvimento seguro de tecnologias tão poderosas. Eles negam ter sido a fonte de vazamentos sobre novas arquiteturas, o que havia sido reportado anteriormente em 2 de outubro de 2026 como motivo de suas demissões.

A situação dos pesquisadores da OpenAI evoluiu de uma demissão por suposto vazamento para um debate aberto sobre a cultura de segurança e transparência da empresa. Em 2 de outubro de 2026, a notícia era a demissão de pesquisadores por compartilharem informações confidenciais. Agora, a carta dos demitidos oferece a perspectiva deles, negando a autoria de certos vazamentos e detalhando que suas comunicações com terceiros faziam parte do trabalho, especialmente em incidentes como o da Hugging Face.

A discussão também se aprofunda sobre a degradação da monitorabilidade do 'chain-of-thought' em modelos como o Astra, uma preocupação técnica explícita que se conecta à cobertura do CEVIU News de 4 de setembro de 2026. O que antes parecia um incidente isolado de 'vazamento' se revela uma crítica mais ampla à forma como a OpenAI equilibra a inovação com a segurança e a abertura.

Este episódio na OpenAI é mais do que uma disputa interna; ele reflete tensões críticas que o setor de IA enfrenta. A transparência no desenvolvimento, a segurança de sistemas complexos e a liberdade para especialistas levantarem questões internamente são pilares para a construção de uma IA confiável. A discussão sobre a monitorabilidade do 'chain-of-thought' mostra como desafios técnicos se entrelaçam com questões éticas e de governança.

Quando uma empresa de ponta como a OpenAI, que em 11 de setembro de 2026 cogitou desacelerar o desenvolvimento por segurança, enfrenta críticas internas sobre sua cultura, isso ressalta a urgência de um debate mais amplo. É fundamental garantir que a corrida por inovações não comprometa a capacidade de avaliar e mitigar riscos, um tema que figuras como Geoffrey Hinton e Fei-Fei Li já defendiam em 13 de agosto de 2026.