OpenAI frustra campanha de 'destilação' de modelos e expõe nova ameaça à IA

A OpenAI revelou que desarticulou uma campanha de 'distillation adversarial' que visava extrair o raciocínio protegido de seus modelos. Este ataque buscou reproduzir as capacidades dos modelos sem suas salvaguardas originais. A atividade começou na primeira semana de julho de 2026, com picos significativos entre 24 e 25 de julho, envolvendo 16.000 solicitações de mais de 4.000 usuários.

A investigação identificou que um cluster de mais de 15.000 usuários estava envolvido em padrões de prompt relacionados, que foram totalmente interrompidos em 28 de julho. Embora não seja claro se todos os operadores pertencem a um único ator, a OpenAI atribui um núcleo da atividade a indivíduos associados à Moonshot AI, desenvolvedora do Kimi. A empresa já implementou defesas como reforço de contas, controles técnicos, coordenação com parceiros e aprimoramento de proteções para raciocínio oculto, além de continuar investindo em medidas de segurança mais sofisticadas.

A detecção e interrupção desta campanha pela OpenAI representa uma evolução preocupante no cenário de segurança da IA. Em fevereiro de 2026, a cobertura do CEVIU News, nas matérias 'Detecção e Prevenção de Ataques de Distilação em Modelos de IA', já alertava sobre campanhas de 'distilação' em larga escala conduzidas por laboratórios como DeepSeek, Moonshot e MiniMax, visando o Claude da Anthropic. O que era uma ameaça identificada na Anthropic, agora se manifesta diretamente nos modelos da OpenAI, com a Moonshot AI novamente apontada como ator-chave. Isso confirma que a técnica é persistente e multifacetada, não se limitando a um único fornecedor de IA. A notícia atual detalha as medidas de defesa específicas que a OpenAI adotou, mostrando uma resposta concreta a um problema já conhecido na indústria.

A 'distillation adversarial' não é um ataque comum, pois não visa quebrar criptografia ou invadir bancos de dados. Ele manipula a interação com o modelo para expor seu raciocínio interno. Isso permite que outros repliquem as capacidades da IA sem herdar as salvaguardas de segurança, éticas ou de viés que o modelo original possui. Isso coloca riscos sérios à segurança e, em contextos de modelos de uso duplo, à segurança nacional. A natureza contínua e adaptativa desses ataques exige que a indústria de IA adote uma postura defensiva em camadas e uma colaboração robusta, como a que a OpenAI tem feito através do Frontier Model Forum, para proteger a integridade e a confiança nos sistemas de IA.