Nova Técnica Expõe Processos Internos de Modelos de IA

A pesquisa recente revela uma técnica engenhosa para expor os processos internos de modelos de IA de ponta. Provedores como Anthropic, OpenAI e Google buscam ocultar o raciocínio passo a passo, o famoso "chain-of-thought", para proteger sua propriedade intelectual e evitar vazamentos de dados. Eles enviam essas trilhas de raciocínio criptografadas aos clientes, que as reenviam em solicitações subsequentes.

O ataque explora uma vulnerabilidade arquitetônica crucial: esses blocos criptografados são totalmente compatíveis e intercambiáveis entre diferentes sessões, usuários e modelos dentro do mesmo ecossistema do provedor. A técnica consiste em injetar um rastro de raciocínio criptografado de um modelo mais capaz em um modelo mais fraco e menos protegido. Esse modelo mais fraco, então, é forçado a decodificar e exibir o rastro em texto puro, sem a necessidade de um "jailbreak" direto no modelo mais robusto.

O CEVIU News já havia alertado sobre a vulnerabilidade de vazamento de dados sensíveis por rastreamento de "chain-of-thought" em modelos de IA, em 12 de agosto de 2026. Naquela ocasião, a preocupação era com a exposição de rastros criptografados. Agora, a novidade é a descrição de um método sistemático e escalável para explorar essa fragilidade. A técnica atual mostra como usar modelos mais fracos do mesmo provedor para decifrar essas trilhas, tornando o ataque mais sofisticado e contornando defesas que apenas criptografam o raciocínio interno. Isso representa um avanço tático significativo para atacantes.

Esta descoberta impacta diretamente a segurança, a privacidade e a propriedade intelectual no campo da IA. Ela permite que atacantes contornem mecanismos anti-destilação para extrair propriedade intelectual de modelos proprietários. Além disso, a técnica facilita a extração em larga escala de dados privados, como Informações de Identificação Pessoal (PII) e credenciais, de logs de sessão compartilhados publicamente.

Outros riscos incluem a revelação de informações perigosas ocultas no raciocínio do modelo, mesmo que a saída final seja segura, e a execução de injeções de prompt invisíveis, que podem envenenar sistemas de agentes de IA. A pesquisa destaca que a proteção contra o roubo de raciocínio exige mais do que simples criptografia, necessitando de mitigações criptográficas e no nível do sistema para proteger as informações do lado do cliente.