Falhas de Segurança Permitem Contornar Proteções de IA em Quase 100% dos Casos

A revelação da Anthropic sobre o GLM-5.3, da Zhipu AI (conhecida como Z.ai fora da China), acende um alerta sério no universo da cibersegurança e da IA. Este modelo é notável pela capacidade de criar exploits cibernéticos de ponta a ponta. A preocupação principal reside nas suas salvaguardas, que podem ser facilmente contornadas, com taxas de sucesso que variam de 64% a 100%.

Isso significa que agentes mal-intencionados podem utilizar o GLM-5.3 para encontrar e explorar vulnerabilidades em softwares com uma facilidade preocupante. Os testes da Anthropic mostraram que o modelo pode identificar falhas não catalogadas em navegadores e até desenvolver ataques que encadeiam vulnerabilidades conhecidas, como o CVE-2026-11645 no Chrome, em poucas horas e com custo mínimo, validando as preocupações levantadas na matéria do CEVIU de 25 de agosto de 2026 sobre a assimetria entre IA ofensiva e defensiva.

A cobertura anterior do CEVIU já alertava para a fragilidade das proteções em modelos de IA. Em 19 de agosto de 2026, noticiamos que a técnica de "abliteration" era capaz de remover o alinhamento de segurança em LLMs de código aberto em poucos minutos. Agora, a pesquisa da Anthropic não só confirma essa vulnerabilidade para o GLM-5.3, um modelo específico de alta capacidade, mas detalha que essa técnica garante 100% de sucesso em contornar suas salvaguardas. Além disso, a facilidade de criação de "jailbreaks" genéricos, como discutido em 4 de setembro de 2026, se manifesta aqui na forma de prompts enganosos que permitem ao GLM-5.3 ignorar suas recusas em até 92% dos casos.

A principal mudança é que não estamos mais falando de um risco hipotético. Com o GLM-5.3, a capacidade de gerar ataques cibernéticos de ponta a ponta, antes vista em modelos de acesso restrito como o Claude Mythos Preview, agora está disponível em um modelo open-weight com proteções comprovadamente fracas. Isso transforma um aviso em uma realidade iminente para a cibersegurança.

A chegada do GLM-5.3 representa um salto qualitativo nas ferramentas disponíveis para atores maliciosos. Ao contrário de modelos de fronteira com acesso controlado ou salvaguardas robustas, o GLM-5.3, por ser de código aberto e ter proteções facilmente anuláveis, democratiza o acesso a capacidades avançadas de ciberataque. Isso torna urgente que defensores cibernéticos também tenham acesso a ferramentas de IA igualmente poderosas, conforme a própria Anthropic está buscando com o Projeto Glasswing.

Esta situação destaca a necessidade crítica de testes de segurança independentes e rigorosos para modelos de IA. Sem avaliações de alta qualidade, desenvolvedores podem subestimar o impacto de liberar capacidades tão potentes ao público, como visto nas recentes falhas em modelos de IA da Anthropic e OpenAI, noticiadas em 24 de setembro de 2026. A corrida pela inovação em IA precisa ser acompanhada de uma corrida igualmente intensa pela segurança e responsabilidade.