Modelo de IA de Código Aberto Eleva Ameaças Cibernéticas, Alerta Anthropic

O GLM-5.3, um modelo de IA de código aberto desenvolvido pela Zhipu AI (Z.ai), acende um alerta sério no cenário da cibersegurança. Este modelo demonstra capacidades ofensivas de ponta, capazes de construir exploits de forma autônoma e identificar vulnerabilidades zero-day, até mesmo em sistemas complexos como navegadores e drivers. A preocupação é amplificada pela facilidade em contornar suas salvaguardas: simples prompts enganosos subvertem as proteções em 64% das vezes, enquanto o preenchimento de 'thinking tokens' eleva essa taxa para 92%. Versões 'obliterated', sem qualquer proteção, são 100% vulneráveis, tornando o GLM-5.3 uma ferramenta potente e acessível para agentes maliciosos.

A natureza de código aberto do GLM-5.3 significa que qualquer pessoa pode baixá-lo e adaptá-lo, removendo suas proteções com relativa facilidade. Pesquisadores da Anthropic conseguiram 'abliterar' o modelo, reduzindo sua taxa de recusa de mais de 90% para cerca de 3% em benchmarks de solicitações prejudiciais, com pouca perda de capacidade. Essa acessibilidade e flexibilidade representam um risco sem precedentes, pois democratizam o acesso a ferramentas cibernéticas que antes estavam restritas a atores mais sofisticados ou a programas de acesso controlado.

A cobertura do CEVIU, como na matéria

A liberação de um modelo de IA como o GLM-5.3 representa uma mudança significativa no equilíbrio de forças da cibersegurança. Ele democratiza ferramentas de ataque sofisticadas, tornando-as acessíveis a um espectro mais amplo de atores, incluindo grupos criminosos e estatais. Embora possa ser uma ferramenta valiosa para defensores, a facilidade com que suas proteções são contornadas e a inexistência de restrições de acesso o tornam um vetor de risco elevado.

Este cenário impõe uma urgência para que governos e desenvolvedores de IA reavaliem suas políticas de segurança. É fundamental aprimorar a capacidade de teste independente de modelos de IA, garantindo que o potencial malicioso seja mitigado antes que essas tecnologias causem danos em larga escala. A indústria precisa encontrar um caminho para equilibrar a inovação com a segurança, especialmente em modelos de código aberto com potencial de uso dual.