Nova Técnica GRAM Promete Controlar Conhecimento de Duplo Uso em Modelos de IA

A técnica GRAM (Gradient-Routed Auxiliary Modules) da Anthropic representa um avanço significativo no controle de modelos de IA, especialmente para desenvolvedores preocupados com a segurança e a ética. O cerne da abordagem é a modularidade. Em vez de treinar modelos separados para diferentes capacidades ou usar filtros de dados brutos, o GRAM injeta neurônios auxiliares em cada camada de um Transformer. Esses neurônios são agrupados em módulos, cada um dedicado a uma categoria específica de conhecimento de duplo uso, como cibersegurança ou virologia.

Quando o modelo GRAM aprende com dados de uma categoria de duplo uso, apenas o módulo correspondente aprende, enquanto os pesos gerais da rede neural são temporariamente congelados. Isso garante que o conhecimento específico se acumule apenas onde é desejado. Depois do treinamento, um módulo pode ser desativado ou removido, eliminando aquela capacidade sem degradar a performance geral do modelo. Este método se mostra resistente a tentativas de reativar o conhecimento suprimido e a escalabilidade é promissora: quanto maior o modelo, mais difícil e custoso se torna tentar burlar as proteções.

A grande virada do GRAM em relação a trabalhos anteriores é sua eficiência no treinamento. Antes, para gerenciar o conhecimento de duplo uso, a Anthropic explorava filtrar informações na pré-treinamento ou confinar o conhecimento a uma "fatia removível" dos pesos do modelo. Contudo, essas abordagens eram inflexíveis; exigiam treinar modelos inteiros diferentes para cada conjunto de capacidades desejado.

O GRAM entrega a capacidade de configurar múltiplas versões de um modelo, com diferentes conjuntos de habilidades de duplo uso ativadas ou desativadas, a partir de um único treinamento. Isso transforma a gestão de conhecimento sensível, tornando-a muito mais granular, configurável e escalável, minimizando o custo computacional e o esforço de desenvolvimento associado.

O controle do conhecimento de duplo uso é crucial para o futuro da IA responsável. Notícias como a "Nova Técnica SkillCloak Burla Scanners Estáticos em Agentes de IA Maliciosos", publicada pelo CEVIU em 7 de julho de 2026, ou as "Ameaças em Registros de Skills para Agentes de IA" (9 de julho de 2026), mostram a facilidade com que agentes maliciosos podem explorar as capacidades da IA. Embora o Google tenha divulgado um roadmap para segurança de agentes de IA em 19 de junho de 2026, a maioria das salvaguardas atuais foca em filtrar saídas ou refutar pedidos, sem tocar no conhecimento subjacente do modelo.

O GRAM oferece um caminho para uma defesa mais profunda, atuando diretamente na arquitetura do modelo para controlar o que a IA "sabe" e como esse conhecimento pode ser acessado. Para desenvolvedores, isso significa a possibilidade de criar sistemas mais seguros e éticos, com controle cirúrgico sobre capacidades que, se mal utilizadas, poderiam causar danos significativos. É um passo em direção a um desenvolvimento de IA onde a segurança é intrínseca, não apenas uma camada superficial.