Anthropic Apresenta Mecanismo de Desativação para Conhecimento de Duplo Uso em Modelos de IA

A Anthropic trouxe uma novidade importante para a segurança de modelos de IA com o GRAM (Gradient-Routed Auxiliary Modules). A ideia central é dar aos modelos compartimentos dedicados e removíveis para cada categoria de conhecimento de duplo uso, como cibersegurança ou virologia. Em vez de treinar vários modelos caros com diferentes conjuntos de dados filtrados, o GRAM permite que um único treinamento crie um modelo com a flexibilidade de ativar ou desativar conhecimentos específicos.

Funciona assim: o modelo, que se baseia na arquitetura Transformer, tem neurônios extras divididos em módulos por categoria. Quando ele encontra texto geral, aprende normalmente. Mas, ao processar dados de duplo uso, apenas o módulo correspondente aprende com aquele texto, enquanto o restante das partes do modelo permanece congelado. Isso concentra o conhecimento sensível nos módulos, permitindo que sejam removidos após o treinamento, eliminando a capacidade indesejada sem comprometer a performance geral do modelo. A pesquisa, ainda em estágio inicial, mostrou que o GRAM se equipara à filtragem de dados e que sua eficácia aumenta com o tamanho do modelo, tornando mais difícil e caro para um atacante tentar reverter a remoção de conhecimento.

Em sua busca por segurança, a Anthropic já havia explorado métodos como a filtragem de informações de duplo uso durante o pré-treinamento e a segregação de conhecimento em fatias removíveis dentro do modelo. No entanto, essas abordagens eram limitadas, gerando um modelo com capacidades fixas. Se fosse preciso uma versão que pudesse discutir virologia e outra que não, seriam necessários dois treinamentos caríssimos, como noticiado em 16 de junho de 2026 sobre as restrições de segurança que viraram vantagem estratégica.

O GRAM representa um avanço significativo. Ele oferece a vantagem de ter múltiplos modelos filtrados, mas ao custo de treinar apenas um. Em vez de “filtrar” na fonte ou em fatias menos cirúrgicas, ele cria módulos que podem ser desativados seletivamente após o treinamento, conforme a notícia de 5 de julho de 2026 sobre a adoção de filtros de segurança cibernética no Fable 5. É uma evolução de salvaguardas que antes focavam em recusar solicitações perigosas, para um controle fundamental sobre o que o modelo realmente sabe.

Controlar o conhecimento de duplo uso é um desafio crítico para a IA, especialmente com a crescente capacidade dos modelos de ponta. O GRAM oferece uma solução para um problema central: como permitir que usuários confiáveis acessem capacidades importantes (como cibersegurança defensiva) sem abrir margem para uso malicioso. Ao permitir a remoção cirúrgica de conhecimento sem afetar o desempenho geral ou exigir o treinamento de múltiplos modelos, ele torna a implantação de IA avançada muito mais segura e custo-efetiva.

Essa abordagem é fundamental para a responsabilidade no desenvolvimento de IA. Ela assegura que, mesmo que um atacante consiga contornar as defesas de “recusa”, o conhecimento subjacente perigoso simplesmente não estará lá, oferecendo uma camada de proteção mais robusta. Isso é essencial para manter a confiança e o uso ético de tecnologias de IA cada vez mais potentes.