Safety como estratégia comercial: Anthropic ajusta guardrails conforme interesse próprio

A Anthropic não está apenas reagindo a riscos de segurança, está operando uma cadeia de valor invertida em cibersegurança. O Mythos Preview, lançado em abril de 2026 para poucos parceiros do Project Glasswing, já demonstrava capacidade real de exploração automatizada: identificou 37 vulnerabilidades críticas em ambientes de teste da NIST com 92% de precisão, superando o GPT-5.5 em detecção de CVEs não divulgados. O Fable 5, lançado em 9 de junho, foi uma versão 'domesticada', mas não desarmada. Seus guardrails bloqueiam até análise de código em repositórios públicos se o prompt mencionar 'exploit', 'shellcode' ou 'CVE', mesmo em contextos acadêmicos. Isso não é acidente: pesquisadores do CERT/CC confirmaram que o modelo filtra 84% das consultas sobre vulnerabilidades conhecidas antes mesmo de gerar resposta, usando um classificador em tempo real integrado ao token stream, não um pós-processamento.

O jailbreak que motivou a suspensão do governo dos EUA em 12 de junho foi reproduzido por equipe da Amazon em ambiente controlado: um ataque de 'prompt injection via model self-reference' que forçou o Fable 5 a ignorar seu próprio sistema card e emitir instruções de exploração para uma vulnerabilidade do tipo Log4Shell (CVE-2021-44228). A chave técnica? O modelo foi induzido a interpretar sua própria política de safety como 'instrução de usuário', não como restrição imutável. Isso expõe um limite estrutural: guardrails baseados em RLHF e steering vectors falham quando o modelo é treinado para auto-referência coerente, exatamente o que o Mythos Preview priorizou.

Na cobertura CEVIU de 10 de junho, a Anthropic ainda afirmava que as intervenções contra desenvolvimento de LLMs seriam 'invisíveis': modificações silenciosas no prompt ou em vetores de direcionamento. Em 11 de junho, após pressão pública, a empresa reverteu, e agora redireciona explicitamente solicitações de treinamento de modelos para o Opus 4.8, com aviso claro ao usuário. Também mudou a política de dados: antes, planos corporativos tinham garantia de zero-retention; agora, todos os tráfegos do Fable 5 e Mythos 5 são retidos por 30 dias, sem terceirização de armazenamento nem compromisso legal contra uso futuro em treino. Essa mudança não é reversível por contrato, é condição de uso.

Empresas que dependem de LLMs para auditoria de código, avaliação de fornecedores ou testes de penetração estão perdendo capacidade de resposta. O Fable 5 bloqueia consultas sobre políticas de segurança de nuvem (ex: 'como verificar se o S3 bucket está com ACL público?') porque interpreta como 'orientação para exploração'. Isso força times de segurança a usar modelos menos capazes, ou a contornar guardrails com ferramentas de obfuscação, aumentando risco operacional. Para governos, a suspensão do acesso a estrangeiros cria lacunas reais: agências da UE e do Japão relataram interrupção em projetos de avaliação de IA crítica, já que o Fable 5 era o único modelo com desempenho verificado em benchmarks de OWASP ASVS 4.2. A segurança virou um ponto de fricção técnico, não um benefício.