Dario Amodei rebate crítica sobre a postura da Anthropic em safety de IA

A fonte traz, na verdade, uma thread de Dario Amodei com dois blocos de posts anteriores, e não a resposta em si à crítica. No primeiro, de 10 de junho, ele anuncia o ensaio "Policy on the AI Exponential". Argumenta que a IA avança muito mais rápido do que o processo de políticas públicas foi desenhado para acompanhar. A Anthropic defendia só requisitos de transparência para IA de fronteira, porque os riscos ainda não estavam claros o bastante para regulação precisa. Amodei diz que isso não basta mais.

Ele passa a defender testes obrigatórios por terceiros em riscos de cibersegurança, biologia e autonomia, com poder de bloquear ou revogar o deploy de modelos de risco catastrófico. No segundo bloco, de 7 de abril, ele fala do Project Glasswing e do Mythos Preview, modelo que representa um salto grande em capacidades cibernéticas. A Anthropic não liberou o modelo em disponibilidade geral: deu acesso controlado antecipado a defensores, para achar e corrigir vulnerabilidades antes que modelos da classe Mythos se espalhem. Esse é o tipo de decisão com custo comercial que o resumo da notícia menciona.

A cobertura anterior mostra a mesma linha de posicionamento se acumulando. Em 15 de setembro de 2026, o CEVIU noticiou "CEO da Anthropic alerta para riscos e propõe desacelerar desenvolvimento de IA", com a defesa de avaliadores independentes com acesso privilegiado a sistemas de IA para testar salvaguardas, documentar incidentes e monitorar o treinamento. Na mesma data, saiu "CEO da Anthropic, Dario Amodei, defende cautela no avanço da IA de fronteira". Em 16 de setembro de 2026, o CEVIU publicou que Mark Zuckerberg rebateu pedidos de desaceleração, o que mostra o debate polarizado. Agora a resposta de Amodei à crítica lista ações concretas, e não só propostas de política.

Para quem opera ou contrata modelos de fronteira, a leitura é que a Anthropic tenta transformar safety em argumento verificável: restrição de acesso a um modelo (Mythos Preview) e defesa de teste obrigatório externo. Isso pode afetar disponibilidade e prazos de acesso a modelos novos. Se a proposta de bloqueio de deploy virar regra, o custo de conformidade tende a pesar em todos os laboratórios, e o argumento contrário, como o de Zuckerberg, segue em disputa.