Modelo de Segurança de Responsabilidade Compartilhada da Anthropic para Agentes de IA, Explicado

O framework da Anthropic divide a segurança de agentes de IA em quatro camadas: Model, Harness, Tools e Environment. As organizações são responsáveis por três dessas camadas; contudo, a supervisão humana está falhando, com 93% dos prompts sendo aprovados automaticamente. Equipes de segurança precisam transitar de um modelo de aprovação por ação para um monitoramento contínuo de políticas, visando mitigar riscos de supply chain e aqueles específicos dos agentes.