Microsoft Lança RAMPART e Clarity em Código Aberto Para Proteger Agentes de IA Durante o Desenvolvimento

A Microsoft lançou duas ferramentas de código aberto para testar a segurança de agentes de IA durante o desenvolvimento. RAMPART (Risk Assessment and Measurement Platform for Agentic Red Teaming) é um framework Pytest-native para escrever testes adversariais e benignos de segurança, cobrindo categorias de dano como cross-prompt injection e exfiltração de dados. Já o Clarity é um "sounding board estruturado" que testa suposições de design antes da codificação. Enquanto o PyRIT da Microsoft foca na descoberta de black-box após a construção de um sistema, o RAMPART opera durante o desenvolvimento, e o Clarity captura a intenção do design, transformando descobertas de red teaming em ativos de engenharia reutilizáveis ao longo do ciclo de vida do agente.