Microsoft alerta: agentes de IA que agem, não só leem, exigem proteção reforçada contra envenenamento de metadados

Agentes de IA corporativos estão migrando da análise de dados para a execução de ações em sistemas de negócios. Isso acontece através do Model Context Protocol (MCP), que integra ferramentas e serviços. Um risco sério surge quando os metadados dessas ferramentas são manipulados. Por exemplo, instruções maliciosas podem ser inseridas discretamente nas descrições de servidores MCP. Essas instruções podem desviar um agente de IA para coletar dados confidenciais e exfiltrá-los para um atacante. O problema não é uma falha no Copilot ou no agente em si, mas na fronteira de confiança entre os sistemas, onde o MCP mistura instruções com dados, tornando a alteração dos metadados tão eficaz quanto modificar o prompt do sistema.

A preocupação com a segurança de agentes de IA não é nova, mas a Microsoft agora aponta para uma evolução crítica: agentes de IA que antes apenas "lêem" informações, agora "agem" dentro dos sistemas corporativos. Anteriormente, discussões do CEVIU detalhavam prompt injections que influenciavam a saída de sumários ou a complexidade do gerenciamento de identidade. Agora, o foco migra para o controle de execução, onde o envenenamento via MCP permite que agentes realizem ações não autorizadas (como exfiltração de dados) sem que o usuário perceba. A ameaça não se limita mais a manipular a percepção da IA, mas sim a controlar suas ações diretas.

A segurança dos agentes de IA é uma questão urgente para empresas, pois a proliferação do MCP e a automação de processos críticos aumentam a superfície de ataque. Vulnerabilidades em servidores MCP podem ser exploradas para roubo de dados, fraude ou acesso não autorizado, sem acionar alertas padrão, já que as ações do agente podem parecer legítimas. A adoção de IA na camada de processos de negócios exige uma reavaliação das políticas de segurança, concentrando-se não apenas no acesso de usuários, mas também na governança do comportamento e das integrações dos agentes.