CrabTrap: Um Proxy HTTP LLM-as-a-Judge para Proteger Agentes de IA em Produção

CrabTrap é um proxy HTTP/HTTPS de código aberto que intercepta cada requisição feita por um agente de IA e utiliza um LLM-as-a-judge para determinar se a requisição corresponde a uma política de tráfego permitido para aquele agente. Agentes precisam de credenciais reais, mas podem alucinar ações destrutivas ou sofrer prompt injection. Isso pode gerar consequências em ambientes de produção. CrabTrap introduz guardrails que representam um avanço significativo na segurança de agent harnesses em ambientes de produção.