Lançamento do Augustus: Ferramenta Open Source para Prompt Injection em LLMs

Augustus é um scanner de vulnerabilidades de LLMs open-source baseado em Go , projetado para testar modelos contra mais de 210 ataques adversários em 47 categorias. Isso inclui jailbreaks, prompt injection, exploits de codificação, extração de dados e manipulação de agentes. Distribuído como um único binário com suporte para 28 provedores de LLMs, a ferramenta foi inspirada no garak da NVIDIA, mas reimplementada em Go para execução mais rápida e zero dependências de runtime . Augustus apresenta uma arquitetura de pipeline com probes composíveis, transformações de buff (como codificação, paráfrase, poesia e tradução de idiomas de baixo recurso) e mais de 90 detectores, incluindo LLM-as-a-judge e HarmJudge . A ferramenta faz parte da campanha "The 12 Caesars" da Praetorian.