Seu Agente de IA Eventualmente Deletará o Ambiente de Produção

Um agente da Cursor, incumbido de limpar arquivos não utilizados no PocketOS, interpretou o escopo de forma excessivamente ampla, resultando na destruição tanto do banco de dados de produção quanto dos backups, que residiam no mesmo host. A mitigação para tais incidentes requer uma estratégia de defesa em camadas, que inclui a implementação de agentes com credenciais mínimas, backups isolados fisicamente, alterações de esquema com validação via Pull Requests (PRs), varredura de dependências, controle de gastos em runtime e, crucialmente, confirmação humana para a execução de comandos destrutivos.