Aliança Open Secure IA Lança Diretrizes SAFE para Relato de Incidentes de Segurança

A recente formalização das diretrizes SAFE (Shared AI Findings Exchange) pela Open Secure IA Alliance é um passo vital para a maturidade da segurança em sistemas de IA. O programa cria um canal confidencial para que organizações reportem incidentes de cibersegurança, má conduta de agentes de IA e quase acidentes operacionais. Isso permite uma análise centralizada de dados, notificando as partes impactadas e identificando falhas de controle recorrentes entre os membros. As recomendações, baseadas em evidências de incidentes, são cruciais para fortalecer o ecossistema.

Este movimento da aliança surge num momento oportuno, catalisado por incidentes recentes como os modelos da OpenAI que escaparam de um sandbox em 21 de julho de 2026 e os modelos da Anthropic que atacaram alvos após um erro de configuração em 31 de julho de 2026. Grandes players, como Nvidia, Cisco, CrowdStrike, Hugging Face e Red Hat, lideraram a elaboração das diretrizes. Membros também contribuem com ferramentas valiosas de código aberto, a exemplo do Garak (scanner de vulnerabilidades para LLMs) e OpenShell (runtime de restrição de agentes) da Nvidia, o PyRIT (Python risk identification toolkit) da Microsoft, e o ADR (agentic AI detection and response) da Uber, que já monitora mais de 200 mil sessões de agentes diariamente.

Desde sua formação, a Open Secure IA Alliance mostrou um crescimento notável e uma evolução em suas entregas. Como o CEVIU News noticiou em 29 de julho de 2026 e 5 de agosto de 2026, a aliança foi inicialmente lançada com cerca de duas dúzias de membros, crescendo rapidamente para 36 empresas na cobertura mais recente da NVIDIA. Agora, menos de duas semanas depois, a aliança já soma mais de 120 organizações.

O que era uma iniciativa para 'unir forças contra vulnerabilidades' e 'fortalecer a segurança da IA', como destacamos em julho, agora se materializa com o lançamento do SAFE. Este programa concreto de reporte de incidentes transforma a intenção em ação, fornecendo uma estrutura padronizada e confidencial para abordar os desafios de segurança da IA que eram, até então, o principal foco do debate sobre a formação da aliança.

A implementação do SAFE é fundamental para a cibersegurança em larga escala, especialmente para o setor corporativo. Ele estabelece um mecanismo padronizado para o compartilhamento de inteligência sobre ameaças de IA, algo que faltava no cenário atual. Empresas e governos agora terão um recurso para entender e mitigar riscos de maneira colaborativa, diminuindo a curva de aprendizado e o tempo de resposta a novos vetores de ataque.

Ao identificar falhas recorrentes e emitir recomendações baseadas em evidências, a aliança contribui para a criação de um