Similaridade de Cosseno: Por Que Não é um Medidor de Confiabilidade em Sistemas de IA

A similaridade de cosseno é uma ferramenta matemática amplamente usada em IA, por exemplo, em bancos de dados vetoriais para encontrar documentos semanticamente semelhantes. O problema é que, apesar de sua utilidade, ela não entende conceitos como veracidade, autoridade ou proveniência da informação. Para um modelo de embedding, "Receita foi de $8.3M" e "Receita foi de $24.7M" são quase idênticos, pois a estrutura da frase é a mesma. Essa limitação fundamental impede que a similaridade de cosseno seja uma métrica de segurança ou confiabilidade.

Isso abre brechas para ataques de envenenamento em sistemas de Recuperação Aumentada por Geração (RAG). Um atacante pode criar documentos com vocabulário específico da query e adicionar sinais de autoridade falsos, fazendo com que o documento malicioso seja recuperado antes de uma informação legítima. As defesas incluem verificações no momento da ingestão, que detectam documentos excessivamente próximos a conteúdos legítimos, mas com uma narrativa fabricada. Outra defesa crucial é o controle de acesso baseado em metadados, que impede que conteúdo não autorizado chegue ao contexto do modelo, garantindo que o filtro seja aplicado em todas as chamadas de recuperação.

O que era tratado como uma exposição de metadados, em caso de violação de um banco de dados vetorial, agora é reclassificado como um vazamento parcial de documentos sensíveis. Pesquisas recentes, como o trabalho com `ALGEN` (fevereiro de 2025) e `LAGO` (maio de 2025), mostraram que é muito mais fácil do que se pensava reconstruir textos originais a partir de seus embeddings, mesmo com pouquíssimos pares de dados. Isso significa que, se um atacante conseguir acesso aos seus vetores, ele pode recuperar grande parte da informação confidencial, transformando um risco 'baixo' em um risco 'alto' de violação de dados.

Além disso, a pesquisa sobre ataques de envenenamento em RAG também evoluiu. Anteriormente, o foco estava em otimizar a recuperação de documentos maliciosos. No entanto, estudos mais recentes, como o de Korn em maio de 2026, indicam que a "moldura" ou "framing" adversarial (como o conteúdo é apresentado para o modelo resolver contradições) é ainda mais eficaz para manipular as respostas da IA do que a simples recuperação. Isso muda o foco das defesas para a fase de geração, não apenas de recuperação.

A confiança em sistemas de IA, especialmente em contextos corporativos, depende da capacidade de garantir que as informações usadas são precisas e autorizadas. A falha da similaridade de cosseno em incorporar esses conceitos gera uma falsa sensação de segurança. Sem defesas adequadas, como validação na ingestão e controle de acesso rigoroso, os sistemas de IA podem ser facilmente enganados para apresentar dados falsos ou confidenciais, conforme já abordamos em matérias como "O Que Realmente É Necessário para Confiar na IA com Seus Dados", de 27 de março de 2026.

A reclassificação de um vazamento de banco de dados vetorial de 'metadados' para 'documento parcial' tem implicações sérias para a segurança e a conformidade. Empresas precisam ajustar seus planos de resposta a incidentes e avaliações de risco. Ignorar essa mudança é subestimar a exposição a vazamentos de dados sensíveis, que podem acarretar multas e danos à reputação, reforçando a mensagem da matéria de 19 de março de 2026 sobre a importância do contexto para a IA corporativa.