Google lança framework para auditar machine unlearning com maior rigor técnico

O Google Research não lançou só mais um teste estatístico: os Testes de Kernel de f-Divergência Regularizada são uma mudança de paradigma na auditoria de machine unlearning. Eles substituem a comparação direta entre dois modelos (o original e o 'desaprendido') por uma verificação black-box contra uma distribuição de referência ideal, ou seja, o que um modelo *deveria* produzir se nunca tivesse visto os dados removidos. Isso resolve um problema crônico dos testes anteriores, como o MMD: falsos positivos quando o modelo é retreinado com batch sizes diferentes. A novidade está no uso de um teste relativo de três amostras e na seleção automática da f-divergência mais sensível ao vazamento, com foco na divergência Hockey-Stick, que mede diretamente o risco de violação de privacidade diferencial.

A implementação já reduz custos experimentais drasticamente: detecta falhas com alguns milhares de amostras no mecanismo SVT3, enquanto ferramentas anteriores como o DP-Auditorium exigiam milhões. Mas há limites reais: as validações publicadas até agora usam benchmarks sintéticos e dados de física de alta energia, não LLMs em produção. E pesquisas anteriores (arXiv:2510.16629) já mostravam que 'esquecer' é ilusório, mesmo após unlearning superficial, modelos mantêm impressões residuais que podem ser extraídas por ataques avançados de prompt.

Em 2024, o Google lançou o DP-Auditorium, uma ferramenta de referência para auditoria de privacidade diferencial que exigia milhões de amostras e sofria com falsos alarmes. Agora, com os testes de f-Divergência Regularizada, o Google entrega um método mais eficiente, robusto e adaptável, especialmente para modelos grandes. Isso não é só evolução técnica: é resposta direta à pressão regulatória do EU AI Act e à LGPD, que exigem provas concretas de 'esquecimento', não apenas declarações de conformidade. O salto está na operacionalização: agora é viável auditar unlearning em escala realista, sem depender de retreino completo ou simulações inviáveis.

Para engenheiros de dados e arquitetos de IA, isso muda a forma como se projetam pipelines de governança. Um framework auditável significa que 'direito de ser esquecido' deixa de ser uma caixa-preta jurídica e vira um KPI técnico mensurável, com métricas, thresholds e trilhas de evidência. Isso impacta diretamente arquiteturas de analytics privado (como a zero-trust lançada em 1º/06), DLP avançado (disponível desde 4/06) e até sistemas de RAG com agentes (lançado em 8/06), onde dados removidos devem sumir de todos os níveis: embeddings, caches, logs e respostas geradas. Se o modelo não esquece, a governança inteira desmorona.