Experimentando a proposta de Cross-Origin Storage API no Transformers.js

A Cross-Origin Storage API (COS API) é uma proposta de padrão web ainda em estágio inicial, não implementada nativamente em nenhum navegador até hoje. Ela busca resolver um problema real e crescente no desenvolvimento de IA no navegador: a duplicação forçada de downloads e armazenamento de modelos e módulos WebAssembly (Wasm), como os usados pelo Transformers.js, por causa da partição de cache por origem. Esse isolamento, embora essencial para segurança e privacidade, faz com que dois sites diferentes que usem o mesmo modelo (ex.: Xenova/whisper-tiny.en) ou o mesmo runtime Wasm (ex.: ort-wasm-simd-threaded.asyncify.wasm) baixem e armazenem cópias idênticas, mesmo sendo byte a byte iguais. Em um exemplo documentado, isso gerou 177 MB de redundância apenas para um único modelo.

O mecanismo central da proposta é o uso de hashes criptográficos (SHA-256) como identificadores únicos dos arquivos, em vez de URLs ou origens. Isso permite que o navegador reconheça conteúdo idêntico independentemente de onde ele foi servido, seja do Hugging Face Hub, jsDelivr ou outro CDN. A proposta já tem experimentos concretos: o Transformers.js v4.2.0 inclui a flag env.experimental_useCrossOriginStorage = true, e extensões como a do Chrome para COS injetam um polyfill navigator.crossOriginStorage para testes locais. Projetos como WebLLM e Wllama também estão integrando a proposta.

Isso importa porque a IA no navegador está deixando de ser curiosidade técnica e virando realidade operacional, mas com custos ocultos. Cada download redundante de modelos pesados consome largura de banda do usuário, enche o armazenamento local (principalmente em dispositivos móveis), aumenta a latência de inicialização e eleva o consumo de energia. Para aplicações que dependem de múltiplos modelos (ex.: ASR + análise de sentimento), a ineficiência se multiplica. A COS API não elimina a partição de cache, ela a complementa com um mecanismo seguro de compartilhamento explícito, baseado em hash e controle de origem. Isso significa que os benefícios chegam sem comprometer os princípios de segurança que motivaram a partição em primeiro lugar.

Para desenvolvedores, a mudança é prática e imediata em ambiente de teste: basta habilitar a flag experimental no Transformers.js e instalar a extensão do Chrome. Não há alteração na forma como os modelos são chamados (ex.: pipeline('automatic-speech-recognition', 'Xenova/whisper-tiny.en')). O impacto real aparece no DevTools: menos requisições repetidas na aba Network, redução visível no tamanho do armazenamento na aba Application e tempos de carregamento mais consistentes entre diferentes origens. Ferramentas como o plugin vite-plugin-cross-origin-storage já reescrevem importações estáticas para usar o COS. Mas atenção: como não há suporte nativo ainda, produção exige fallback robusto para o cache tradicional, e a API pode sofrer mudanças antes de entrar nos navegadores.