Google Lança ML Drift para Otimizar Inferência de IA em GPUs

O ML Drift do Google chega para resolver um desafio central na inferência de IA em dispositivos de borda: a fragmentação de hardware. Diferente dos datacenters, onde os aceleradores são homogêneos, o edge computing lida com uma vasta gama de GPUs, drivers e APIs. A inovação do ML Drift reside na virtualização de tensores, que desacopla a representação lógica dos dados da sua alocação física na GPU. Isso permite que um único template de shader funcione em diversas APIs gráficas (OpenCL, Metal, WebGPU, OpenGL ES), simplificando o desenvolvimento e garantindo portabilidade sem comprometer a performance. Essa abordagem é crucial para rodar modelos cada vez mais complexos, como os LLMs e redes neurais 3D, diretamente em celulares e outros dispositivos com recursos limitados.

A co-otimização com fabricantes de silício como Arm, Intel e Qualcomm é um ponto chave. O ML Drift foi desenvolvido para aproveitar ao máximo as arquiteturas de GPU existentes, garantindo que as otimizações de software se traduzam em eficiência energética e alta taxa de quadros. Para LLMs, o motor alterna dinamicamente os kernels e layouts de cache, usando um layout de KV cache alinhado a convoluções e quantização de ativação in-kernel. Essa técnica reduz o tráfego de memória, um gargalo comum em modelos de linguagem grandes, e alinha-se com a busca por modelos mais leves e eficientes para execução local, como o CEVIU News noticiou sobre o lançamento do Gemma 4 com QAT em junho de 2026.

O ML Drift representa uma evolução significativa em relação ao antigo delegado de GPU do TensorFlow Lite. Antes, os desenvolvedores precisavam manter códigos de shader específicos para cada backend gráfico (OpenGL, OpenCL, Metal), e o suporte a tensores era limitado a 4D, exigindo gambiarras para modelos mais complexos. O ML Drift unifica isso com a virtualização de tensores e introduz suporte nativo a tensores 5D, permitindo a execução direta de redes convolucionais 3D e modelos espaciotemporais. Essa modernização é fundamental para o cenário atual, onde modelos de IA generativa e multimodais exigem mais flexibilidade.

Em termos práticos, enquanto a cobertura anterior do CEVIU News, como em junho de 2026, mostrava o Google e a NVIDIA otimizando modelos como o Gemma e o DiffusionGemma para execução local com técnicas como QAT, o ML Drift entrega a infraestrutura de runtime de GPU para que esses modelos rodem de fato com desempenho máximo. Ele é a peça que permite que os avanços em modelos de IA e suas otimizações de quantização sejam plenamente aproveitados no hardware do usuário final, oferecendo uma fundação unificada para modelos clássicos e de próxima geração.

Para o ecossistema de desenvolvimento, o ML Drift simplifica a criação de experiências de IA em tempo real e interativas em diversas plataformas, desde efeitos de vídeo avançados até IA generativa. Ao abstrair as complexidades de hardware e APIs de baixo nível, desenvolvedores podem focar na lógica do modelo, sabendo que terão performance otimizada. Para o usuário final, isso se traduz em funcionalidades de IA mais rápidas e fluidas em seus dispositivos. Reduções de latência de até 40% em aplicativos como YouTube Shorts e ganhos de velocidade em edição de fotos no Google Fotos e Adobe Lightroom mostram o impacto direto na experiência do usuário.

Além disso, o lançamento como código aberto sob a licença Apache 2.0 incentiva a colaboração e a inovação na comunidade. Isso consolida a estratégia do Google de democratizar o acesso à IA de alto desempenho na borda, permitindo que mais desenvolvedores e empresas criem aplicações de IA que rodam eficientemente em milhões de dispositivos, impulsionando a próxima geração de aplicativos inteligentes.