Meta apresenta nova geração do Andromeda, seu retrieval de anúncios, com ganho de 100x em throughput sobre 2024

O Andromeda é o sistema de retrieval de anúncios da Meta, a primeira etapa do pipeline de recomendação. Ele reduz, em milissegundos, um pool enorme de anúncios elegíveis a poucos candidatos fortes, que o ranking (mais caro) avalia depois. A novidade é trazer desempenho próximo ao do ranking para a escala do retrieval, algo que antes custava caro demais.

O post atribui o ganho a três frentes. Na arquitetura, uma mixture-of-experts de retrieval: vários user towers como especialistas e uma camada de interação com gating por atenção. Segundo a Meta, isso corta cerca de 300x os FLOPs de inferência frente ao modelo de 2024. No sistema, um único kernel de GPU funde modelo e lógica de sistema por par usuário-anúncio, e os resultados intermediários ficam em registradores e memória compartilhada, sem passar pela HBM. O kernel passa de 10 bilhões de anúncios por segundo em um GH200. Na rede, index matching, scoring e top-K rodam na mesma GPU, o que reduz o tráfego de rede em cerca de 100x.

A cobertura anterior do CEVIU mostra que a Meta vinha atacando eficiência de recomendação de anúncios por várias frentes. Em 4 de abril de 2026, o CEVIU noticiou "Meta destaca melhorias em seu programa de entrega de anúncios", sobre o Adaptive Ranking Model, que entrega anúncios mais relevantes com menos capacidade computacional. Em 1 de junho de 2026, "A Meta unifica retrieval de recomendações em um único modelo PyTorch" tratou do SilverTorch, outro sistema de retrieval, para feeds e Reels. Em 21 de outubro de 2026, "Meta troca IDs por tokens semânticos e turbina a recomendação de anúncios com GenRecs" cobriu a camada de recomendação generativa. O Andromeda de agora é o mesmo tema, mas na etapa de retrieval de anúncios, em que o post de 28 de outubro de 2026 traz 100x de throughput sobre a versão de 2024.

Para quem opera sistemas de recomendação ou busca em escala, o recado é de arquitetura: o gargalo deixou de ser aritmética e virou largura de banda de memória e rede. Fusão de kernels e co-locação na mesma GPU pesam mais que um modelo maior. Vale ler isso como tendência de design, já que os números vêm da própria Meta, em produção na infraestrutura dela e com GPUs NVIDIA.