Netflix simplifica batch compute com Kueue

A Netflix migrou sua plataforma de batch compute para o Kueue, sistema de enfileiramento e agendamento nativo do Kubernetes, substituindo o antigo Compute Managed Batch (CMB). A mudança foi feita sem impacto para os usuários finais, mantendo compatibilidade total com a API existente. Internamente, a arquitetura evoluiu: tenants internos viraram Cohorts, e leaf tenants foram mapeados para ClusterQueues e LocalQueues. O Kueue agora gerencia filas, prioridades e alocação justa de recursos em múltiplos clusters Titus, aproveitando primitivas nativas como v1.Pod e batch/v1.Job.

Um ponto técnico crucial foi a adoção de preemption baseado em fair sharing. Enquanto o CMB só aplicava divisão justa na admissão, e não podia interromper jobs já rodando , , o Kueue permite que workloads de baixa prioridade sejam preemptados quando há demanda por capacidade reservada ou por cargas mais críticas. Isso aumentou diretamente a utilização média dos recursos, especialmente em reservas ociosas, que agora podem ser emprestadas com garantia de recuperação sob demanda.

Essa migração mostra como grandes empresas estão substituindo sistemas proprietários por componentes do ecossistema Kubernetes, reduzindo custo operacional e acelerando inovação. Ao adotar o Kueue, a Netflix passa a ter acesso imediato a novas funcionalidades da comunidade, como all-or-nothing scheduling e topology-aware placement, sem precisar desenvolvê-las do zero. Além disso, o modelo de fair sharing com preemption melhora a eficiência do uso de infraestrutura, um ganho direto em custos e desempenho para pipelines de dados e treinamento de modelos, que dependem fortemente de execução em lote escalável.