Voltar
Como a Salesforce otimiza eficientemente as cargas de trabalho Kubernetes em escala no Amazon EKS

Salesforce economiza US$ 5 milhões otimizando Kubernetes no Amazon EKS com autoscaling híbrido

Aprofundamento CEVIU

Aprofundamento

A Salesforce conseguiu uma economia de mais de US$ 5 milhões ao otimizar o uso do Kubernetes no Amazon EKS, combinando autoscaling vertical (VPA) e horizontal (HPA). A estratégia, implementada em uma frota de mais de 1.400 clusters Amazon EKS (alguns com até 2.500 nós e cerca de 1.000 workloads), visa resolver o problema de alocação de recursos que levava a custos desnecessários e incidentes de produção. O VPA ajusta dinamicamente as requisições de CPU e memória, ideal para workloads que se beneficiam do aumento de recursos por pod, como o istiod do Istio. O HPA, por sua vez, gerencia o número de réplicas com base em métricas específicas, como o número de conexões de proxy, para workloads que escalam horizontalmente. A chave do sucesso foi garantir que VPA e HPA atuassem em métricas independentes, evitando conflitos de escalonamento.

A empresa também migrou do tradicional Cluster Autoscaler para o Karpenter, buscando otimizar ainda mais o provisionamento de recursos de compute. Para garantir a segurança e a estabilidade da implementação em produção, a Salesforce adotou um processo rigoroso de CI/CD, rollouts faseados, ferramentas de rollback, testes funcionais e de desempenho. Entre as salvaguardas operacionais, estão o uso do modo "Off" (somente leitura) para o VPA na fase inicial, a configuração de RequestsOnly para o VPA (garantindo que ele ajuste apenas as requisições, deixando os limites inalterados) e a definição de limites máximos para o VPA (maxAllowed) para evitar pods pendentes e não agendáveis.

O que mudou

A Salesforce, que já se dedicava à otimização de custos e desempenho em larga escala, como visto em 12 de outubro de 2026, quando otimizou o Apache Spark para economizar 31% nos custos de compute, agora estende essa estratégia para seu ambiente Kubernetes. A abordagem atual com VPA e HPA no Amazon EKS é uma evolução. Enquanto em 17 de junho de 2026, o CEVIU noticiou que o EKS Auto Mode da AWS com Karpenter simplifica a operação, o presente avanço da Salesforce detalha uma implementação prática e complexa de autoscaling híbrido (VPA + HPA) que gera milhões em economia, complementando o provisionamento automático de nós do Karpenter com o ajuste fino dos recursos de pods e réplicas.

Por que isso importa

Para engenheiros DevOps e de plataforma que operam frotas de Kubernetes em escala, a experiência da Salesforce oferece um playbook valioso. A combinação de VPA e HPA, configurada para atuar em dimensões de métricas independentes, demonstra ser uma solução eficaz para o "right-sizing" contínuo de workloads, evitando tanto o superprovisionamento (e desperdício de custo) quanto o subprovisionamento (e riscos de incidentes de produção). A economia de US$ 5 milhões reforça o impacto financeiro direto de uma estratégia de autoscaling bem arquitetada. Além disso, as lições aprendidas sobre rollouts faseados, guardrails e a importância de testar e monitorar exaustivamente fornecem um modelo para mitigar riscos na implementação de sistemas de escalabilidade dinâmica.

Linha do tempo

  1. EKS Auto Mode da AWS e Istio Ambient Mesh: sinergia que simplifica segurança e operação em Kubernetes

  2. Salesforce Otimiza Apache Spark e Reduz Custos de Compute em 31%

  3. Salesforce economiza US$ 5 milhões otimizando Kubernetes no Amazon EKS com autoscaling híbrido

Perguntas frequentes

O que é autoscaling híbrido (VPA + HPA) no Kubernetes?

Autoscaling híbrido combina o Vertical Pod Autoscaler (VPA), que ajusta CPU e memória de um pod, com o Horizontal Pod Autoscaler (HPA), que altera o número de réplicas de um workload. A Salesforce utiliza essa combinação para otimizar recursos e gerenciar cargas de trabalho em seu ambiente Amazon EKS.

Como VPA e HPA podem atuar juntos sem conflito?

A chave é configurar VPA e HPA para escalar em métricas independentes. Por exemplo, o VPA pode ajustar CPU e memória, enquanto o HPA escala o número de réplicas com base em métricas de negócio, como o número de conexões ativas, evitando que ambos respondam ao mesmo sinal de demanda de recursos.

Quais foram as principais salvaguardas operacionais adotadas pela Salesforce?

A Salesforce implementou rollouts faseados, ferramentas de rollback, testes funcionais e de desempenho, e usou o VPA em modo "Off" inicial para monitoramento. Também configurou o VPA para gerenciar apenas requisições (RequestsOnly) e definiu limites máximos (maxAllowed) para evitar que pods ficassem irrecuperavelmente pendentes.

Por que a Salesforce não recomenda usar VPA para ajustar limites de recursos?

A empresa descobriu que, ao confiar na proporção request-to-limit, o VPA não conseguia ajustar os limites rapidamente o suficiente durante picos de carga. Isso poderia levar a throttling ou terminação de pods. Por isso, a recomendação é que o VPA gerencie apenas as requisições (RequestsOnly).

Fontes

Avalie este artigo:
Categoria
CEVIU DevOps
Publicado
18 de novembro de 2026
Editoria
CEVIU DevOps

Quer receber mais sobre CEVIU DevOps?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser