O Sistema de Rate Limiting da Uber

A Uber evoluiu de implementações fragmentadas de rate limiting, com grande dependência de Redis, para um Global Rate Limiter (GRL) unificado e integrado à sua service mesh. Este sistema agora gerencia aproximadamente 80 milhões de RPCs por segundo em mais de 1.100 serviços.

O GRL adota uma arquitetura de três camadas, composta por clientes no data-plane para descarte probabilístico local, agregadores de zona para métricas, e controladores regionais/globais para decisões dinâmicas. Ele utiliza uma abordagem de soft-limiting "drop-by-ratio" em vez dos tradicionais hard token buckets, otimizando o controle de tráfego. ️