Voltar
GKE dynamic slicing para TPUs chega à disponibilidade geral, com mais resiliência e eficiência

GKE dynamic slicing para TPUs chega à disponibilidade geral

Aprofundamento CEVIU

Aprofundamento

O dynamic slicing do GKE separa a formação lógica de slices de TPU do provisionamento físico de nodepools. Antes, cada topologia de slice exigia um nodepool fixo, e mudar a necessidade do workload significava apagar e recriar o pool. O acoplamento também criava domínios de falha grandes: uma falha de hardware derrubava o slice inteiro e atrasava a recuperação.

O modelo parte de uma conversão única da capacidade em nodepools uniformes de 16 VMs (cubos 4x4x4). No super-slicing, o OCS (optical circuit switching) costura vários cubos na hora do agendamento. Um slice 4x4x16, por exemplo, usa quatro cubos Ironwood, com 64 VMs e 256 chips. No sub-slicing, um cubo é dividido em slices menores e isolados, que rodam jobs diferentes ao mesmo tempo. Ao fim do job, o slice é desfeito e as partições voltam ao pool.

Há ainda o nodepool de provisionamento incremental, que sobe com os hosts saudáveis mesmo se parte do cubo estiver com defeito e adiciona os nós pendentes quando se recuperam. No uso, você habilita o slice controller no cluster, configura o scheduler do GKE (ou o seu) e marca o workload com anotações. O controller cria um Slice Custom Resource e o workload é agendado nele. Em falhas, o super-slice troca o cubo ruim em um a dois minutos, e o sub-slice se reforma em partições saudáveis. O recurso vale em todas as regiões com TPU, mas só no modo TPU All Capacity sob reserva.

O que mudou

Em 9 de novembro de 2026, o CEVIU noticiou "GKE dynamic slicing chega à disponibilidade geral e promete TPUs mais resilientes e eficientes", sobre o mesmo anúncio de disponibilidade geral. Esta matéria acrescenta o detalhamento operacional: a conversão única em cubos de 16 VMs, o provisionamento incremental, o fluxo com slice controller e anotações, e a restrição ao modo All Capacity sob reserva.

Por que isso importa

Para quem opera plataforma de IA em TPU, a leitura é que o custo de mudar de topologia deixa de ser um ciclo de delete e create de nodepool. Times com muitos jobs pequenos de inferência ou experimentação tendem a ganhar mais com sub-slicing e empacotamento multi-tenant. A exigência de reserva em All Capacity é um ponto a checar antes de planejar a migração.

Linha do tempo

  1. CEVIU noticia a disponibilidade geral do dynamic slicing no GKE para TPUs.

  2. Detalhamento técnico do recurso: super-slicing, sub-slicing, provisionamento incremental e restrições de uso.

Perguntas frequentes

O que é o dynamic slicing do GKE para TPUs?

É um recurso que separa a formação lógica de slices de TPU do provisionamento físico de nodepools. Em vez de um nodepool fixo por topologia, o GKE monta slices sob demanda a partir de cubos de 16 VMs pré-provisionados. Ele tem duas formas: super-slicing e sub-slicing.

Qual a diferença entre super-slicing e sub-slicing?

O super-slicing usa OCS para conectar vários cubos e formar slices maiores que um cubo. O sub-slicing divide um único cubo em slices menores e isolados, para vários jobs concorrentes. O segundo exige o nodepool de provisionamento incremental.

Quais ganhos de desempenho o Google informa?

O Google fala em startup de workloads até 5x mais rápido e recuperação até 4,5x mais rápida, em comparação com criar um nodepool estático por slice. A recuperação isola a falha em um cubo e troca o cubo ruim em um a dois minutos.

Quais são as restrições de uso?

O recurso está disponível em todas as regiões com TPU, mas só é suportado no modo TPU All Capacity sob reserva. Também é preciso fazer a conversão única da capacidade em nodepools de 16 VMs e habilitar o slice controller no cluster.

Fontes

Avalie este artigo:
Categoria
CEVIU DevOps
Publicado
11 de novembro de 2026
Editoria
CEVIU DevOps

Quer receber mais sobre CEVIU DevOps?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser