MiMo UltraSpeed: novo modelo da Xiaomi processa 1.000 tokens por segundo e deixa ChatGPT e Claude para trás

A Xiaomi não lançou só um modelo mais rápido. Ela co-desenhou um sistema completo com a TileRT, onde o MiMo-V2.5-Pro-UltraSpeed (1 trilhão de parâmetros, MoE) é apenas a ponta visível de uma cadeia técnica que inclui quantização FP4 seletiva em Experts, decodificação especulativa DFlash, que propõe blocos inteiros de tokens em paralelo, não um por um, e o runtime TileRT, um motor baseado em 'tiles' e compilador que reescala dinamicamente computação, I/O e comunicação. Isso explica como atinge 1.000–1.200 t/s em 8 GPUs padrão, sem silício personalizado: é otimização de baixo nível aplicada com precisão cirúrgica, não força bruta. O modelo anterior, MiMo-V2-Flash (dezembro/2025), fazia 150 t/s, ou seja, o salto não é incremental, mas arquitetural.

O contexto recente mostra que essa corrida por velocidade não é isolada: o Kimi K2.6 da Cerebras também bateu 1.000 t/s em maio, mas usando o Wafer Scale Engine, hardware dedicado; o Mercury 2 da Inception Labs usou difusão para chegar lá, com trade-offs em raciocínio; já o MiMo-V2.5-Pro-UltraSpeed faz isso em hardware comercial, com qualidade mantida graças ao QAT (quantização consciente do treinamento) e à granularidade da aplicação do FP4, só nos Experts, enquanto outras camadas ficam em FP8. É a primeira vez que um modelo dessa escala rompe a barreira dos 1.000 t/s sem sacrificar compatibilidade com infraestrutura existente.

O MiMo-V2.5-Pro-UltraSpeed representa uma evolução concreta em relação ao MiMo-V2-Flash (dezembro/2025): subiu de 150 para 1.000+ tokens por segundo, incorporou DFlash (técnica inédita na linha MiMo), integrou o runtime TileRT como parte do stack nativo (antes era opcional) e passou de um modelo otimizado para latência média para um focado em throughput extremo com garantia de qualidade via QAT. Também é a primeira versão da família a usar quantização FP4 seletiva em MoE, algo que só aparecia em rumores sobre testes internos da Xiaomi em abril, agora confirmado e produtivo.

Velocidade de inferência não é só sobre respostas rápidas. Modelos que geram mais de 1.000 tokens por segundo tornam viável rodar agentes autônomos com múltiplas etapas de raciocínio em tempo real, como análise de documentos legais completos, geração simultânea de código + testes + documentação, ou orquestração de workflows industriais com feedback contínuo. Isso muda a economia de uso: o custo por token cai drasticamente mesmo com preço 3× maior, porque a saída por dólar sobe 10×. E, ao fazer isso em hardware padrão, a Xiaomi reduz a dependência de aceleradores exóticos, abrindo espaço para empresas menores adotarem modelos frontier sem ter que reescrever toda sua infraestrutura.