Impulsionando Agentes: Workers IA Agora Suporta Grandes Modelos, Iniciando com Kimi K2.5
Aprofundamento CEVIU
Aprofundamento
A Cloudflare não só hospedou o Kimi K2.5 na Workers AI, ela o otimizou para rodar 3× mais rápido na própria infraestrutura, com suporte nativo a Mixture-of-Experts (MoE) e execução eficiente de até 32 bilhões de parâmetros ativos por requisição. O modelo opera em quatro modos distintos: Instantâneo, Pensamento, Agente e Agent Swarm, este último coordenando até 100 agentes especializados em paralelo, acelerando fluxos de trabalho complexos em 4,5×. A janela de contexto de 256k tokens não é só um número: permite carregar bases de código inteiras, definições de ferramentas e histórico completo de sessões, essencial para agentes de revisão de segurança que processam 7 bilhões de tokens/dia sem fallback para APIs externas.
Além disso, a plataforma agora oferece pools de GPU dedicados, cache de prefixos com descontos progressivos (reduzindo TTFT e aumentando TPS) e uma API assíncrona redesenhada com sistema baseado em pull, ideal para varreduras de código em lote, onde a latência individual é menos crítica que o throughput total. Isso transforma a Workers AI de um executor de prompts em uma orquestradora de agentes produtivos, com primitivas como Durable Objects (estado persistente entre chamadas), Workflows (tarefas de longa duração) e Dynamic Workers (execução isolada e segura).
Por que isso importa
Para equipes de DevOps e engenharia de plataformas, isso significa reduzir drasticamente o custo operacional de pipelines de segurança automatizados, o caso real da Cloudflare mostra queda de US$ 2,4 milhões/ano para uma fração disso, mantendo detecção de 15+ problemas confirmados por base de código. Mais importante: elimina dependências de modelos proprietários com restrições de uso, controle de dados e previsibilidade de custo. Com 50+ modelos open-source já suportados (Llama 3.2, Gemma 4, Nemotron 3 Super), a Workers AI se torna uma camada de abstração confiável para infraestrutura de IA agentic em produção, especialmente em ambientes regulados ou com exigências de baixa latência e alta taxa de conclusão de tarefas.
Linha do tempo
Cloudflare lança Kimi K2.5 na Workers AI com suporte a Agent Swarm, cache de prefixos com desconto e API assíncrona redesenhada
Perguntas frequentes
O que diferencia o Kimi K2.5 de outros modelos LLMs suportados na Workers AI?
É um modelo multimodal MoE de 1 trilhão de parâmetros com 256k de contexto, treinado em 32 trilhões de tokens (texto + visuais). Sua arquitetura permite ativar apenas 32 bilhões de parâmetros por requisição, o que garante velocidade e eficiência. Além disso, suporta nativamente o modo Agent Swarm, orquestrando até 100 agentes especializados simultaneamente.
Como a API assíncrona reformulada melhora cargas de trabalho reais?
Substitui o modelo push tradicional por um sistema baseado em pull: solicitações são enfileiradas e processadas conforme capacidade GPU fica disponível. Isso evita timeouts em cargas pesadas, reduz falhas em varreduras de código em larga escala e melhora a utilização de recursos, ideal para agentes que executam centenas de chamadas de ferramenta sequencialmente.
Por que o caching de prefixos com desconto importa para pipelines de CI/CD?
Ele acelera o tempo para o primeiro token (TTFT) ao reutilizar representações de prefixos comuns, como instruções de revisão de código, templates de relatório de segurança ou definições de ferramentas. Em pipelines com múltiplas iterações de análise, isso reduz latência média por requisição e aumenta tokens por segundo (TPS), impactando diretamente o tempo total de execução do pipeline.
A Cloudflare já migrou seus próprios sistemas críticos para essa nova camada de IA agentic?
Sim. Seu agente interno de revisão de segurança, que processa 7 bilhões de tokens diariamente, já roda no Kimi K2.5. A empresa relatou aumento de mais de 600% no uso interno de IA nos últimos três meses, contribuindo diretamente para sua receita trimestral recorde de US$ 639,8 milhões.
Fontes
- blog.cloudflare.comfonte original
- Categoria
- CEVIU DevOps
- Publicado
- 20 de março de 2026
- Editoria
- CEVIU DevOps
