Impulsionando Agentes: Workers IA Agora Suporta Grandes Modelos, Iniciando com Kimi K2.5

A Cloudflare lançou o modelo de IA open-source de fronteira Kimi K2.5 da Moonshot AI em sua plataforma Workers IA. O modelo apresenta uma janela de contexto de 256k e proporciona uma economia de custos de 77% em comparação com modelos proprietários de nível intermediário em uso de produção.

A empresa informou que seu agente interno de revisão de segurança, que processa 7 bilhões de tokens diariamente, identificou mais de 15 problemas confirmados, ao mesmo tempo em que reduziu os custos anuais de um valor estimado de US$ 2,4 milhões para uma fração disso. Além disso, a Cloudflare lançou novas funcionalidades como descontos em caching de prefixos e uma API assíncrona reformulada para lidar com cargas de trabalho de inference de alto volume.