1-bit: prismML Lança Bonsai 27B: IA de 27 Bilhões de Parâmetros Agora Roda em Smartphones

O 1-bit não é só um número no nome: é a técnica central que torna o Bonsai 27B possível. Ele representa uma compressão radical, pesos do modelo reduzidos a apenas dois valores possíveis: −1 ou +1. Isso elimina totalmente a precisão fracionária de pesos tradicionais (como FP16 ou FP32), mas a PrismML compensa com escalonamento por grupo em FP16, mantendo coerência matemática nas operações de atenção e MLP. O resultado prático? Um modelo de 27 bilhões de parâmetros que ocupa só 3,9 GB, menos da metade do que um modelo de 2 bilhões em precisão plena exigiria. Isso não é quantização convencional: é uma representação end-to-end, sem 'escapar' para camadas de maior precisão em nenhum ponto da rede, incluindo embeddings, cabeça de linguagem e torre de visão compacta de 4 bits.

Essa abordagem é diferente do que vimos antes. O Bonsai Image 4B, lançado em 1º de junho de 2026, já usava 1-bit para geração de imagens, mas era um modelo especializado e muito menor. Já o Gemma 4 do Google, anunciado em 8 e 11 de julho de 2026, emprega Quantization-Aware Training (QAT), uma técnica mais suave, que preserva melhor a precisão em troca de menor ganho de compactação. O Bonsai 27B vai além: ele não só roda em iPhone 17 Pro, como mantém 90% do desempenho da versão full-precision em raciocínio multi-etapa, chamada de ferramentas e tarefas de codificação. Isso significa que um agente autônomo pode rodar inteiramente no telefone, acessando sua câmera, documentos locais e histórico de mensagens, sem enviar nada para nuvem.

A evolução real está na escala e na integridade funcional. Em março de 2026, a Xiaomi surpreendeu com o MiMo-V2-Pro de 1 trilhão de parâmetros, mas ele é esparsamente ativo (só 42 bilhões em uso simultâneo) e depende de infraestrutura de data center. Já o Bonsai 27B, em julho de 2026, ativa todos os seus 27 bilhões de parâmetros localmente, em tempo real, com multimodalidade completa e contexto de 262 mil tokens. Não é um modelo simplificado ou cortado: é um modelo de ponta, comprimido sem comprometer a arquitetura. A diferença entre o Bonsai Image 4B (junho de 2026) e o Bonsai 27B (julho de 2026) não é só de tamanho, é de classe de tarefa: o primeiro gera imagens; o segundo executa workflows completos de IA agente, com loops coerentes, chamadas estruturadas de ferramentas e raciocínio encadeado, tudo no dispositivo.

Agentes autônomos deixam de ser um conceito teórico ou um recurso de API cara. Com o Bonsai 27B, um assistente pode ler seu e-mail offline, comparar planilhas locais, gerar relatórios com base em dados privados e até operar aplicativos nativos, sem sair do iPhone. O custo marginal de cada passo do workflow cai para zero. E a privacidade deixa de ser uma opção: é uma característica de projeto. Isso muda o jogo para setores como saúde (análise de exames locais), finanças (gestão de contas sem upload) e educação (tutores que acessam livros digitais armazenados no aparelho). A densidade de inteligência, 0,53 pontos por GB, mostra que não se trata de reduzir para caber, mas de redefinir o que é possível em hardware existente.