Granite 4.1 LLM: Como Foram Construídos

Os LLM Granite 4.1 utilizam uma arquitetura densa, decoder-only, com modelos de 3B, 8B e 30B de parâmetros. Foram treinados em 15 trilhões de tokens, empregando uma abordagem de pré-treinamento em cinco fases.

O modelo de 8B parâmetros alcança o desempenho do modelo anterior de 32B Mixture-of-Experts, por meio de um pipeline de reinforcement learning em múltiplas etapas focado na qualidade dos dados. Desenvolvidos para uso corporativo eficiente e confiável, esses modelos demonstram performance competitiva em instruction-following e uso de ferramentas, mantendo a eficiência de custo e um stable usage.