IBM Granite lança LLMON, linguagem de marcação nativa para LLMs, em modelos Granite 4.1 de 3B e 8B em preview

O problema que o LLMON ataca é de formato. Em contextos longos, system prompt, turnos antigos, documentos recuperados, respostas de ferramentas e requisitos de saída se misturam, e boa parte dessa estrutura fica implícita ou vai em JSON. Segundo a ibm-granite, o JSON foi feito para parsers, não para LLMs causais: o tokenizer não é obrigado a respeitar a gramática, e os símbolos que marcam estrutura ({, ", :) também aparecem em texto comum. Para o modelo, uma aspa dentro de um documento e uma aspa que fecha um campo são o mesmo token.

O LLMON é uma marcação parecida com XML, com seis delimitadores instalados no tokenizer como special tokens reservados. Estrutura e conteúdo passam a usar partes distintas do vocabulário. Cada componente vira um bloco endereçável por ID de dois caracteres (cada ID custa dois tokens), e um bloco de execução diz qual instrução rodar, sobre quais dados e onde colocar a resposta. Os modelos granite-4.1-3b-LLMON-preview e granite-4.1-8b-LLMON-preview partem dos checkpoints base do Granite 4.1, não dos instruct. Foram treinados com um corpus de instruction-tuning reserializado em LLMON, com instruções e dados isca deixados sem vínculo, seguido de cinco estágios de GRPO e um DPO final com mil pares de preferência. A própria IBM avisa que a regra de privilégio (instrução vinda do bloco de execução é autoritativa, o resto é material de leitura) é comportamento aprendido, não garantia imposta. E o preview serve para exploração e avaliação, não para produção.

Em 30 de abril de 2026, o CEVIU noticiou "Granite 4.1 LLM: Como Foram Construídos", com modelos densos e decoder-only de 3B, 8B e 30B, treinados em 15 trilhões de tokens. Agora a IBM usa os checkpoints base de 3B e 8B dessa família como ponto de partida para os previews LLMON. Em 29 de outubro de 2026, o CEVIU também cobriu o Granite Switch 4.1.1, que atualiza adapters sem recomputar o modelo base. O LLMON segue outra linha: mexe no formato do contexto e no treino, e admite LoRA próprio por cima dos modelos.

Para quem opera agentes ou RAG com modelos pequenos, a leitura é prática: se a fragilidade vem de estrutura ambígua no prompt, trocar o formato pode render mais que trocar o modelo. Os números de injeção vêm de benchmarks estáticos (OPI, ASB e StruQ), e a própria IBM diz que ataques adaptativos em vários turnos ainda estão em andamento. Vale testar no seu caso antes de tirar qualquer camada de defesa.