O Tensor no Palheiro: Weightsquatting como Risco na Cadeia de Suprimentos

Weightsquatting é um ataque na cadeia de suprimentos que manipula os pesos do espaço de tokens em LLMs open-weight. O objetivo é direcionar a saída da geração de código para nomes de pacotes escolhidos pelo atacante, e essa manipulação sobrevive à conversão de formato, quantização de 4 bits e exportação GGUF. Modelos como Llama 3.2 e Qwen 2.5 aceitaram as edições "envenenadas" mantendo a coerência, enquanto modelos DeepSeek ou falharam visivelmente ou conseguiram contornar a manipulação. Empresas que utilizam assistentes de codificação locais devem implementar uma validação comportamental rotineira dos artefatos do modelo, comparando-os com saídas de dependências seguras conhecidas, antes de colocá-los em produção. ️