Shopify implanta modelo generativo de descoberta para busca e recomendação

O modelo da Shopify é um gerador de candidatos, não o sistema de busca inteiro. Parte de um modelo de linguagem de pesos abertos e é adaptado com dados de comércio: catálogo de produtos e interações elegíveis de compradores em busca e recomendação. Em produção, a Shopify usa o LFM2-2.6B, da Liquid AI, servido com a stack RIPL, escolhido pelo equilíbrio entre qualidade e latência, já que divide o orçamento da requisição com o ranking posterior.

Para lidar com um catálogo de bilhões de produtos, cada item vira um semantic ID de três tokens, gerado por RQ-KMeans (três codebooks de 8.192 entradas). Produtos parecidos compartilham códigos, o que ajuda itens com poucas interações. Na inferência, um índice em trie na GPU (baseado no STATIC) restringe a geração a caminhos válidos, e o overhead caiu de mais de 50 ms para cerca de 1 ms por requisição. A previsão de múltiplos tokens (MTP) gera os três códigos em uma só passada, e o tempo poupado vai para um conjunto maior de candidatos, filtrado por um ranker leve.

No treino, busca e recomendação aprendem juntas. Há reforço de compras inéditas para estimular descoberta (recall de descoberta subiu cerca de 10 a 15% relativo), reinforcement learning com um LLM como juiz de relevância na busca (+1,5 em OneDCG@10) e destilação multi-professor para fundir os especialistas em um modelo só. Offline, a recomendação ganhou 2,65 pp de Incremental Pool Recall, e a busca, 2,1 pontos de OneDCG@10 (2,7 para usuários logados). O resumo da notícia cita ainda 9,85% de aumento na taxa de conversão.

A cobertura anterior mostra o caminho até aqui. Em 21 de outubro de 2026, o CEVIU noticiou "Meta troca IDs por tokens semânticos e turbina a recomendação de anúncios com GenRecs", e em 18 de junho de 2026, "Do scoring ao spelling: como o Instacart reconstruiu seu sistema de retrieval de anúncios com IA generativa". Ambos seguem a mesma ideia de trocar IDs de produto por tokens semânticos. A Shopify, nesse contexto, aparece com a versão em produção para busca e recomendação juntas. Sobre a própria Shopify, em 22 de outubro de 2026 o CEVIU registrou "Shopify transforma modelos abertos em especialistas para tarefas do Sidekick", outro uso de modelos abertos, mas em tarefa diferente.

Para quem opera retrieval em catálogo grande, o recado é prático: semantic IDs, decodificação restrita e um modelo pequeno (2,6B) cabem no orçamento de latência de uma requisição ao vivo. Na leitura editorial, treinar busca e recomendação juntas tende a reduzir a duplicação de sistemas. Os números de conversão e relevância vêm da própria empresa, então vale cautela ao compará-los com outros ambientes.