Como a Amazon Usa LLMs para Recomendar Produtos

O sistema COSMO da Amazon aborda uma limitação fundamental na busca de produtos ao ensinar os motores de recomendação o porquê as pessoas compram, e não apenas o que elas compram. A equipe alimentou milhões de pares de comportamento de compra em LLMs e então construiu um pipeline multiestágio para filtrar cerca de 65% a 91% das saídas que eram circulares, genéricas ou trivialmente óbvias.

Um modelo menor, ajustado por instruções e chamado COSMO-LM, gera agora conhecimento de senso comum fresco em tempo real, com uma fração do custo de inference original. Testes A/B mostraram um aumento de 0,7% nas vendas de produtos e um crescimento de 8% no engajamento de navegação em apenas 10% do tráfego dos EUA. A Amazon projeta bilhões em receita potencial se a solução for estendida para todo o tráfego.