Meta Detalha Otimização de Inference em Sistemas de Recomendação

A Meta detalhou a Otimização de Broadcast In-Kernel (IKBO), uma abordagem de co-design que visa eliminar a replicação redundante de embedding em cargas de trabalho de inference de sistemas de recomendação. Esta técnica foi projetada para aprimorar a eficiência e o desempenho das operações de IA nos sistemas de recomendação da empresa.