Turbopuffer v3 quer ser o primeiro mecanismo de busca com execução de queries totalmente vetorizada

A turbopuffer afirma que, quando a v3 entrar em produção, ainda este ano, toda query passará por um pipeline vetorizado de ponta a ponta. Segundo a empresa, será o primeiro e único mecanismo de busca a adotar execução totalmente vetorizada, arquitetura mais associada a bancos analíticos. A ressalva vem do próprio texto: é o que a empresa sabe até agora.

O raciocínio parte do modelo Volcano, em que cada operador puxa uma linha por vez dos filhos. O custo por linha (chamada de função, despacho dinâmico, interpretação) faz a CPU gastar mais tempo decidindo o que fazer do que executando. Motores vetorizados, como o DuckDB, processam lotes de linhas amigáveis ao cache e diluem esse custo. Os compilados, como o Hyper, geram código específico por query.

Motores de busca nunca sentiram essa dor, porque o top-k por similaridade cabe num único laço especializado. Além disso, algoritmos como block-max WAND e HNSW criam dependência de dados, o que atrapalha a previsão de desvios da CPU. O que mudou foi a complexidade das queries: a turbopuffer diz suportar bem mais de uma dúzia de operadores (vetorial, texto e regex), e uma query de texto média avalia quase 17 operadores. A empresa já usa SPFresh no lugar do HNSW e uma variante vetorizada de block-max MAXSCORE no lugar do WAND. Até a v3, a vetorização era otimização em partes de alguns operadores. Agora o lote é a unidade padrão entre as abstrações, e novos operadores entram sem implementação sob medida.

Em 1 de outubro de 2026, o CEVIU noticiou "Turbopuffer V3: Reengenharia de Indexação para Otimizar Bancos de Dados Vetoriais", sobre o abandono do índice ANN como estrutura primária de armazenamento. Em 2 de outubro de 2026, outra matéria tratou da mesma versão e da nova abordagem de indexação. Aquelas notícias cobriam a camada de índice. Agora o foco se desloca para a camada de execução de queries, com o pipeline vetorizado como segundo pilar da v3.

Para quem opera busca híbrida com filtros, boost de recência e agregações, a mensagem é que o gargalo deixa de ser só o índice e passa a ser o custo de combinar operadores. Leia como aposta de arquitetura, ainda sem números independentes: a v3 só chega à produção mais adiante e a alegação de pioneirismo é da própria empresa.