CEVIU Logo
Voltar
Perplexity Lança WANDR: Um Novo Benchmark para Avaliar Agentes de Pesquisa Abrangente

Perplexity Lança WANDR: Um Novo Benchmark para Avaliar Agentes de Pesquisa Abrangente

Aprofundamento CEVIU

Aprofundamento

O WANDR não é só mais um benchmark: é um espelho que expõe a fragilidade real dos agentes de IA em tarefas que humanos fazem rotineiramente, como mapear competidores, fazer due diligence ou revisar literatura científica. Ele testa 500 tarefas reais, construídas a partir de padrões observados no uso prático da Perplexity, não de prompts artificiais. Cada tarefa exige uma árvore hierárquica de dados: por exemplo, encontrar 70 empresas com novos CEOs/CFOs entre março e abril de 2026, depois obter para cada uma uma página de anúncio oficial *e* outra de listagem em bolsa, dois ramos independentes, mas alinhados pelo mesmo identificador de empresa. Isso força o agente a equilibrar descoberta ampla (não deixar nenhuma empresa fora) com profundidade precisa (não pular nenhum requisito de evidência). A nota mais alta? 0,133 em F1 'hard', ou seja, menos de 1 em cada 7 itens completos atendeu a todos os critérios. O problema não está na busca inicial: até 95% das empresas são encontradas. Está no que vem depois, na extração correta de trechos, na validação cruzada de fontes e na manutenção da qualidade ao escalar.

Isso coloca o WANDR em contraste direto com outros benchmarks lançados em julho de 2026: o CursorBench 3.1 mede codificação multifile, o LifeSciBench avalia raciocínio em ciências da vida e o Claude Science AI Workbench foca em colaboração científica. Já o WANDR é o primeiro a isolar e quantificar o gargalo estrutural da pesquisa abrangente, não o 'quanto o modelo sabe', mas 'quanto ele consegue coletar, organizar e provar, sem falhar no 499º item'. E sua metodologia de avaliação baseada em recuperação e verificação de páginas citadas, não em gabaritos fixos, torna-o adaptável a domínios onde as respostas mudam diariamente, como finanças ou regulação.

O que mudou

A diferença é técnica e operacional: em junho de 2026, a Perplexity apresentou o Search as Code (SaC), uma arquitetura que transforma a busca em código executável, permitindo que agentes orquestrem filtros, joins e verificações fora do contexto do modelo. Agora, no WANDR, esse mesmo SaC é testado como sistema, e lidera com 0,363 em F1 'soft', superando todos os concorrentes. Mas o salto não está só no desempenho: é na forma como o benchmark foi construído. Enquanto o DRACO (lançado antes) avaliava relatórios longos com profundidade única, o WANDR introduz uma gramática de hierarquias flexíveis, com até três níveis intermediários, e mostra que a cada novo nível, a taxa de sucesso cai drasticamente: a precisão 'hard' do SaC cai de 0,392 para 0,019 ao passar de zero para três chaves intermediárias. Ou seja, o que era rumor sobre limitações estruturais virou medição objetiva.

Por que isso importa

Porque pesquisa ampla e profunda não é um caso de uso marginal, é o coração do trabalho de analistas, advogados, cientistas e jornalistas. Um erro de cobertura em due diligence pode custar milhões. Um estudo científico com lacunas na revisão da literatura compromete toda a conclusão. O WANDR mostra que, mesmo em 2026, nenhum agente consegue entregar isso de forma confiável em escala. E isso tem impacto direto em quem já usa agentes para essas tarefas: o baixo recall 'hard' significa que sistemas atuais subentendem que 'achar alguns bons exemplos' basta, quando o mundo real exige 'achar *todos* os casos válidos, com provas para cada um'. A consequência prática é clara: até que essa lacuna seja fechada, agentes devem ser usados como assistentes de triagem, não como substitutos de verificação humana final.

Repositório oficial: perplexityai/wandr

Linha do tempo

  1. Perplexity lança Search as Code (SaC), arquitetura que permite modelos interagirem diretamente com a stack de busca via código Python

  2. Lançamento do LifeSciBench, benchmark especializado em tarefas de pesquisa em ciências da vida

  3. Cursor lança o CursorBench 3.1 para avaliação de agentes em codificação complexa

  4. Cotool lança benchmarks de IA para Blue Teams, com foco em segurança defensiva

  5. Anthropic lança o Claude Science AI Workbench para aceleração de descobertas científicas

  6. Prime Intellect lança os Verifiers v1 para avaliação de agentes autônomos

  7. Perplexity lança o WANDR, benchmark aberto para avaliação de agentes em pesquisa ampla e profunda

Perguntas frequentes

O WANDR é apenas mais um benchmark criado pela própria Perplexity? Como confiar nos resultados?

É verdade que o WANDR foi desenvolvido pela Perplexity, mas seu código-fonte é aberto sob licença Apache 2.0 e disponível no GitHub. A metodologia de avaliação é transparente: cada resposta é validada com recuperação real das páginas citadas, não com gabaritos pré-definidos. Além disso, os resultados mostram que mesmo o sistema líder (Search as Code) atinge apenas 0,133 em F1 'hard', um número tão baixo que reduz o risco de viés positivo. A comunidade pode replicar, auditar e estender o benchmark livremente.

Qual a diferença prática entre 'soft F1' e 'hard F1' no WANDR?

F1 'soft' dá crédito parcial: se um agente entrega 70 empresas com dados de CEO, mas só 40 com dados de listagem em bolsa, ele ainda ganha pontuação proporcional. Já o F1 'hard' é tudo ou nada: só conta como válido o item completo, empresa + CEO + listagem. No teste, o SaC cai de 0,363 (soft) para 0,133 (hard), mostrando que a maior falha não é encontrar dados, mas garantir que *cada caminho da árvore esteja totalmente preenchido* com evidência verificável.

Por que a descoberta é o principal gargalo, se encontrar páginas é fácil?

Encontrar uma página utilizável é simples, menos de 10% das páginas citadas são inválidas. O problema está no que vem depois: 57,5% a 86,6% dos trechos extraídos não sustentam todas as afirmações do registro. Um agente pode achar a página certa, mas extrair o trecho errado, omitir uma data crítica ou não vincular corretamente o CEO à empresa específica. O WANDR mede justamente essa falha estrutural: a descoberta é o primeiro passo, mas a construção robusta da evidência é onde a maioria dos sistemas desmorona.

O WANDR substitui benchmarks anteriores como DRACO ou LifeSciBench?

Não. O DRACO avalia pesquisa profunda com foco em relatórios coerentes; o LifeSciBench testa raciocínio especializado em ciências da vida; o WANDR mede capacidade de coleta em larga escala com controle de qualidade por item. São complementares: um agente pode se sair bem no DRACO (fazendo um ótimo relatório com 5 exemplos) e mal no WANDR (falhando ao escalar para 500 registros com provas individuais). A diversificação de benchmarks reflete a diversificação de aplicações reais.

Fontes

Avalie este artigo:
Compartilhar:
Categoria
CEVIU IA
Publicado
15 de julho de 2026
Editoria
CEVIU IA

Quer receber mais sobre CEVIU IA?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser