IA ruim não tem cheiro: erros em análises de pesquisa não dão sinal

O texto da Clearleft parte de uma ideia de Erika Hall, no livro Just Enough Research: uma pesquisa (survey) ruim não avisa que é ruim. Código ruim tem bug, interface ruim falha em teste de usabilidade, entrevista ruim dá para perceber na hora. Já o survey só é desmentido quando uma segunda fonte contradiz a sua análise. O autor troca "survey" por "ferramenta de IA" e defende que o ponto vale ainda mais, porque nas ferramentas de IA você não controla as perguntas nem o processo.

Três vieses explicam por que a gente não sente o cheiro. O viés de autoridade dá crédito extra a quem parece especialista, e a IA é vendida como superinteligente. O viés de verdade nos faz aceitar o que ouvimos por padrão. E o apreço por algoritmos leva as pessoas a seguir conselho de algoritmo mais facilmente que o de humanos, mesmo quando os erros da IA são mostrados. Na pesquisa com usuários, o risco aparece quando alguém pede à IA para sintetizar transcrições: palavra-chave mal transcrita, falta de pistas visuais como linguagem corporal, sarcasmo e tom mal lidos, ausência de contexto do projeto. O resultado são insights confiantes e errados. A recomendação é que quem rodou a pesquisa revise tudo, peça perguntas específicas com citações de participantes e use a IA como checagem de sanidade depois da própria análise.

Não há evolução de um mesmo produto ou evento aqui, mas o tema conversa com a cobertura anterior. Em 8 de maio de 2026, o CEVIU noticiou "Quando a IA decide e o humano assina embaixo", sobre sistemas de "suporte à decisão" que levam pessoas a confiar nas saídas da IA sem avaliá-las, criando ilusão de supervisão. Em 21 de setembro de 2026, em "Avaliações Superficiais Podem Mascarar Falhas em Agentes de IA", o assunto foi a validação rasa que esconde falhas. A matéria atual leva o mesmo problema para a pesquisa com usuários.

Para quem faz pesquisa e UX, a leitura é que a IA acelera a síntese, mas não substitui quem esteve na sala. Se o resumo vai alimentar decisão de produto ou de design, vale tratar a saída como hipótese a ser conferida contra gravações e citações. Em 30 de abril de 2026, o CEVIU já tinha tratado, em "Os Usuários Detêm o Presente. Você é Dono do Futuro", de como respostas convincentes podem estar equivocadas. A lógica se repete: confiança na resposta não prova que ela está certa.