Estudo da Apple Investiga Expectativas de Interação com Agentes de IA

Pesquisadores da Apple conduziram um estudo em duas fases para compreender as expectativas dos usuários em relação aos agentes de IA. A pesquisa analisou nove agentes existentes e testou padrões de design por meio de interações simuladas com 20 participantes.

O estudo revelou que os usuários desejam visibilidade sobre as ações do agente sem a necessidade de micromanagement, e que as necessidades de transparência variam conforme a familiaridade da tarefa e o nível de risco. A confiança diminui rapidamente quando os agentes fazem suposições silenciosas ou cometem erros, especialmente em cenários de alto risco como compras ou alterações de conta. Isso leva os usuários a preferir pausas para confirmação explícita em vez de decisões autônomas.