Mandatos de IA são uma demanda por rendição cognitiva

Mandatos de IA estão levando à "rendição cognitiva", onde as pessoas deixam de usar julgamentos críticos e aceitam os resultados da IA como verdade. Pesquisas mostram que usuários aceitaram justificativas falhas da IA em 73,2% das vezes e só as contestaram em 19,7%, evidenciando uma queda acentuada no pensamento crítico. A geração fácil de código e texto dificulta a validação, resultando em queda de qualidade e padrões mais baixos ao longo do tempo. A pressão por velocidade e mandatos vagos de IA incentivam o uso de ferramentas sem objetivos claros, embora os erros ainda sejam responsabilidade individual. Direção forte e resultados claros podem mitigar esses efeitos, ajudando as equipes a focarem em impactos significativos em vez de resultados não verificados.