Engenharia Probabilística e o Funcionário 24/7: Os Desafios da Validação em Sistemas Gerados por IA

A indústria está migrando rapidamente da engenharia determinística para a engenharia probabilística. Enquanto a primeira envolve escrever código, testá-lo, revisá-lo e saber exatamente o que ele faz, a engenharia probabilística se caracteriza por grandes porções do codebase serem geradas por sistemas estocásticos, revisadas sob pressão de tempo em contextos vastos demais para serem totalmente compreendidos, e integradas em um todo que nenhum ser humano sozinho projetou de ponta a ponta.

Embora a geração de código tenha se tornado barata, a validação ainda não. Ultrapassando um certo throughput, falhas escapam porque o volume de saída excede o que a human attention pode inspecionar de forma significativa, e os modelos que realizam as revisões deixam passar muita coisa.