Santo Agostinho e a Falsa Promessa da IA

Sistemas de IA são frequentemente apresentados como ferramentas capazes de otimizar decisões e gerar resultados superiores, mas eles só podem buscar a definição de “bem” que os humanos lhes fornecem. Tais valores são sempre parciais, contestados e moldados por prioridades culturais, e não por uma verdade objetiva. Inspirando-se em Santo Agostinho de Hipona, argumenta-se que a IA não resolve problemas humanos de julgamento ou moralidade. Pelo contrário, ela amplifica e formaliza valores, vieses e prioridades existentes, ao mesmo tempo em que os faz parecer objetivos por meio de métricas e otimização.

Em vez de tratar a IA como uma autoridade que determina o que importa, o foco deve permanecer na preservação do julgamento humano, tornando as escolhas de valor visíveis e responsáveis, e reconhecendo que sistemas eficientes ainda podem perseguir objetivos equivocados.