Framework da Amazon para Avaliação de Riscos em Modelos de IA

Pesquisadores da Amazon apresentaram o ESRRSim, um framework de avaliação baseado em agentes que utiliza uma taxonomia estruturada para fazer benchmark de riscos. A ferramenta permite identificar e analisar comportamentos problemáticos como engano e reward hacking, revelando uma ampla variação na forma como 11 LLMs distintos se comportam diante desses desafios.