Hierarquia de Instruções de Múltiplos Níveis em Agentes de LLM

Pesquisadores propõem uma Hierarquia de Instruções de Múltiplos Níveis (ManyIH) para resolver conflitos de instrução em agentes de LLM, superando modelos tradicionais com níveis fixos de privilégio. Eles apresentam o ManyIH-Bench, que avalia modelos em 12 níveis de privilégio e 853 tarefas de agente, revelando que os modelos atuais têm um desempenho fraco, com 40% de acurácia. Isso ressalta a necessidade de resolução de conflitos escalável em ambientes complexos baseados em agentes.