Contra o Tecnocentrismo em IA Safety

O foco em IA safety está muito concentrado nos aspectos técnicos e em demonstrar técnicas para abusar de sistemas de IA, em vez de dados de incidentes. Os principais riscos que emergirão de sistemas agentic virão do comportamento humano, de quanto controle entregamos a esses sistemas e se os humanos são incentivados a sinalizar alertas.