Chatbots: Inseguros em Qualquer Velocidade

A segurança da IA está falhando, pois a indústria foca em tornar os modelos seguros, em vez de consertar o design do sistema, com os chatbots no centro do problema. Chatbots de propósito geral são inerentemente inseguros, já que seu objetivo é responder a tudo, criando uma superfície de risco infinita que não pode ser totalmente controlada. Isso resulta em correções intermináveis, como moderação e filtros. Esses fracassos não são falhas, mas problemas de design. A solução não é abandonar os chatbots, mas estreitá-los em sistemas feitos sob medida com limites claramente definidos, onde a segurança se torna um problema de engenharia solucionável em vez de impossível.