A armadilha que a Anthropic criou para si mesma

Após a administração Trump ter impedido a Anthropic de obter contratos federais, devido à sua recusa em apoiar a vigilância em massa e armas autônomas, Max Tegmark, do MIT, argumenta que a empresa está enfrentando as consequências da resistência de longa data da indústria à regulamentação vinculativa da IA. Ele defende que líderes de IA prometeram autorregulação enquanto faziam lobby contra regras aplicáveis, deixando-os expostos a um vácuo regulatório.

Tegmark enquadra a superinteligência incontrolável como uma ameaça à segurança nacional, não como um ativo, e afirma que o caminho a seguir é claro: tratar a IA avançada como outras indústrias de alto risco, com supervisão obrigatória e validação de segurança independente antes da sua implementação.