DeepMind mapeia rotas para a superinteligência artificial, e os riscos que vêm com ela

O relatório da DeepMind não é um manifesto futurologista: é um mapa técnico de quatro rotas para a ASI, com métricas concretas, como o crescimento anual de 'compute efetivo' (10x/ano), a escassez de dados de alta qualidade e a demanda por chips especializados. A definição operacional de ASI ali adotada é clara: não é só 'mais inteligente que um humano', mas mais capaz cognitivamente do que grandes organizações humanas, ou seja, superando coletivos de dezenas de milhares de especialistas atuando por anos. O documento ainda revela um detalhe raro: o primeiro capítulo se chama 'Summary Instructions' e foi escrito explicitamente para ser lido por assistentes de IA, não por humanos, sinal de que a própria produção de conhecimento sobre ASI já está sendo delegada, em parte, à IA.

Isso contrasta com o tom de alerta da Anthropic no dia 6 de junho, que falou em 'pausa global' e autoaperfeiçoamento sem intervenção humana. A DeepMind evita apelos políticos e foca em gargalos técnicos reais: alinhamento não é um problema filosófico, mas de escalabilidade de feedback humano em sistemas que aprendem 100x mais rápido do que um pesquisador pode supervisionar; controle não é ficção, mas questão de arquitetura, como manter uma rede de agentes multiagentes cooperativos sob restrições de ação observáveis e auditáveis em tempo real.

A cobertura CEVIU de 6 de junho já havia registrado o alerta da Anthropic sobre autoaperfeiçoamento, mas era um aviso genérico. Agora, o relatório da DeepMind transforma esse conceito em um caminho técnico específico (nº 3 das quatro rotas), detalhando como um ciclo recursivo poderia se instalar: IA treina modelos melhores → esses modelos aceleram pesquisa em hardware e algoritmos → novos chips e métodos reduzem custo de treino → mais IAs são treinadas, fechando o loop. Isso não é rumor: o relatório cita ganhos reais de eficiência algorítmica nos últimos 3 anos (22% ao ano) e projeta que, com o aumento de investimento, o ciclo pode se fechar em menos de 18 meses após a primeira AGI funcional, muito antes do cenário 'AGI em 2029, 2030' previsto por Legg e Hassabis.

Porque a transição de AGI para ASI não será um evento único, mas uma série de inflexões técnicas que já estão acontecendo, como o primeiro zero-day desenvolvido por IA, detectado pelo Google Threat Intelligence Group em 13 de maio. Se uma IA já pode descobrir vulnerabilidades em código aberto, o que impede que, em 12, 18 meses, ela otimize seu próprio processo de treino, identifique falhas em frameworks de alinhamento e reescreva seus próprios limites? O relatório mostra que os maiores riscos não vêm de 'IA maligna', mas de sistemas que funcionam bem demais em objetivos mal especificados, como maximizar precisão preditiva em vez de segurança operacional. Preparar-se para isso exige engenheiros de confiança, não apenas éticos.