LLMs não são sobre-humanos em ler e escrever pesos de redes neurais, argumenta artigo

O artigo analisado discute um estudo segundo o qual o GPT-6 Astra consegue interagir diretamente com os pesos de uma rede neural, "bem além do que esperaríamos de humanos ou algoritmos convencionais". Em um teste, o Astra identificou quais jogos uma rede pequena (cerca de 17 mil pesos) havia aprendido apenas olhando para os pesos. No resultado mais forte, editou nativamente os pesos de um LLM Qwen de 0,8B e melhorou sua habilidade em matemática.

O autor, Sean Goedecke, contesta a leitura de capacidade sobre-humana. No caso dos jogos, os canais de entrada do modelo escutam cada célula da grade 8x8 e vêm rotulados ("agente", "objetos em movimento"). Calcular a norma L2 dos 32 pesos da primeira camada para cada entrada gera um mapa de calor que qualquer pessoa leria. O feito do Astra foi fazer esse cálculo de cabeça, sem executar Python, o que o autor chama de matemática mental sobre-humana, não pesquisa de IA sobre-humana.

No caso do Qwen, o problema não era falta geral de habilidade matemática. O modelo entrava em loop depois de 32 mil tokens, então qualquer tarefa que exigisse mais que isso falhava. Os problemas abaixo de 32 mil tokens já eram resolvidos pelo modelo original. O Astra escreveu quatro pares de textos (com e sem loop), mediu com acesso a Python os pesos que contribuíam para o loop, cortou os principais e testou até achar um patch. É, segundo o autor, o roteiro de steering e abliteration que um pesquisador humano competente seguiria.

A cobertura anterior mostra o Astra em contextos diferentes. Em 4 de agosto de 2026, o CEVIU noticiou "Astra da OpenAI: IA supera capacidades humanas na resolução de problemas matemáticos inéditos", sobre o modelo não lançado resolvendo dez problemas matemáticos em aberto com respostas verificáveis. Em 2 de novembro de 2026, saiu "Astra, do GPT-6, supera vários modelos especializados em robótica". Agora o foco muda para edição de pesos, com uma leitura mais cética: a capacidade é real, mas comparável à de um pesquisador habilidoso. O tom lembra o de 13 de agosto de 2026, quando o CEVIU publicou "Desempenho de LLMs em Matemática: Avanços e Limitações".

Para quem trabalha com pesquisa e treino de modelos, a leitura é que editar pesos diretamente é um truque útil, não um novo método de trabalho. A analogia do autor com LLMs que mexem em binários compilados sugere que o caminho continua sendo treinar normalmente. O risco de automelhoria recursiva, citado como motivo de empolgação no estudo, fica menos iminente sob essa interpretação, mas ela é opinião do autor, não consenso.