Crítica diz que post sobre programação em weight-space é enganoso

A crítica publicada em honnibal.dev compara o post 'Astra can read and write weights to improve Qwen' a um truque de mágica feito de várias maneiras. O resumo do post diz que o GPT-6 Astra entende o que uma rede foi treinada para fazer "just by looking at the raw weights". Segundo o crítico, isso só vale para os experimentos 1, 2 e 4, feitos em redes de 17K a 172K pesos, com floats brutos no contexto, sem ferramentas e sem executar a rede.

Todo experimento com um modelo de linguagem real usa Python. O resultado com o Qwen3.5-0.8B, o principal do post, também roda o modelo em até 50 lotes de problemas de prática. O post afirma que a correção de 0,016% dos pesos levou o MATH-500 de 7,9% para 48,1% e triplicou o IFEval. O crítico não nega o valor disso: o Astra foi capaz de planejar e executar tarefas que um engenheiro de ML humano faria, como escrever trechos de código que analisam ou alteram pesos. Mas, para ele, isso não equivale a uma única técnica capaz de escrever pesos do zero e também melhorar um modelo grande.

Para quem desenvolve com IA, a leitura é que "o modelo entende os pesos" e "o modelo escreve código com feedback de execução" são afirmações diferentes. Ao avaliar um resultado assim, vale perguntar quais ferramentas e quantas rodadas de execução estavam disponíveis. Isso muda o que dá para esperar em um fluxo de trabalho real.