Como o Autoresearch de Karpathy Funciona e o Que Você Pode Aprender Com Ele

O Autoresearch não é só mais uma ferramenta de otimização: é um novo modelo operacional para pesquisa em IA, construído em torno de três arquivos simples e uma disciplina rígida, prepare.py (imutável), train.py (móvel) e program.md (escrito por humanos). O agente não faz 'tentativa e erro' aleatória: ele propõe mudanças no código, executa treinos curtos (5 minutos em GPU única), avalia com métricas objetivas como val_bpb, e só mantém o que melhora o número. Esse mecanismo de 'catraca', commit ou reset, transforma o git em um sistema de controle de qualidade em tempo real, algo inédito em experimentação autônoma.

Nas demonstrações reais com o nanochat, o agente rodou 700 experimentos em dois dias e achou 20 melhorias concretas, incluindo ajustes que humanos tinham ignorado: um escalonador faltante no QKNorm, ausência de regularização em Value Embeddings e um bug na atenção dividida em bandas. O resultado prático foi uma redução de 11% no tempo para atingir o desempenho equivalente ao GPT-2, de 2,02 para 1,80 horas. Isso mostra que o limite não está no hardware ou nos dados, mas na capacidade de estruturar a busca de forma auditável e reversível.

O Autoresearch muda o papel do pesquisador: de quem escreve código linha a linha para quem define restrições, metas e métricas no program.md. É uma transição de executor para diretor técnico, o mesmo salto que ocorreu com a adoção de frameworks como PyTorch em vez de implementações manuais em C++. A diferença aqui é que o agente pode modificar qualquer parte do treinamento, desde hiperparâmetros até lógica de forward pass, desde que respeite os limites definidos. Isso não substitui o cientista de dados, mas amplifica sua escala de impacto: um único program.md bem escrito pode gerar centenas de descobertas em dias, não meses. E o padrão já se aplica fora de LLMs, em ranking de busca, classificação de produtos e até tuning de compiladores, sempre que houver uma pontuação automática confiável.