Research engineer da Meta conta como é um ano trabalhando com RSI

O autor do post é research engineer na Meta e trabalha com research agents: agentes que resolvem problemas difíceis usando tokens e compute. Ele explica RSI (Recursive Self-Improvement) como ensinar agentes de IA a treinar a próxima geração de modelos e a evoluir sozinhos. Cita duas rotas: atualizar o próprio modelo de fundação ou melhorar o scaffold ao redor dele (prompts, ferramentas, memória, código). Ele mesmo admite que ainda há muito a descobrir.

Do lado prático, o texto descreve o dia a dia: cerca de 90% do tempo é código e 10% é gerar e testar ideias. Entre as habilidades listadas estão arquitetura de LLMs e ciclo de treino (pré, meio e pós-treino), orquestração de agentes, uso de coding agents para produzir PRs validados, leitura crítica de benchmarks e fundamentos de dados. Como exemplo de benchmark, cita o PostTrainBench, que dá a agentes modelos base pequenos, uma GPU H100 e dez horas para melhorar o desempenho via pós-treino. Ele também apresenta o paper Research Preference Models (RPM), sobre como escolher experimentos promissores quando rodar todos os candidatos é caro, e conta um erro de início de carreira: um bug fez um experimento parecer melhor do que era.

Para quem trabalha com ML e ciência de dados, o relato mostra onde o esforço real está: reprodutibilidade, avaliação honesta e custo de compute por experimento, não só ideias. É um depoimento pessoal, não um resultado publicado sobre RSI em escala, então serve como leitura de rotina de trabalho, não como prova de capacidade dos agentes.