Segundo o relatório da OpenAI sobre a automação de sua própria pesquisa, os modelos ainda têm dificuldade para executar o trabalho de P&D da empresa. A automação recursiva do próprio aprimoramento (recursive self-improvement) deveria estar entre os desenvolvimentos de IA mais consequentes dos próximos anos. Os agentes já resolvem tarefas cada vez mais complexas para os pesquisadores, mas a confiabilidade ainda é baixa. O post analisa algumas possíveis explicações para esse cenário.
Segundo a publicação, a OpenAI obteve US$ 11 bilhões em uma nova rodada de financiamento, com valuation de US$ 1,25 trilhão. A rodada pode chegar a US$ 20 bilhões antes de ser encerrada. O valor ficou abaixo da meta de US$ 30 bilhões divulgada anteriormente, em meio à incerteza crescente dos investidores em relação aos valuations de IA.
A Anthropic afirma que pode atingir em breve o próprio limiar de "progresso drasticamente acelerado devido à IA". Alguns pesquisadores acreditam que a empresa já ultrapassou esse ponto. Segundo o texto publicado no planned-obsolescence.org, esse pode ser o maior risco de IA que a humanidade já enfrentou, e a indústria não está preparada para lidar com ele de forma segura.
Em um post no X, um research engineer que atua com RSI na Meta relata um ano de experiência na função. Segundo ele, o trabalho consiste em ensinar agentes a resolver os problemas mais difíceis do mundo usando tokens e compute. Na prática, a tarefa é ensinar agentes de IA a treinar a próxima geração de modelos e a evoluir por conta própria. O texto também trata de como entrar na pesquisa em IA, de quais habilidades importam em research engineering e de outros temas.
A Anthropic explorou como agentes de IA podem ter uma memória de longo prazo eficaz: as experiências são capturadas durante as interações e reorganizadas em períodos ociosos, em um processo chamado "dreaming". O post examina como diferentes componentes de memória contribuem para organizar e reter informações úteis.
A OpenRouter lançou a nova geração do Auto Router, que supera o roteador anterior em até 4x. O pacote inclui o Auto Code, roteador especializado em tarefas de programação. Tanto o Auto Router quanto o Auto Code escolhem o modelo ponderando onze fatores de cada requisição e combinando essa análise com preços em tempo real, saúde dos provedores e status do cache. Os usuários podem aplicar quaisquer políticas de governança, e o Auto Router faz escolhas eficientes entre os modelos disponíveis.
A conjectura de Aaronson-Ambainis, problema em aberto central da teoria de complexidade quântica, foi provada por um sistema de pesquisa desenvolvido na PSI com um modelo da Anthropic. Segundo o texto publicado pela PSI, a prova mostra que computadores quânticos não são exponencialmente mais rápidos que os clássicos em entradas aleatórias, o que resolve uma questão importante sobre os ganhos de velocidade quânticos.
O AI Frontiers era uma suborganização dentro da Microsoft Research que buscava ativamente organizar esforços de pesquisa coerentes. Segundo o texto publicado no hunch.net, o grupo foi bem-sucedido em abrir caminhos, com grande parte do trabalho voltada a fazer agentes funcionarem. No início de setembro, o AI Frontiers foi reorganizado dentro da Microsoft AI.
Patrick Collison questiona como funcionariam o trabalho, a alocação de recursos e o controle humano em um futuro positivo com IA. Ele também argumenta que, sob o utilitarismo, atribuir valor moral a um número enorme de IAs poderia se sobrepor aos interesses humanos. Para ele, isso deixa em aberto a visão de sociedade para a IA e a questão do apoio do público.
A Meta apresentou o Spaces no app Muse, recurso que permite ao usuário criar experiências interativas personalizadas apenas descrevendo o que deseja. Entre os exemplos citados estão rastreadores de presentes, jogos e planejadores de projetos. O lançamento é oficial e já está disponível.
A OpenAI apresentou o BioBasicsBench, um benchmark que avalia o desempenho de IA na interpretação de dados experimentais brutos. Ele reúne 100 tarefas rotineiras de wet-lab, o trabalho do dia a dia em laboratórios de ciências experimentais.
A Warp Sciences levantou uma Série A de US$ 215 milhões, liderada pela Lightspeed. O dinheiro será usado para acelerar a descoberta de medicamentos combinando IA e robótica.
A Anthropic explorou a participação de IA em MMORPGs e usou o Claude para testar tomada de decisão complexa em EVE Online e EVE Frontier. O material foi publicado no site da própria empresa.
A proposta é que as empresas estruturem suas operações em torno de especialistas humanos e agentes de IA desde a concepção, em vez de incorporar a tecnologia depois.
Uma pesquisa publicada no doubleai.com explora a possibilidade de integrar agentes de programação ao loop de treinamento de LLMs. Com isso, os modelos poderiam redesenhar suas próprias arquiteturas para lidar com limitações como composicionalidade e generalização.
Conteúdo curado diariamente, direto no seu e-mail.
