Laboratórios de IA estão travando uma guerra contínua pelos recursos de GPU. A demanda e a oferta atuais indicam que a infraestrutura que impulsiona a IA pode não ser suficiente, e escalar GPUs não aumenta o poder computacional de forma linear. A eficiência torna-se crucial em larga escala, dada a oferta finita.
Todas as notícias
CEVIU IA
Lançamentos, inovações e pesquisas para profissionais de IA, machine learning e ciência de dados
3077 notícias
A portabilidade de kernel em IA é estruturalmente impossível porque o Pallas da TPU, o CuTile e o CUTLASS da NVIDIA, o NKI da AWS, o FlyDSL da AMD e o tt-Metalium da Tenstorrent expõem conceitos específicos de hardware que nenhuma DSL universal pode unificar. A evidência é que o MoE grouped matmul do MaxText é implementado em 282 linhas de Pallas na TPU, enquanto o equivalente do Flashinfer para Blackwell SM100 requer 4 milhões de linhas de CUDA gerado, sem código compartilhado, pois os próprios algoritmos divergem entre hardwares.
A OpenAI adquiriu a equipe de seis pessoas e suas propriedades intelectuais da startup Weights.gg, e então encerrou as operações da Weights.gg e distribuiu seus membros em vários grupos internos da OpenAI.
O Claude Code está sendo usado em produção em várias grandes bases de código em organizações com milhares de desenvolvedores. Esses ambientes apresentam desafios que bases de código menores não possuem. Este artigo aborda padrões que a Anthropic observou e que levaram à adoção bem-sucedida do Claude Code em escala, incluindo seu uso em monorepos com milhões de linhas, sistemas legados construídos ao longo de décadas e microservices em repositórios separados.
As execuções de pré-treinamento frequentemente falham. Este artigo explora todas as formas pelas quais as coisas podem dar errado e por que o treinamento é uma operação tão precária. Os principais culpados parecem ser a quebra de causalidade e a adição de viés.
O Lighthouse Attention, um mecanismo hierárquico de attention baseado em seleção, é até 17 vezes mais rápido em passes forward e backward do que os modelos de attention padrão em contextos grandes. Ele utiliza FlashAttention em uma sub-sequência densa, garantindo eficiência e compatibilidade com melhorias existentes. Ao possibilitar o treinamento eficiente de modelos com contexto longo e manter a competência de um dense model, o Lighthouse Attention alcança um aumento de velocidade de 1.4x a 1.7x no pré-treinamento, enquanto reduz os custos computacionais.
O Grok Build é um agente de programação que opera diretamente do terminal e está em beta para assinantes SuperGrok Heavy. A ferramenta funciona nativamente com AGENTS.md, plugins, hooks, skills e servidores MCP, suportando subagentes para tarefas maiores e integração profunda com worktrees para executar subagentes em seus próprios ambientes. Inclui modo headless que permite executar agentes dentro de scripts e automações.
O Cursor detalhou um novo sistema para configurar ambientes de desenvolvimento baseados em cloud sob medida para agentes autônomos de programação. O sistema oferece suporte a multi-repositórios, configuração de ambiente como código, workflows automatizados de setup e controles de governança para gerenciar frotas de agentes paralelos.
Existem duas formas de criar sandbox para agentes que executam código: isolar a ferramenta ou isolar o agente. Agentes devem ter nada que valha a pena roubar e nada que valha a pena preservar. Isolar o agente requer um salto de rede adicional em cada operação e mais serviços para deploy, mas não há segredos para roubar, nenhum estado para preservar, e agentes podem ser mortos, reiniciados e escalados independentemente.
O Codex implementou hooks e tokens programáticos para facilitar a automação e customização de código. Os hooks permitem personalizar o loop do Codex com scripts que executam em pontos-chave de uma tarefa. O acesso programático fornece credenciais com escopo definido para equipes Business e Enterprise. Está disponível um vídeo mostrando como criar tokens de acesso para automações do Codex.
Genkit é um framework para construir aplicações full-stack com IA e agentic para qualquer plataforma. Suporta TypeScript, Go, Dart e Python. O Genkit usa hooks composáveis que interceptam chamadas de geração para implementar tentativas e fallbacks para máxima confiabilidade, aprovação humana antes de chamadas de ferramentas destrutivas, e observability em todas as camadas. Seu sistema de middleware executa um loop de ferramentas que se repete até o modelo terminar. O Genkit Developer pode ser usado para inspecionar, testar e debugar aplicações e execução de middleware.
O Toto 2.0 da Datadog, uma família de modelos escaláveis para previsão de séries temporais, está agora disponível no Hugging Face.
Babuschkin, cofundador da xAI, está investindo US$ 100 milhões do próprio dinheiro na empresa.
A Nvidia anunciou uma parceria com a Ineffable Intelligence, startup que busca superinteligência fundada no final de 2025 por David Silver, professor da UCL e ex-líder da equipe de reinforcement learning do DeepMind.
A Microsoft assinou um acordo com a OpenAI no final de abril que alterou a licença exclusiva da empresa para os modelos da OpenAI, liberou a OpenAI para vender em qualquer outra cloud e removeu a cláusula de AGI que teria acionado mudanças nos direitos de IP da Microsoft uma vez que o conselho da OpenAI declarasse o limite atingido. A licença de IP da Microsoft, uma participação de 27% avaliada em cerca de US$ 135 bilhões, será mantida até 2032. A Microsoft está supostamente buscando comprar a Inception, uma empresa que constrói modelos de linguagem baseados em diffusion. É interessante que a Microsoft gastaria US$ 13 bilhões em um parceiro e então imediatamente iniciaria um processo de aquisição paralelo para um substituto.
A SpaceXAI está perdendo talentos importantes nas áreas de programação, modelos de mundo e Grok voice. Rivais como Meta e Thinking Machines Lab estão contratando ex-funcionários. A cultura de trabalho extremo de Elon Musk levou alguns funcionários a sair. Várias saídas podem ter sido motivadas pelo desejo de realizar ganhos financeiros.
Batching assíncrono pode reduzir tempo ocioso entre ciclos de CPU e GPU, melhorando utilização da GPU para inference em 22%. Usando CUDA streams e eventos, tarefas da CPU preparam o batch N+1 durante computação do batch N na GPU, eliminando lacunas ociosas. Este método resulta em operações de GPU mais eficientes sem alterar kernels ou modelos, aumentando substancialmente a velocidade de geração.
A OpenSquilla apresentou um runtime de agente de IA open-source projetado para reduzir gastos desnecessários com tokens através da reutilização eficiente de contexto.
A Bloomberg reportou que a OpenAI explorou opções legais contra a Apple devido à insatisfação com a profundidade da integração do ChatGPT no ecossistema da Apple e o crescimento limitado de assinantes que se seguiu.
A Anthropic delineia dois cenários possíveis para a liderança global em IA em 2028: um onde os EUA mantêm sua vantagem em compute e moldam as normas da IA, e outro onde a China compete de perto devido à inação política. Os EUA atualmente lideram devido a fortes controles de exportação e tecnologia avançada de chips que impede a China de acompanhar o ritmo. Fechar brechas no acesso a compute e restringir ataques de distillation são cruciais para manter a liderança americana e garantir que as democracias moldem a governança da IA.
