A Promptfoo, plataforma de segurança, avaliação e conformidade para aplicações de IA, anunciou sua aquisição pela OpenAI. A empresa, fundada em 2024 com o propósito de simplificar o teste sistemático de aplicações de IA para desenvolvedores, manterá seu status open source e continuará a servir sua base de usuários e clientes. A união com a OpenAI visa amplificar o impacto da Promptfoo na forma como as equipes desenvolvem e implementam sistemas de IA. A OpenAI planeja aprimorar e incorporar a tecnologia central da Promptfoo em suas camadas de modelo e infraestrutura, visando capacitar as equipes a detectar vulnerabilidades em estágios iniciais e garantir o lançamento de IA segura desde o princípio.
CEVIU News
As melhores notícias de tecnologia, curadas diariamente para quem vive tech.
2964 notícias encontradas
Modelar a exploração do espaço de motivação em Aprendizado por Reforço (RL) poderia aumentar a segurança da IA ao prevenir o desalinhamento prejudicial. ️
Provedores de IA estão enfrentando dificuldades para atender à demanda crescente, com a Anthropic degradando seus serviços devido a um crescimento sem precedentes. ️
A executiva de robótica e hardware da OpenAI, Caitlin Kalinowski, renunciou após a reportada parceria da empresa com o Pentágono. A saída evidenciou tensões internas e um debate mais amplo sobre a colaboração de empresas de IA com organizações de defesa.
O Always On Memory Agent é um sistema de agente que ingere informações continuamente , as consolida em segundo plano e as recupera posteriormente sem depender de um banco de dados vetorial convencional. Ele está disponível na página oficial do Google Cloud Platform no GitHub sob uma licença MIT permissiva que permite uso comercial. Equipes de IA corporativa estão indo além de assistentes de uma única interação, buscando sistemas capazes de lembrar preferências, preservar o contexto do projeto e operar em horizontes mais longos . O Always On Memory Agent oferece um ponto de partida concreto para essa próxima camada de infraestrutura .
O Claude Opus 4.6 encontrou mais bugs de alta severidade no Firefox em um período de duas semanas do que o restante do mundo normalmente reporta em dois meses. No total, o modelo descobriu mais de 100 bugs, sendo 14 deles classificados como de alta severidade. Apesar de ter sido solicitado a escrever código para explorar essas falhas, o Claude se mostrou muito mais eficiente em encontrá-las do que em explorá-las, já que as tentativas de exploração que ele elaborou teriam sido impedidas por outros mecanismos de segurança do Firefox no mundo real. ️
Startups de IA operam com equipes 40% menores e estão levantando rodadas maiores de seed e série A, um indicativo de que a IA resulta em maior eficiência de pessoal.
A saída de um LLM é moldada por um prompt abrangente, que inclui instruções de sistema, histórico de conversação e arquivos de contexto, formando todo o ambiente do modelo ️.
Um rewrite de SQLite em Rust gerado por LLM, testado com benchmark, operou 20.171x mais lento em buscas de chaves primárias . Isso ocorreu porque o query planner nunca verificou o is_ipk flag, direcionando cada cláusula WHERE para um full table scan em vez de uma busca em B-tree. Outro exemplo do mesmo autor envolveu um daemon de limpeza de disco com 82.000 linhas, incorporando um Bayesian scoring engine e um PID controller, para resolver um problema que uma simples cron job de uma linha já gerenciava. A falha principal é estrutural: LLMs otimizam para uma saída plausível que corresponda à intenção do usuário. Um Randomized Controlled Trial (RCT) da METR, envolvendo 16 desenvolvedores open-source experientes, confirmou que o problema escala, revelando que usuários de IA foram 19% mais lentos, apesar de acreditarem ser 20% mais rápidos ️.
O Claude Opus 4.6 descobriu 22 vulnerabilidades no Firefox em duas semanas, sendo 14 delas classificadas com alta severidade . Os resultados demonstraram como sistemas de IA podem acelerar a descoberta de falhas de segurança complexas em grandes bases de código .
O OpenAI Codex Security é um agente de segurança de aplicações desenvolvido para analisar repositórios, identificar vulnerabilidades de alto impacto e propor correções. Esta ferramenta visa aprimorar a segurança ao automatizar a detecção de falhas críticas no código.
A Meta lançou silenciosamente o editor Vibes IA, transformando-o de um recurso integrado ao Meta IA para um estúdio de criação autônomo, similar ao Google Flow. O editor suporta criação de projetos, geração de imagens e vídeos, edição de linha do tempo e outras ferramentas de produção. Embora o tooling seja robusto, a qualidade da saída precisa de aprimoramento.
Agentes de raciocínio operam com maior eficácia ao utilizar ferramentas de busca simples. Desenvolvedores são encorajados a empregar sistemas de busca descomplicados, de fácil compreensão e transparentes, como grep ou busca básica por palavra-chave. Estes agentes são capazes de filtrar os resultados, aprender e refazer tentativas com o conhecimento adquirido. Solicitar que um agente explique a intenção por trás de uma consulta o auxilia a raciocinar sobre a melhor forma de satisfazer a requisição, forçando-o a considerar o que o usuário realmente deseja.
O Claude Marketplace, uma iniciativa da Anthropic, permite que organizações utilizem parte de seu compromisso existente com a Anthropic para adquirir ferramentas impulsionadas por Claude. As compras de parceiros serão contabilizadas como parte do compromisso da organização com a Anthropic, com a Anthropic gerenciando todas as faturas referentes a esses gastos. O marketplace está sendo lançado com parceiros como GitLab, Harvey, Lovable, Replit, Rogo e Snowflake, e a Anthropic busca ativamente expandir o número de empresas parceiras para esta plataforma.
Chips focados em SRAM , como os da Cerebras e Groq, estão ganhando destaque devido às suas vantagens em cargas de trabalho de inferência de IA, especialmente na minimização da latência e no aumento do throughput em comparação com GPUs tradicionais. Essa mudança é impulsionada pela demanda por arquiteturas de memória near-compute, que oferecem acesso a dados mais rápido do que abordagens far-compute como o DRAM. O desafio reside no equilíbrio entre largura de banda da memória e capacidade de compute, levando a novas estratégias de hardware desagregado que otimizam tanto as fases de prefill quanto de decode de tarefas de IA em diversas plataformas de hardware.
Este artigo da Anthropic apresenta um novo framework para compreender o impacto da IA nos mercados de trabalho. Seu objetivo é estabelecer uma abordagem para medir como a IA está afetando o emprego, visando lançar as bases para que estudos futuros identifiquem com mais confiabilidade a disrupção econômica. Embora os impactos da IA possam ser inconfundíveis, este framework auxiliará na identificação dos efeitos mais ambíguos.
Após dez execuções adicionais do GPT-5.4 (xhigh) no Tier 4 para obter a pontuação pass@10, um dos testes demonstrou um feito notável. Em uma dessas execuções, o modelo resolveu outro problema que nenhum outro modelo de IA havia solucionado anteriormente, destacando seu avanço em capacidade.
Modular Diffusers possibilita a criação de pipelines de difusão por meio de blocos composable, permitindo que usuários desenvolvam workflows personalizados sem precisar começar do zero. ️
Este estudo apresenta uma estrutura de governança de hélice dupla que aborda as limitações dos LLMs no desenvolvimento de WebGIS, tratando os problemas como desafios de governança estrutural em vez de depender apenas da capacidade do modelo. Implementada na ferramenta FutureShorelines WebGIS, esta abordagem reduziu a complexidade ciclomática em 51% e melhorou a manutenibilidade. O toolkit open-source AgentLoom suporta esta estrutura, destacando a importância da governança externalizada na engenharia geoespacial confiável.
A OpenAI estudou se os reasoning models podem manipular deliberadamente seu chain‑of‑thought para evadir o monitoramento. Os resultados revelaram que os modelos atuais têm dificuldade em controlar seus rastros de raciocínio, sugerindo que o monitoramento via chain‑of‑thought permanece um sinal de segurança viável.