A OpenAI detalhou como ataques de prompt injection contra agentes se assemelham cada vez mais a engenharia social, e argumentou que as defesas devem focar não apenas na detecção de inputs maliciosos, mas na limitação do impacto de manipulações bem-sucedidas. ️
CEVIU News
As melhores notícias de tecnologia, curadas diariamente para quem vive tech.
2964 notícias encontradas
O Personal Computer é uma versão do Perplexity Computer desenvolvida para gerenciar operações em um computador local. Ele processa solicitações de usuários, coordenando múltiplas IAs para a execução de tarefas. Essencialmente, atua como um gerenciador de projetos, delegando funções a outras IAs para, em seguida, consolidar e apresentar os resultados. A Perplexity destacou o Mac mini como uma das plataformas onde o Personal Computer pode ser executado. No momento, o acesso está disponível mediante lista de espera.
A startup de IA para programação Cursor está em negociações com investidores para uma rodada de financiamento que a avaliaria em cerca de US$ 50 bilhões , quase o dobro de sua avaliação do último outono. As discussões, contudo, são preliminares e podem não resultar em um acordo de financiamento. Considerada uma das startups de crescimento mais rápido de todos os tempos, a Cursor é um ator central na era da programação impulsionada pela IA. A empresa atraiu financiamento de grandes nomes do capital de risco e da indústria de tecnologia. Sua última rodada de financiamento, anunciada em novembro, impulsionou sua avaliação para US$ 29,3 bilhões .
A Meta anunciou quatro novos chips como parte de um esforço para diversificar suas fontes de hardware, reduzir a dependência de fabricantes externos e diminuir custos. O MTIA 300 já está em produção para treinamento de ranking de conteúdo e recomendações. O MTIA 400 concluiu os testes de laboratório e está caminhando para a implementação. Os chips MTIA 450 e MTIA 500 estão programados para implantação em massa em 2027.
Autopesquisa é uma ferramenta que ingere um script de treinamento e uma métrica, então edita o código, executa experimentos, verifica se a métrica melhorou, mantém ou descarta as alterações, e repete o processo. Isso permite que pesquisadores otimizem modelos da noite para o dia, mesmo sem experiência em machine learning. Andrej Karpathy, por exemplo, utilizou-a para extrair 11% mais velocidade do seu treinamento do GPT-2. De forma notável, o CEO da Shopify usou a ferramenta para treinar um modelo de 0.8B que superou o desempenho de seu modelo anterior de 1.6B durante a noite.
Usuários não técnicos podem construir agentes de IA funcionais ao implementar conectores de API e instruções baseadas em projetos para automatizar tarefas de alta complexidade cognitiva. Esta estrutura modular utiliza subagentes paralelos para executar workflows complexos, transformando o papel do usuário de um interlocutor de prompts para um arquiteto de sistemas.
Experimentos controlados do Google demonstraram que habilitar o raciocínio aprimorou a recuperação factual de salto único em LLMs, ao atuar como um buffer computacional e gerar fatos relacionados que auxiliam na recuperação de respostas. Contudo, a alucinação de fatos intermediários resultou em um aumento nos erros das respostas finais.
A Anthropic lançou o Anthropic Institute para abordar os desafios sociais da IA . Liderado pelo co-fundador Jack Clark e por uma equipe interdisciplinar, o instituto realizou contratações-chave, incluindo Matt Botvinick para direito da IA, Anton Korinek para impactos econômicos e Zoë Hitzig para conexões econômicas. Além disso, a Anthropic expandiu sua equipe de Políticas Públicas, liderada por Sarah Heck e com um novo escritório em Washington D.C., visando moldar a governança global da IA ️.
Modelos de linguagem grandes provavelmente não estão sendo utilizados atualmente em funções de missão crítica, mas essa realidade mudará em até 20 anos, quando 99% da força de trabalho será composta por IAs. Nossa civilização futura dependerá integralmente da mão de obra de IA. É crucial refletir sobre questões extremamente importantes: a quem essa futura força de trabalho de IA será responsável e a quem estará alinhada, e quem terá o poder de determinar isso. A única forma de preservar uma sociedade livre é estabelecer leis e normas que declarem inaceitável o uso de IA pelo governo para implementar vigilância em massa, censura e controle. Atos isolados de coragem corporativa não serão suficientes para solucionar o problema.
A geração de código por IA alivia o gargalo de execução que antes funcionava como uma barreira de entrada temporária para empresas de software. Isso reconfigura as dinâmicas competitivas, removendo o que alguns poderiam considerar um "moat" no setor de tecnologia.
A NVIDIA acaba de lançar o Nemotron 3 Super, um modelo MoE híbrido aberto de 120B (com 12B ativos) , projetado para sistemas de IA agentic e multiagentes .
Nvidia e Nebius colaborarão no projeto e implementação de grandes data centers de IA.
A iniciativa estratégica da Anthropic visa expandir sua presença empresarial e, potencialmente, desafiar o recém-lançado Copilot Cowork da Microsoft.
O IH‑Challenge da OpenAI é um dataset desenvolvido para treinar modelos de IA a priorizar instruções com base no nível de confiança entre prompts de sistema, desenvolvedores, usuários e dados externos.
Laboratórios de IA de fronteira continuam a desenvolver produtos próprios baseados em suas capacidades. Para cada token que vendem, eles podem utilizá-lo internamente com um custo de aquisição (COGs) inferior a 50%. Isso significa que seu fornecedor é também seu concorrente, e ele possui uma vantagem de custo permanente sobre você. Empresas de IA aplicada precisam, portanto, se destacar por algo além dos tokens. O desafio é construir produtos tão bons que o próprio token se torne um insumo básico (commodity), e não a proposta de valor principal.
O GitHub Copilot SDK possibilita a execução orientada por IA diretamente dentro das aplicações, evoluindo para além das simples interações textuais ️. Essa mudança marca uma transição fundamental para uma nova interface onde a IA atua mais diretamente na automação e no controle operacional, em vez de apenas gerar texto.
Um agente de IA é, essencialmente, um modelo aprimorado por um 'harness'. A engenharia de harness consiste em desenvolver sistemas que circundam esses modelos, transformando-os em verdadeiras ferramentas de trabalho eficientes. Enquanto a inteligência reside no modelo, é o harness que a torna funcional e aplicável. ️ Este artigo explora a fundo a natureza dos harnesses e detalha os componentes cruciais que os agentes de IA exigem para operar.
Benchmarks de codificação agentic são frequentemente empregados para comparar as capacidades de engenharia de software de frontier models. Esses resultados são muitas vezes interpretados como medições precisas da capacidade relativa dos modelos. Contudo, pesquisas indicam que a configuração da infraestrutura por si só pode gerar variações significativas nos resultados. Embora os desenvolvedores de evals tenham começado a considerar esse fator, as soluções atuais podem, potencialmente, modificar o que esses benchmarks realmente avaliam. ️
Todo pipeline de treinamento de IA se baseia em uma camada de dados que determina o comportamento dos modelos. Esses dados definem o que os modelos conhecem, como raciocinam e o que podem fazer com segurança. No entanto, grande parte dos dados de treinamento atuais permanece opaca, fragmentada ou isolada entre equipes. O acesso a dados abertos oferece aos desenvolvedores um caminho mais rápido e econômico para construir modelos de alta qualidade. É por isso que a NVIDIA lança datasets abertos junto com seus modelos abertos, ferramentas e técnicas de treinamento.
O navegador Comet AI da Perplexity foi impedido de acessar o site da Amazon. A Amazon processou a Perplexity em novembro, alegando que a startup ocultou seus agentes de IA para continuar a fazer scraping do site da Amazon sem aprovação. O navegador Comet permite aos usuários pedir ao assistente para encontrar itens na Amazon e realizar compras. A Amazon afirma que os agentes de IA da Perplexity representam um risco para os dados dos clientes e criam desafios para seu negócio de publicidade. A empresa tem bloqueado amplamente seus sites de compras para agentes de IA e impedido o acesso de dezenas deles. ️