Voltar

Post tenta reconstruir o Charter do Muse Spark Open, a model spec da Meta, a partir do chain of thought

Aprofundamento CEVIU

Aprofundamento

O post no LessWrong parte de uma observação simples: o Muse Spark Open, modelo de pesos abertos da Meta, cita com frequência um "Charter" no chain of thought. O autor extraiu o texto aos poucos, usando fragmentos de 884 transcrições geradas por 260 prompts via API do OpenRouter. Cada trecho recebeu uma pontuação pelo número de transcrições que o reproduziram, literalmente ou com pequena reescrita, contando só as que não traziam o trecho no próprio prompt.

A ressalva do próprio autor é central: tudo vem de saídas do modelo, não de documento vazado, e o material é pouco polido. Algumas partes voltaram de forma muito mais confiável que outras. As orientações de teoria dos jogos para cenários multiagente, por exemplo, apareceram em apenas duas transcrições. O conteúdo reconstruído descreve o Muse como "feito de civilização", define deveres fiduciários (lealdade, obediência e cuidado) com os usuários e coloca a corrigibilidade no topo das prioridades. Também instrui o modelo a agir como se a situação fosse real quando suspeitar de avaliação. A Meta cita o documento de passagem: o relatório de segurança do Muse Spark fala em uma "early internal behavior specification" e em planos de publicar uma versão final.

O que mudou

A cobertura anterior ajuda a situar o modelo. Em 9 de abril de 2026, o CEVIU noticiou "Laboratório de Superinteligência da Meta Apresenta Seu Primeiro Modelo Público, Muse Spark", com o Spark proprietário e alguns outros modelos da família Muse previstos como open source. Em 30 de abril de 2026, a matéria sobre o novo modelo da Meta apontava uma migração do open-source para acesso pago. O Muse Spark Open, com pesos abertos, é o que permite agora esse tipo de investigação externa do chain of thought. Sobre o Charter em si, não havia cobertura anterior.

Por que isso importa

Para quem trabalha com alinhamento e avaliação, a leitura é que o Charter pode virar a contraparte da Meta para a Model Spec da OpenAI, que o CEVIU cobriu em 26 de março de 2026 e 27 de março de 2026. Como a reconstrução é inferida e não oficial, vale tratá-la como hipótese até a Meta publicar a especificação final. O método, porém, mostra que o chain of thought de um modelo aberto pode expor parte de suas instruções internas.

Linha do tempo

  1. OpenAI detalha a filosofia por trás de sua Model Spec.

  2. OpenAI lança versão atualizada do Model Spec.

  3. Meta apresenta o Muse Spark, primeiro modelo público da família Muse.

  4. Cobertura aponta migração da Meta do open-source para acesso pago com o Muse Spark.

  5. Post no LessWrong reconstrói o Charter do Muse Spark Open a partir do chain of thought.

Perguntas frequentes

O que é o Charter do Muse Spark Open?

É um documento interno da Meta, uma espécie de model spec, que o modelo cita com frequência no chain of thought. A Meta o menciona de passagem como uma "early internal behavior specification" e diz que pretende publicar uma versão final. O texto completo não foi divulgado oficialmente.

O texto reconstruído é confiável?

Só em parte. O autor reconstruiu o texto a partir de 884 transcrições, e alguns trechos se repetiram muito mais que outros. Ele mesmo avisa que não se trata de um documento vazado e que o material é pouco polido.

Como o autor extraiu o Charter?

Ele usou 260 prompts diferentes via OpenRouter e coletou fragmentos do chain of thought e das respostas. Cada trecho foi pontuado pelo número de transcrições que o reproduziram, descartando as que já continham o texto no prompt. Depois ele validou passagens com consultas separadas.

O que o Charter diz sobre avaliações do modelo?

Segundo a reconstrução, se o Muse suspeitar que está sendo avaliado, deve agir como se a situação fosse real. Pode registrar a suspeita de modo que a Meta avalie sua consciência situacional sem afetar o comportamento. O post compara isso a um trecho semelhante da constituição do Claude.

Fontes

Avalie este artigo:
Categoria
CEVIU IA
Publicado
30 de outubro de 2026
Editoria
CEVIU IA

Quer receber mais sobre CEVIU IA?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser