Hugging Face lança AnySpeechRecognizer e AnyDecisionModel para rodar modelos abertos de fala e decisão em plataformas Apple

A Hugging Face lançou dois pacotes Swift, o AnySpeechRecognizer e o AnyDecisionModel, ambos baixando modelos abertos do Hub e rodando no dispositivo. O primeiro espelha a API SpeechAnalyzer da Apple (macOS 26 e iOS 26) e deixa trocar o motor: o padrão continua sendo o framework Speech, e para usar Parakeet ou Qwen3-ASR basta mudar a criação do transcriber. Os fluxos de instalar assets, rodar o analyzer e ler resultados não mudam. O pacote também adiciona diarização com o Streaming Sortformer, da NVIDIA, que acompanha até quatro falantes, mesmo com fala sobreposta.

Os números vêm de uma única máquina (M4 Max Mac Studio com macOS 27.0.1) e de poucos conjuntos de dados, e a própria Hugging Face recomenda medir com hardware e áudio próprios. Segundo a fonte, o Parakeet transcreve uma hora de áudio em cerca de 20 a 40 segundos a partir de arquivo, ou 1,5 a 2,5 minutos ao vivo, com cerca de 100 MB de memória. O Qwen3-ASR é bem mais lento e pede alguns gigabytes. Em reuniões (AMI), todos os motores testados passaram de 23% de taxa de erro de palavras. Os testes foram só no macOS 27, não em iPhone. Os downloads são de cerca de 600 MB por Parakeet, 0,9 a 2,4 GB para o Qwen3-ASR e cerca de 250 MB para o Sortformer.

O AnyDecisionModel não tem equivalente na Apple. Ele deriva cada resposta (sim/não, múltipla escolha, escala) das probabilidades do modelo, em vez de gerar texto. Tem seis backends: MLX, decision heads em MLX (como o Clef-Flash 9B, download de 6,2 GB, com recomendação de ao menos 16 GB de memória), Core AI, llama.cpp, Jev e Ollama. Os backends de próximo token limitam a 26 opções por escolha e 10 níveis por escala. Há calibração (temperatura e viés) e rotationDebiasing para o viés de posição, ao custo de uma avaliação de prompt por rotação. Uma limitação concreta: o trait CoreAI do AnyDecisionModel não pode ser combinado com o AnySpeechRecognizer por ora, por conflito de versão do swift-huggingface.

Em 21 de outubro de 2026, o CEVIU noticiou "AnyLanguageModel 1.0 chega e unifica modelos locais e hospedados nas plataformas da Apple", com swift-huggingface 1.0 e swift-xet 1.0. Agora a mesma abordagem (API Swift familiar com escolha de modelo) sai do texto e chega a fala e decisão, já sobre essas versões 1.x. Em 2 de outubro de 2026, o CEVIU havia noticiado "Cloudflare Lança Clef: Modelos de Decisão Open Source para Agentes de IA"; o Clef-Flash agora aparece como backend de decision head rodando em MLX no AnyDecisionModel.

Para quem desenvolve para Apple, isso significa trocar o motor de transcrição sem reescrever o fluxo do SpeechAnalyzer, e testar Parakeet contra Qwen3-ASR com o mesmo código. Para classificação e roteamento, a leitura é que probabilidades tipadas e calibráveis dão mais controle que parsear texto gerado. Como os benchmarks vêm de uma máquina só, vale validar com seus dados antes de decidir.