Mac Studio executando testes de modelos grandes: M3 Ultra, soluções de cluster e expectativa para M5 Ultra

Em abril de 2026, modelos de nível de 1 trilhão de parâmetros, como o DeepSeek V4 Pro e o Kimi K2.6, foram lançados em sequência, tornando “rodar LLMs de código aberto de ponta na própria máquina” uma opção viável. Para engenheiros e equipes pequenas que não querem montar uma workstation com H100, mas ainda assim desejam ter capacidade completa de inferência local, o Mac Studio M3 Ultra 256GB é, na fase atual, a solução mais custo-benefício em máquina única, e, em conjunto com clusters usando Thunderbolt 5, é possível avançar até o domínio de modelos com 1T de parâmetros. Este artigo reúne dados de testes reais do M3 Ultra rodando modelos grandes, soluções de cluster, vantagens do framework MLX e o cronograma esperado do M5 Ultra.

Status das especificações do M3 Ultra: memória unificada de 256GB, largura de banda de 819 GB/s

Até abril de 2026, o SKU topo de linha do Mac Studio ainda é o M3 Ultra, com configuração máxima de CPU de 32 núcleos, GPU de 80 núcleos, memória unificada de 256GB e largura de banda de memória de 819 GB/s. A Apple pulou a geração do M4 Ultra — não existe Mac Studio com M4 Ultra no mercado, e isso é um mal-entendido comum. O M5 Ultra deve ser apresentado na WWDC de 2026 (8 a 12 de junho), mas, de acordo com uma reportagem do Bloomberg Mark Gurman em 4/19, por causa de gargalos na cadeia de suprimentos, pode ser adiado para outubro.

Para inferência de LLM, “memória unificada” é a maior vantagem de diferenciação do Mac Studio. A GPU e a CPU compartilham o mesmo DRAM; os pesos do modelo não precisam ser movidos para lá e para cá no PCIe. Em comparação com a arquitetura de dupla camada do NVIDIA H100 — 80GB HBM3 + DDR5 da placa-mãe —, a “pool” de 256GB do Mac Studio pode acomodar o modelo quantizado Q4 completo de 405B, eliminando a complexidade de coordenação de múltiplas placas.

Llama 3.1 405B: modelo Q4 em 256GB roda sozinho em uma única máquina

O Meta Llama 3.1 405B, após quantização de 4-bit, fica com cerca de 235GB, cabendo exatamente no orçamento de memória de 256GB do Mac Studio M3 Ultra, permitindo carregar e inferir o modelo completo em máquina única. Em testes reais, a velocidade de geração de tokens ficou na faixa de 5–10 tokens por segundo (varia conforme o tamanho do prompt e o batch size); embora seja muito menor do que centenas de tok/s de um cluster com H100, já é suficiente para cenários de “pesquisa offline, uso por uma única pessoa”.

Em comparação com necessidades: se você quer fazer um serviço de production e precisa de throughput de concorrência (por exemplo, atender simultaneamente 10+ usuários), o Mac Studio não é adequado; ainda é preciso seguir a rota de soluções em nuvem com H100/H200.

DeepSeek V3 671B: não roda em máquina única; é necessário ir para cluster

O DeepSeek V3 (671B de parâmetros totais, 37B ativos) após quantização fica em torno de 350–400GB, já acima do limite de 256GB de uma única Mac Studio. Uma solução viável é “um cluster de 8 unidades de M4 Pro Mac Mini” — testes da comunidade com conexão via Thunderbolt 5 atingiram 5.37 tok/s. Embora a velocidade seja lenta, isso prova que clusters com Apple Silicon conseguem sustentar modelos da faixa de 600B+.

Para o DeepSeek V4 Pro (1.6T de parâmetros totais, 49B ativos), após quantização ainda excede o total de memória dos clusters mainstream de Mac Studio; seria necessário uma infraestrutura local em maior escala ou voltar para Ollama Cloud/usar a API do próprio DeepSeek para inferência em nuvem.

Kimi K2 Thinking 1T de parâmetros: cluster de 40 mil dólares para chegar a 25 tok/s

O experimento de cluster do Mac Studio mais representativo de 2026 é o Kimi K2 Thinking (1T de parâmetros totais): 4 unidades de Mac Studio M3 Ultra topo de linha (256GB em cada unidade), interligação via Thunderbolt 5, usando o protocolo RDMA over Thunderbolt; investimento total de cerca de 40 mil dólares (aprox. NT$130 萬), e, nessa configuração, foi obtida uma velocidade de inferência em single request de 25 tokens/s.

O significado desse número: comparado ao cluster “mais alto nível” de 40 mil dólares no Mac Studio versus uma única NVIDIA H100 (cerca de 30 mil dólares, 80GB HBM3), o primeiro consegue rodar inferência completa de 1T de parâmetros enquanto a segunda não consegue. Porém, o cluster com H100 (4 placas = 120 mil dólares) tem um throughput muito superior ao do cluster com Mac Studio. Lógica de escolha: pesquisa single-user em single request → Mac Studio; production com múltiplas pessoas e alta concorrência → H100.

Framework MLX: < 14B de modelos é 20–87% mais rápido que llama.cpp

O MLX da própria Apple (Machine Learning eXchange) é um framework criado especificamente para memória unificada em Apple Silicon e Neural Accelerators embutidos em cada GPU. Testes da comunidade mostram que, em modelos abaixo de 14B de parâmetros, o MLX é 20–87% mais rápido do que o llama.cpp. Para modelos comuns de “assistente pessoal”, como Llama 3 8B, Phi-4 e Qwen 2.5 7B, o MLX é a escolha padrão.

Para modelos maiores (30B+), as vantagens do MLX diminuem; o Ollama e o llama.cpp ainda têm seus próprios cenários de aplicação (ecossistema completo, comunidade ativa). Recomendação prática: modelos pequenos com MLX; modelos grandes com Ollama/llama.cpp; e modelos extremamente grandes com cluster ou nuvem.

Expectativa do M5 Ultra: largura de banda de 1.100 GB/s, lançamento em junho ou outubro

Vazamentos mais recentes de abril de 2026 apontam as especificações do M5 Ultra: CPU de 32–36 núcleos, GPU de 80 núcleos, memória unificada de 256GB (mesmo patamar) e cerca de 1.100 GB/s de largura de banda de memória (aumento de 34%). Para inferência de LLM, a largura de banda de memória é o gargalo-chave que determina o tok/s — com o M5 Ultra esperado, a velocidade de inferência em máquina única do 405B Q4 pode ser aumentada em mais de 30% mantendo a mesma capacidade de 256GB.

Observações de cronograma:

WWDC 2026 (8 a 12 de junho): o cenário mais otimista para o lançamento

Outubro: o “ponto alternativo de atraso na cadeia de suprimentos” citado por Bloomberg Mark Gurman em 4/19

Atualmente, a disponibilidade do modelo Mac Studio M3 Ultra 256GB está apertada: prazo de entrega de 10–12 semanas, com falta de estoque em algumas configurações

Para compradores que pretendem adquirir entre 5 e 6 meses: recomenda-se esperar a confirmação do M5 Ultra; a taxa de preservação de valor do M3 Ultra 256GB em segunda mão tende a cair bastante com a chegada de novos produtos.

Comprar Mac Studio vs montar uma workstation de GPU: trade-offs em duas rotas

Com o mesmo orçamento (NT$30-130萬), os dois caminhos a pesar:

Preço de entrada para workstation de GPU montada com Mac Studio M3 Ultra 256GB (RTX 5090×2 ou H100×1) ~ NT$30 萬 RTX 5090×2 ~ NT$25 萬；H100 ~ NT$80 萬+ máximo pode rodar modelo 405B Q4 (single) RTX 5090×2: 70B-120B Q4；H100: 405B Q8 velocidade de inferência (70B Q4) 15-25 tok/s RTX 5090×2: 30-60 tok/s consumo de energia (inferência típica) ~ 200W 800-1200W ruído quase inaudível ruído de ventoinha de nível servidor cenário mais adequado pesquisadores, desenvolvedores pessoais, uso offline prolongado pequena equipe production, precisa de fine-tuning

Conclusão: Mac Studio para uso individual por uma pessoa; workstation de GPU para produção por várias pessoas em equipe. A vantagem do Mac Studio está em ter memória unificada que acomoda modelos grandes, ser silencioso e ter baixo consumo de energia; a vantagem da workstation de GPU está no ecossistema nativo CUDA, throughput para múltiplas pessoas e concorrência, além de permitir treinamento/ajuste fino. Para a maioria dos leitores do abmedia (desenvolvedores individuais, pesquisadores, entusiastas de IA), o Mac Studio M3 Ultra 256GB ainda é a melhor configuração de partida no 2º trimestre de 2026—exceto se você estiver disposto a esperar o M5 Ultra.

Este artigo: Testes reais do Mac Studio rodando modelos grandes: M3 Ultra, soluções de cluster e expectativa do M5 Ultra — apareceu primeiro no ABMedia, em “cadeia de notícias”.