
O XDA sinalizou a mudança em março: Ollama 0.19 trocou seu backend Apple Silicon para MLX e o prefill saltou cerca de 1,6x, com decodificação próxima a 2x no mesmo hardware de série M. A razão é a parte da arquitetura do Mac que silenciosamente se tornou o recurso essencial para IA local. A memória unificada permite que a GPU leia a mesma RAM que a CPU usa, então um MacBook de 64 GB pode carregar um modelo classe 70B que não caberia em um cartão RTX de 24 GB, e MLX, o próprio framework ML da Apple, aprendeu a forçar esse hardware com mais força do que os runtimes multiplataforma jamais conseguiram.
Testamos 7 dos melhores aplicativos para executar LLMs locais no Mac, com viés para ferramentas que realmente exploram MLX ou Metal em vez daquelas que apenas compilam. O benchmark foi o material chato: quão rápido um modelo carrega em uma M2 Pro, quão limpo o aplicativo usa aceleração GPU, se a interface de chat é agradável depois de uma hora, e se o projeto acompanha novas arquiteturas de modelo. A maioria das opções sólidas é gratuita ou tem um nível pessoal generoso.
O que procurar em um aplicativo Mac de LLM local
Um punhado de critérios separa as ferramentas que sobrevivem em um MacBook das que são desinstaladas na segunda semana:
- Suporte MLX. O framework da Apple agora é o caminho mais rápido em chips de série M. Aplicativos que enviam um backend MLX, não apenas um wrapper llama.cpp, continuarão ampliando a vantagem no silício M5 e posterior.
- Aceleração GPU Metal. Para aplicativos ainda em llama.cpp, a qualidade do backend Metal decide se tokens por segundo é utilizável ou uma apresentação de slides.
- Compatibilidade GGUF. GGUF é o formato que o catálogo Hugging Face envia. Um aplicativo que não pode carregar um GGUF recente é um beco sem saída, mesmo em Apple Silicon.
- Consciência de memória unificada. Bons aplicativos mostram quanto RAM compartilhada um modelo consumirá e impedem que você carregue algo que causará swap. Aplicativos ruins deixam macOS ficar lento e depois derrabar.
- API compatível com OpenAI. Um endpoint local em
localhosté o que conecta o modelo a extensões do editor, notebooks e atalhos. Os aplicativos mais fortes expõem um sem configuração adicional. - Postura de privacidade. Alguns aplicativos rodam completamente offline. Outros ligam para casa para análise por padrão e precisam de uma flag para parar, o que importa se a razão pela qual você foi local foi privacidade desde o início.
Comparação rápida
| Aplicativo | Melhor para | Suporte Apple Silicon | Plano gratuito | Recurso destacado |
|---|---|---|---|---|
| Ollama | Instalações de uma linha com backend MLX | Motor MLX em série M | Sim (código aberto) | API compatível com OpenAI em localhost:11434 |
| LM Studio | Chat refinado com GGUF e MLX lado a lado | Runtime MLX nativo | Sim (gratuito para uso pessoal) | Carregue GGUF e modelo MLX em uma janela |
| Jan | Chat completamente de código aberto que respeita modo offline | Metal via llama.cpp | Sim (código aberto) | Sem telemetria e painel de configurações transparente |
| GPT4All | Macs com pouca RAM e Apple Silicon antigo | Metal via llama.cpp | Sim (código aberto) | Quants com prioridade CPU afinados para máquinas de 8 GB |
| Msty | Comparação de dois modelos locais lado a lado | Metal via llama.cpp | Sim (nível gratuito) | Dois modelos, uma janela, mesmo prompt |
| MLX Chat (mlx-lm) | Máximo de throughput e fine-tuning | MLX de primeira mão | Sim (código aberto) | Runtime de referência da Apple para modelos MLX |
| Llama.cpp | Controle direto do backend Metal | Kernels Metal afinados manualmente | Sim (código aberto) | O runtime que cada outro aplicativo envolve |
Os 7 melhores aplicativos para executar LLMs locais no Mac
1. Ollama — melhor instalação de uma linha com backend MLX
Ollama moveu seu backend Apple Silicon para MLX na versão 0.19 e transformou um runtime estável em um notavelmente rápido. O mesmo comando ollama run puxa um modelo quantizado e começa a conversar, mas em um Mac de série M com pelo menos 32 GB de memória unificada o novo motor processa o prefill cerca de 1,6x mais rápido e decodificação próxima a 2x mais rápido do que o caminho llama.cpp que substituiu. As atualizações recentes adicionaram suporte NVFP4 4-bit para qualidade mais alta com o mesmo custo de memória.
Onde fica aquém: O motor MLX é limitado a Apple Silicon com memória unificada suficiente, então MacBooks antigos de 16 GB caem no runtime padrão. A interface proprietária continua sendo um CLI e daemon, então a maioria das pessoas a emparelha com um frontend de chat separado.
Preços:
- Gratuito: código aberto, sem taxa de licença
- Pago: nenhum
Plataformas: macOS, Windows, Linux
Baixar: ollama.com
Conclusão: Escolha Ollama para LLMs locais no Mac se você quer o backend mais rápido com o menor custo de configuração e está feliz em trazer sua própria interface.
2. LM Studio — melhor interface de chat para misturar GGUF e MLX
LM Studio é um dos poucos aplicativos que executa modelos llama.cpp GGUF e MLX na mesma janela, o que a torna a forma mais fácil de sentir a diferença de velocidade do Apple Silicon por você mesmo no mesmo prompt. Apple citou LM Studio em seus materiais de lançamento M5 por essa razão. O navegador de modelos se conecta ao Hugging Face, sinaliza variantes otimizadas para MLX e mostra se um arquivo caberá em sua memória unificada antes de você se comprometer com o download.
Onde fica aquém: A licença permite uso pessoal gratuito, mas um plano pago é necessário em contextos comerciais, o que vale a pena saber antes de instalar em um MacBook corporativo. O aplicativo é de código fechado.
Preços:
- Gratuito: uso pessoal
- Pago: plano de trabalho para uso comercial
Plataformas: macOS, Windows, Linux
Baixar: lmstudio.ai
Conclusão: Escolha LM Studio para LLMs locais no Mac se você quer uma única janela que lida com descoberta de modelo, seleção de MLX ou GGUF, chat e uma API local.
3. Jan — melhor cliente de chat completamente de código aberto para macOS
Jan é o que acontece quando um time reconstrói a experiência do LM Studio como código aberto do zero. O aplicativo de desktop se sente nativo no macOS, usa o backend Metal via llama.cpp para aceleração GPU, e a política declarada do projeto é rodar completamente offline sem telemetria. O painel de configurações torna óbvio quais switches afetam chamadas de rede, o que é incomum nessa categoria.
Onde fica aquém: O desempenho fica atrás do Ollama e LM Studio no Apple Silicon porque Jan ainda não entregou um runtime MLX de primeira classe, deixando um pedaço de throughput de série M sobre a mesa. As histórias de mobile e API remota são mais novas do que chat de desktop.
Preços:
- Gratuito: código aberto, sem taxa de licença
- Pago: nenhum
Plataformas: macOS, Windows, Linux
Baixar: jan.ai
Conclusão: Escolha Jan para LLMs locais no Mac se código aberto importa mais do que extrair os últimos 20 por cento da sua GPU.
4. GPT4All — melhor para Apple Silicon antigo e Macs de 8 GB
GPT4All ainda faz o trabalho chato melhor do que a maioria em hardware que o resto do campo parou de cuidar. A lista de modelos padrão é afinada para inferência CPU e GPU modesta, os quants pequenos rodam em M1 MacBook Air com 8 GB de memória unificada, e a interface de chat inclui chat de documento local que aponta para uma pasta no disco. Para proprietários de MacBooks Apple Silicon de modelo base que saíram de modelos 7B rodando lentamente, a seleção de modelo pequeno curada é o ponto de partida correto.
Onde fica aquém: A aceleração Apple Silicon é suportada através de Metal, mas não é onde o foco do projeto está, então modelos maiores ficam atrás dos aplicativos conscientes de MLX. A interface de chat é funcional em vez de bonita.
Preços:
- Gratuito: código aberto, sem taxa de licença
- Pago: nenhum
Plataformas: macOS, Windows, Linux
Baixar: gpt4all.io
Conclusão: Escolha GPT4All para LLMs locais no Mac se sua memória unificada é limitada e você quer um cliente de chat que se envie com modelos afinados para isso.
5. Msty — melhor para comparar dois modelos locais no mesmo prompt
Msty preenche um vazio específico no macOS: pode falar com dois modelos locais ao mesmo tempo e mostrar suas respostas lado a lado. Combinado com hooks para APIs remotas, isso a torna a forma mais fácil de benchmarcar um novo lançamento Qwen MLX contra Gemma GGUF no mesmo prompt sem malabarismo de duas janelas. Stacks de conhecimento permitem anexar pastas ou URLs a um chat para recuperação, e o build do macOS se sente nativo.
Onde fica aquém: O nível gratuito cobre a maioria do uso pessoal, mas alguns recursos poderosos ficam atrás de um plano pago. A busca de modelos é mais estreita do que a do LM Studio e não há runtime MLX de primeira classe, então o throughput bruto fica atrás dos aplicativos conscientes de MLX.
Preços:
- Gratuito: plano pessoal rico em recursos
- Pago: plano Aurum para recursos avançados
Plataformas: macOS, Windows, Linux
Baixar: msty.app
Conclusão: Escolha Msty para LLMs locais no Mac se você ativamente compara modelos e quer um cliente de chat construído para esse fluxo de trabalho.
6. MLX Chat (mlx-lm) — melhor para máximo throughput e fine-tuning
MLX Chat é a camada de chat sobre mlx-lm, o runtime de referência da Apple para executar e afinar LLMs com MLX. É a forma mais direta de usar o framework que alimenta os backends MLX do Ollama e LM Studio, e em hardware classe M5 os próprios números da Apple mostram MLX se separando de llama.cpp com margem significativa, com tempo até primeiro token sob três segundos em um modelo MoE 30B. pip install mlx-lm mais um ID de modelo Hugging Face lhe dá um chat de linha de comando funcionando.
Onde fica aquém: Esta é a ferramenta mais próxima da lista de um projeto de pesquisa. Não há instalador refinado ou navegador de modelos, você gerencia ambientes Python, e as interfaces de chat que a envolvem são mínimas. É também apenas macOS, por design.
Preços:
- Gratuito: código aberto, sem taxa de licença
- Pago: nenhum
Plataformas: macOS (apenas Apple Silicon)
Baixar: github.com/ml-explore/mlx-lm
Conclusão: Escolha MLX Chat para LLMs locais no Mac se você quer o próprio runtime da Apple à mão e está confortável em um terminal.
7. Llama.cpp — melhor controle direto do backend Metal
Llama.cpp é o runtime que quase todo aplicativo nessa lista envolve ou costumava usar. Construí-lo a partir da fonte em um Mac leva um comando, o backend Metal é afinado manualmente para Apple Silicon, e o binário llama-server expõe a mesma API compatível com OpenAI dos aplicativos refinados sem um instalador no meio. Para qualquer um que queira ver exatamente quais kernels rodam, afinar parâmetros sampler por solicitação, ou testar uma arquitetura de modelo completamente nova no dia em que chega ao Hugging Face, este é o caminho.
Onde fica aquém: Sem interface de chat própria além de uma interface web básica, sem navegador de modelos curado, e a superfície flag é larga o suficiente para que a primeira execução geralmente envolva ler o README. Aplicativos conscientes de MLX começaram a ultrapassá-lo em throughput bruto nos chips de série M mais novos.
Preços:
- Gratuito: código aberto, sem taxa de licença
- Pago: nenhum
Plataformas: macOS, Windows, Linux
Baixar: github.com/ggml-org/llama.cpp
Conclusão: Escolha Llama.cpp para LLMs locais no Mac se você quer o runtime que cada outro aplicativo envolve, com nada entre você e os kernels Metal.
Como escolher
Se você quer o caminho mais simples para uma configuração funcionando em Apple Silicon, instale Ollama e emparelhe com um frontend de chat que você gosta.
Se você quer um aplicativo que lida com MLX, GGUF, descoberta de modelo e chat em uma janela refinada, instale LM Studio.
Se código aberto importa mais do que os últimos 20 por cento de throughput, instale Jan.
Se seu MacBook tem 8 GB de memória unificada ou um M1 antigo, instale GPT4All e atenha-se aos seus modelos pequenos curados.
Se você ativamente compara modelos no mesmo prompt, instale Msty.
Se você quer o próprio runtime da Apple à mão e não se importa com um terminal, instale MLX Chat sobre mlx-lm.
Se você quer controle direto do backend Metal sem nada no caminho, construa Llama.cpp a partir da fonte.
FAQ
MLX realmente torna os LLMs locais mais rápidos no Mac do que llama.cpp?
No Apple Silicon atual, sim. Os próprios números do Ollama depois de mudar para MLX mostraram prefill cerca de 1,6x mais rápido e decodificação próxima a 2x mais rápido no mesmo hardware de série M, e benchmarks M5 publicados pela Apple mostram MLX se afastando mais nos chips mais novos. Em máquinas M1 e M2 antigas o intervalo é menor mas ainda real.
Quanta memória unificada eu preciso para executar um LLM local em um Mac?
Para uma experiência confortável com um modelo 7B em quantização 4-bit, 16 GB de memória unificada é suficiente. Para modelos classe 14B, 32 GB é o ponto ideal. Para modelos 70B densos ou modelos mixture-of-experts 30B-A3B com espaço para contexto, 64 GB ou mais é o que você quer.
Ollama é o melhor aplicativo para executar LLMs locais no Mac?
É o melhor backend para a maioria dos usuários Mac agora que o motor MLX foi entregue. Se você também quer uma interface de chat refinada na mesma janela, LM Studio está mais perto de ser uma resposta de um aplicativo. Ollama mais uma interface separada permanece como a stack mais comum.
Posso usar um LLM local no meu Mac com meu editor de código?
Sim. Qualquer aplicativo que exponha um endpoint compatível com OpenAI, incluindo Ollama, LM Studio, Jan e Msty, pode ser definido como URL base em extensões de editor que visam OpenAI. Continue, modo traga-sua-própria-chave do Cursor, e a maioria das extensões VS Code aceitam isso e nunca veem seu código sair da máquina.