AMD Lemonade conseguindo silenciosamente suporte a Nvidia é o tipo de pequeno lançamento que resolve um grande problema do mundo real. Qualquer um que execute LLM locais em mais de uma máquina teve que duplicar seu armazenamento de modelos, refazer suas quantizações e malabarismo com dois runtimes diferentes para manter sua stack utilizável entre um desktop de casa e um laptop de trabalho. Portabilidade é toda a proposta de valor da IA local, e até este ano a maioria dos runtimes estava travada em uma única família de hardware.
Testamos oito runtimes de IA local para desktop que tornam a portabilidade de hardware um recurso de primeira classe. A lista mistura ferramentas multi-vendor feitas sob medida com runtimes antigos que alcançaram o lado multi-backend. Cada escolha roda em pelo menos Windows e Linux, seis rodam em macOS com aceleração Apple Silicon, e todas as oito podem mover um arquivo de modelo GGUF de uma máquina para outra sem rework.
O que procurar em um runtime de IA local portável
Portabilidade é o que faz um runtime ganhar um lugar na lista, mas algumas coisas separam as escolhas que realmente se movem bem das que apenas afirmam.
- Suporte de GPU multi-vendor. Nvidia CUDA, AMD ROCm ou Vulkan, Apple Metal, Intel Arc. Dois vendors é o mínimo, três é portável
- Neutralidade de formato de modelo. GGUF é a lingua franca atual. Qualquer coisa que só lê seu próprio formato perde pontos
- API compatível com OpenAI. Se um runtime não expõe uma, seu código cliente existente quebra na mudança
- Portabilidade de configuração. Um cartão de modelo que vem no runtime é melhor do que um que você constrói do zero na máquina de destino
- Pegada de instalação. Um único executável se move mais fácil do que uma stack de cinco serviços Docker
- Armazenamento de modelos. O runtime não deve forçar o redownload de um modelo que você já tem no disco
Comparação rápida
| Runtime | Melhor para | Vendors GPU | SO | Destaque |
|---|---|---|---|---|
| Ollama | Token de primeira vez mais rápido | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Armazenamento de modelos que você pode apontar entre máquinas |
| LM Studio | Testes multi-vendor baseados em GUI | Nvidia, AMD, Apple, Intel | Windows, macOS, Linux | Backend MLX em Apple Silicon |
| llama.cpp | O runtime que todos os outros fazem fork | Nvidia, AMD (Vulkan), Apple | Windows, macOS, Linux | Lançamento de binário único |
| Jan | Substituto ChatGPT open source | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Servidor compatível com OpenAI local na porta 1337 |
| GPT4All | Iniciantes com hardware modesto | CPU, Nvidia, AMD | Windows, macOS, Linux | Roda limpo em Snapdragon X ARM |
| AMD Lemonade | Primeiro AMD com suporte a Nvidia | AMD NPU, AMD GPU, Nvidia GPU | Windows, Linux | Agendamento consciente de NPU para Ryzen AI 300 |
| KoboldCpp | Runtime de contexto longo de arquivo único | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Envia geração de imagem e TTS no mesmo binário |
| Text Generation WebUI | Usuários avançados que querem cada botão | Nvidia, AMD, Apple, CPU | Windows, macOS, Linux | Todo carregador e todo tipo de quant em uma interface |
1. Ollama - Melhor para token de primeira vez mais rápido
Ollama é o caminho mais curto de ollama pull para um modelo rodando, e o armazenamento de modelos Ollama é a coisa mais próxima que a IA local tem de um gerenciador de pacotes. A história de portabilidade ficou mais forte em 2025 quando as builds Windows e Linux migraram para um formato de diretório de modelos compartilhado, então apontar OLLAMA_MODELS para uma pasta sincronizada significa que os mesmos modelos aparecem em ambas as máquinas.
Onde fica aquém: O keep-alive padrão de cinco minutos recarrega modelos constantemente. Defina OLLAMA_KEEP_ALIVE para um valor mais longo em qualquer máquina de usuário único.
Preço: Grátis, licença MIT.
Plataformas: Windows, macOS, Linux.
Download: ollama.com
Conclusão: Compre se quer a ergonomia mais rápida. O ecossistema do Ollama agora é maior que todos os outros runtimes combinados.
2. LM Studio - Melhor para testes multi-vendor baseados em GUI
LM Studio fornece uma das melhores experiências de GUI para IA local, e seu suporte multi-backend o coloca um degrau à frente para testes multi-vendor. O backend MLX em Apple Silicon lê cerca de 30 a 50 por cento mais rápido do que o mesmo modelo em llama.cpp Metal, o que é uma margem grande para a galera Mac Studio e MacBook Pro.
Onde fica aquém: A licença comercial do time mudou precificação em 2025. Uso pessoal ainda é grátis.
Preço: Grátis para uso pessoal.
Plataformas: Windows, macOS, Linux.
Download: lmstudio.ai
Conclusão: A escolha se você quer uma GUI apropriada e divide seu trabalho entre Nvidia e Apple Silicon.
3. llama.cpp - Melhor runtime que todos os outros fazem fork
llama.cpp é a implementação de referência que a maioria dos outros runtimes encapsula. O lançamento de binário único desde 2024 torna a portabilidade trivial, e o backend Vulkan adicionou suporte AMD de primeira classe sem a dor de instalação do ROCm. As builds Metal, CUDA, Vulkan e CPU todas leem os mesmos arquivos GGUF.
Onde fica aquém: A CLI é a interface. Não há GUI padrão.
Preço: Grátis, licença MIT.
Plataformas: Windows, macOS, Linux.
Download: github.com/ggerganov/llama.cpp
Conclusão: A escolha se você quer o binário mais enxuto. O runtime de todos os outros fica em cima deste.
4. Jan - Melhor substituto ChatGPT compatível com OpenAI
Jan é um dos substitutos ChatGPT de código aberto mais fortes no desktop. Seu servidor compatível com OpenAI na porta 1337 significa que toda biblioteca cliente OpenAI fala com ele sem rework, e o suporte MCP desde 2024 deixa Jan se conectar a agentes de chamada de ferramentas.
Onde fica aquém: Armazenamento de modelos é menor que Ollama’s.
Preço: Grátis, Apache 2.0.
Plataformas: Windows, macOS, Linux.
Download: jan.ai
Conclusão: Compre se quer um substituto ChatGPT que mantenha seu código cliente OpenAI existente portável.
5. GPT4All - Melhor para hardware modesto
GPT4All roda em hardware que outros runtimes se recusam a iniciar. Suporte Snapdragon X ARM tem sido cidadão de primeira classe desde 2024, e inferência CPU-only é tratada como um objetivo, não um fallback. O recurso Local Docs da Nomic mantém documentos indexados no dispositivo.
Onde fica aquém: Catálogo de modelos é curado menor que Ollama ou LM Studio.
Preço: Grátis, licença MIT, uso comercial permissivo.
Plataformas: Windows, macOS, Linux.
Download: gpt4all.io
Conclusão: A escolha se a máquina de destino é um laptop de trabalho sem GPU dedicada.
6. AMD Lemonade - Melhor AMD-first com suporte a Nvidia
AMD Lemonade começou como a stack de IA local da AMD para NPU série Ryzen AI 300, e o suporte Nvidia 2026 a coloca na conversa de portabilidade. Agendamento consciente de NPU de Lemonade a torna o runtime local mais rápido em um laptop Ryzen AI 300, e suporte Nvidia significa que você pode levar a mesma config entre um laptop AMD de trabalho e um desktop Nvidia de casa.
Onde fica aquém: Documentação fica atrás de Ollama e LM Studio. macOS não é suportado.
Preço: Grátis, licença MIT.
Plataformas: Windows, Linux.
Download: lemonade-sdk.github.io
Conclusão: Melhor runtime para qualquer um em uma máquina Ryzen AI. Agora portável para Nvidia se você divide tempo entre os dois.
7. KoboldCpp - Melhor runtime de contexto longo de arquivo único
KoboldCpp vem como um executável, sem instalador, sem serviço e sem dependências. Lê GGUF, envia geração de imagem e TTS no mesmo binário, e seu gerenciamento de contexto é o mais forte para escrita de forma longa.
Onde fica aquém: A UI é funcional, não bonita.
Preço: Grátis, AGPL.
Plataformas: Windows, macOS, Linux.
Download: github.com/LostRuins/koboldcpp
Conclusão: O runtime para manter em um pen drive.
8. Text Generation WebUI - Melhor para usuários avançados
Text Generation WebUI de Oobabooga é o runtime que expõe cada botão. Cada carregador, cada tipo de quant, todo formato de cartão de personagem, tudo em uma interface Gradio. Não para quem quer “apenas funciona”, mas a escolha certa para leitores que ajustam sua configuração.
Onde fica aquém: Configuração de primeira execução leva mais tempo que qualquer outro runtime na lista.
Preço: Grátis, AGPL.
Plataformas: Windows, macOS, Linux.
Download: github.com/oobabooga/text-generation-webui
Conclusão: A escolha se seu workflow depende de trocar carregadores e quantizações sem editar arquivos de config.
Como escolher o certo
Se sua prioridade é o token de primeira vez mais rápido em qualquer hardware, compre Ollama. Sua ergonomia ainda está à frente de todo o resto, e seu multiplicador de ecossistema é real.
Se você divide tempo entre um Mac Apple Silicon e um desktop Windows Nvidia, LM Studio é a escolha. Se seu hardware de destino inclui AMD Ryzen AI 300, Lemonade é a escolha e seu novo suporte Nvidia significa que você não precisa trocar runtimes quando se muda para uma máquina diferente.
Jan é o substituto ChatGPT. GPT4All é a escolha para hardware modesto. KoboldCpp é a escolha para uma configuração portável de arquivo único USB. Text Generation WebUI é a escolha se você quer trocar carregadores por modelo. llama.cpp é a escolha se você quer um script shell e nada mais.
Pule runtimes proprietários que só rodam em hardware de um único vendor a menos que esse vendor seja toda sua stack.
FAQ
Qual é o runtime de IA local mais rápido em Apple Silicon?
LM Studio com MLX roda cerca de 30 a 50 por cento mais rápido que llama.cpp Metal no mesmo modelo. Ollama está fechando a lacuna desde que seu backend MLX aterrisou.
Posso mover meu armazenamento de modelos Ollama para outra máquina?
Sim. Aponte OLLAMA_MODELS para uma pasta sincronizada (iCloud, Syncthing, Dropbox) e os mesmos modelos aparecem em ambas as máquinas. Bloqueie a versão binária do Ollama se você cruzar limites de SO.
AMD Lemonade realmente roda em Nvidia agora?
Sim, desde o lançamento 2026. Não é uma implementação completa de CUDA, mas o endpoint compatível com OpenAI funciona multi-vendor, e inferência Nvidia é compatível com o backend Nvidia do Ollama para a maioria dos quants GGUF.
Qual runtime de IA local usa a menor VRAM?
llama.cpp com quantização Q4_K_M. KoboldCpp o iguala porque encapsula o mesmo motor. LM Studio e Ollama usam a mesma matemática mas enviam contexto padrão mais alto que consome VRAM.
Há algum runtime de IA local disponível para iOS ou Android?
Não, nenhum dos oito roda em mobile. No Android, procure por MLC LLM ou Layla. No iOS, procure por Private LLM ou Enclave.
