Ollama、LM Studio、llama.cpp 怎么选：在自己电脑上跑大模型的三个工具对比

数据来自官方和社区，未经本站实测。

想在自己电脑上跑开源大模型，最常被推荐的就是这三个：Ollama、LM Studio 和 llama.cpp。它们其实是一家人：llama.cpp 是底层推理引擎，LM Studio 在官方文档里写明用 llama.cpp 运行 GGUF 模型，Ollama 最新版 v0.40.16 的发布说明里也写着「Updated llama.cpp」。区别主要在怎么用：一个偏命令行加后台服务，一个是图形界面桌面应用，一个是最底层、最灵活的工具包。

一张表看区别

（2026-11-12 读取：Ollama Releases、LM Studio 下载页、LM Studio 0.4.28 更新日志、llama.cpp Releases；其余见下文各节来源）

几点说明：

• 版本号：Ollama 发布页上还有一个 v0.40.17-rc0，标为 Pre-release，表里写的是正式版。llama.cpp 标为 Latest 的是 v0.9.0，但这个发布页没有附编译好的程序；预编译程序在 b 开头的每日构建里，这些构建标为 Pre-release，几乎每天都有新的。
• 许可证：三者都以协议原文为准。LM Studio 桌面应用不是开源软件，适用的是它的应用条款（2026-08-23 版）。

Ollama：一条命令跑起来，适合当后台服务

上手：在官方下载页下载 macOS、Windows 或 Linux 版。装好后在终端里拉取并运行模型：

ollama pull gemma4
ollama run gemma4

模型名以 Ollama 模型库为准。Ollama 也提供需要登录的云端模型，本文只讲在本机运行的模型，不需要账号。

支持平台和显卡（官方文档原文整理）：

• macOS：需要 macOS 14（Sonoma）或更新；Apple M 系列芯片可用 CPU 和 GPU，Intel 芯片的 Mac 只能用 CPU。
• Windows：需要 Windows 10 22H2 或更新（家庭版或专业版）；NVIDIA 显卡需要 551.61 或更新的驱动。
• NVIDIA：支持计算能力 5.0 及以上的显卡、驱动 550 及以上；计算能力 5.0 到 6.2 的老卡要 570 及以上驱动。官方给了一张从 GTX 750 到 RTX 50 系的对照表。
• AMD：通过 ROCm v7 驱动加速，也可以走 Vulkan。
• Apple：通过 Metal 加速。

模型格式：除了官方模型库，还能导入自己的 GGUF 或 Safetensors 模型：写一个文件指明模型路径，再用 ollama create 生成。官方写明导入 GGUF 时不会帮你量化，要先用 llama.cpp 的量化工具处理好。

本地 API：官方 FAQ 写明，Ollama 默认绑定 127.0.0.1 的 11434 端口。除了自有接口，还有 OpenAI 兼容接口，地址是 http://127.0.0.1:11434/v1/。官方说明客户端要填一个 API Key，但 Ollama 会忽略它，随便填即可。

curl http://127.0.0.1:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4",
    "messages": [{"role": "user", "content": "用一句话介绍你自己"}]
  }'

（2026-11-12，快速开始、macOS、Windows、硬件支持、导入模型、FAQ、OpenAI 兼容、LICENSE）

LM Studio：图形界面，最适合新手

上手：在下载页下载安装，在应用里搜索并下载模型，然后直接在聊天界面里用。官方文档写明它可以完全离线运行，前提是先把模型文件下载好。下载模型时会看到 Q3_K_S、Q8 这类选项，它们是同一个模型的不同量化版本，官方建议机器够用的话选 4-bit 或更高。

系统要求（官方原文整理）：

• macOS：只支持 Apple Silicon（M1/M2/M3/M4），需要 macOS 14.0 或更新；官方建议 16GB 以上内存，8GB 的 Mac 也能用，但要选小模型、短上下文。Intel 芯片的 Mac 目前不支持。
• Windows：支持 x64 和 ARM（骁龙 X Elite）；x64 处理器要支持 AVX2；官方建议至少 16GB 内存，至少 4GB 独立显存。
• Linux：支持 x64 和 ARM64，以 AppImage 发布；需要 Ubuntu 20.04 或更新，官方说 22 以后的版本测试得不多。

模型格式：用 llama.cpp 运行 GGUF 模型；在 Apple Silicon 的 Mac 上还能用苹果的 MLX 运行 MLX 格式的模型。自己下载的 GGUF 文件可以用 lms import 导入（官方标为实验功能）。

本地 API：在应用的 Developer 页打开「Start server」，或者用命令行工具 lms 启动。接口兼容 OpenAI，包括模型列表、对话补全、Responses、向量等。官方 CLI 文档写明，绑定地址默认是 127.0.0.1；端口不指定时沿用上次用过的端口，文档里的示例都用 1234。

lms server start --bind 127.0.0.1 --port 1234
curl http://127.0.0.1:1234/v1/models

服务设置里和局域网访问有关的开关保持默认关闭，本文只讲在本机使用。

许可：LM Studio 桌面应用是闭源的。应用条款（2026-08-23 版）写的是授予你「仅用于个人和/或内部业务目的」的使用许可，并且不允许修改软件、反向工程，或把软件转授权、转给第三方，具体以条款原文为准。命令行工具 lms 是 MIT 许可。下载页没有标价；官网定价页列的是另一款应用 Bionic 的套餐，LM Studio 本身怎么收费，待核实。

（2026-11-12，LM Studio 文档、系统要求、下载模型、导入模型、本地服务、服务设置、OpenAI 兼容、lms server start、应用条款）

llama.cpp：最底层、最灵活

上手：README 列了几种安装方式：官方安装脚本、Docker、从 Releases 下载编译好的程序，或者从源码编译。装好后，README 给的最短用法是直接从 Hugging Face 下载并运行一个 GGUF 模型，或者启动兼容 OpenAI 的服务：

llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF

用这种方式要能正常访问 Hugging Face；已经有 GGUF 文件的话，可以直接指定本地文件。

支持的硬件：README 写明 Apple Silicon 是「一等公民」（Metal 优化）；x86 支持 AVX、AVX2、AVX512；NVIDIA 显卡走 CUDA，AMD 显卡走 HIP，还支持 Vulkan、SYCL（Intel 显卡）、华为昇腾 NPU、摩尔线程显卡等十几种后端。它支持 CPU 和 GPU 混合推理：模型比显存大时，可以只把一部分放到显卡上加速。

模型格式：GGUF，支持 1.5-bit 到 8-bit 的整数量化。Ollama 文档里推荐的 GGUF 量化工具，就是 llama.cpp 自带的那个。

本地 API：内置的 llama-server 提供 OpenAI 兼容的对话补全、Responses 和向量接口，还自带一个网页聊天界面。服务说明写明默认监听 127.0.0.1:9931，浏览器打开同一地址就是网页界面。

llama-server -m /path/to/model.gguf --host 127.0.0.1 --port 9931
curl http://127.0.0.1:9931/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "用一句话介绍你自己"}]}'

注意：服务说明里的 Docker 示例在命令里写明了 8080 端口，但不指定端口时默认是 9931，以说明原文为准。README 里的 llama serve 和 llama-server 默认参数是否完全一致，待核实。

（2026-11-12，README、服务说明、LICENSE）

显存要多大

三家都没有给出「某个模型要多少显存」的对照表，本文也不硬给数字。官方写到的只有这些：

• LM Studio：Windows 建议至少 4GB 独立显存、16GB 内存；Mac 建议 16GB 以上内存。
• Ollama：列了支持的显卡型号和驱动版本，没有按模型给显存要求。
• llama.cpp：支持 CPU 和 GPU 混合推理，显存不够时可以只放一部分到显卡上，速度会受影响。

模型越大、量化位数越高、上下文越长，占的内存和显存就越多。具体能不能跑，先从小模型和 4-bit 量化试起。

怎么选

• 完全没用过命令行、想先聊起来：选 LM Studio。图形界面里搜索、下载、聊天一条龙，还能离线用。注意它不支持 Intel 芯片的 Mac；授权写的是个人和内部业务用途。
• 想让别的程序、编程工具调用本地模型：选 Ollama。一条命令拉模型，后台服务常驻在 127.0.0.1:11434，官方文档还列了一长串能直接接入的编程工具。
• 想精细控制参数、用特殊显卡、或者显存不够想混合推理：选 llama.cpp。后端最全，参数最多，但上手门槛也最高。
• 三个都能共存：它们的默认端口不同（11434、1234、9931），可以装在同一台电脑上。不过同时加载模型会抢内存和显存。

小结

• 三者底层都和 llama.cpp 有关，主流格式都是 GGUF；区别在用法：LM Studio 是图形界面，Ollama 是命令行加后台服务，llama.cpp 是最底层的工具包。
• 2026-11-12 读到的最新版本：Ollama v0.40.16，LM Studio 0.4.28，llama.cpp 正式版 v0.9.0、每日构建 b12284。
• 三家都提供 OpenAI 兼容的本地接口，默认只在本机监听：Ollama 127.0.0.1:11434，LM Studio 127.0.0.1（示例端口 1234），llama.cpp 127.0.0.1:9931。
• Ollama 和 llama.cpp 的仓库是 MIT；LM Studio 桌面应用按官方应用条款，许可证一律以协议原文为准。
• 官方没给按模型的显存表，先从小模型试起。

站内推荐

• 想把本地模型和几家官方 API 收进一个入口：new-api 本机 Docker 部署：只在 127.0.0.1 上，用官方 Key 统一管理自己的几家 API
• 不想占自己的显卡，先用云端免费额度：国内大模型 API 免费额度一张表（2026）
• 给编程智能体装技能：Agent Skills 是什么：一个 SKILL.md 文件，让 Claude Code、Codex、Cursor 等编程智能体学会新技能
• 更多工具对比：工具横评栏目文章