上节我们在终端里和模型聊天。对开发者来说这很顺手，但要是想让同事、家人也用上本地模型，总不能让每个人都去敲命令。
本节会介绍 本地模型的 GUI图形工具软件，一般大家都使用GUI图形软件的
一、先分清两类工具
一体式：自己就能跑模型。 下载、加载、推理、聊天窗口全包了，装一个应用就能用。Ollama 的桌面版、LM Studio、Jan 都属于这一类。
纯前端：只负责界面。 它本身不跑模型，要连到一个后端上：可以是本机的 Ollama、LM Studio，也可以是云端 API。Open WebUI、Cherry Studio 属于这一类。
| 工具 | 类型 | 平台 | 许可 | 本地 API 端口 |
|---|---|---|---|---|
| Ollama 桌面版 | 一体式 | macOS、Windows | MIT | 11434 |
| LM Studio | 一体式 | 苹果芯片 Mac、Windows、Linux | 应用免费但不开源，命令行工具 MIT | 1234 |
| Jan | 一体式 | macOS、Windows、Linux | Apache 2.0 | 1337 |
| Open WebUI | 纯前端，网页 | 用 Docker 或 pip 部署 | Open WebUI 许可证 | 网页 3000 或 8080 |
| Cherry Studio | 纯前端，桌面应用 | macOS、Windows、Linux | AGPL-3.0 | 无 |
看最后一列：三个一体式工具都会在本机开一个 OpenAI 兼容接口。也就是说，1.7 节写的调用代码，只要把 LLM_BASE_URL 换成对应的端口，就能直接调用它们加载的模型。
另外，Ollama、LM Studio、Jan 底层都用 llama.cpp 跑 GGUF 模型。同一个模型、同一种量化，在它们之间换来换去，速度一般差别不大。
二、Ollama 桌面版：已经装好了
如果你在 macOS 或 Windows 上 装了 Ollama，桌面应用其实已经在你电脑上了。Ollama 从 2025 年 7 月 30 日起提供官方的桌面应用。
打开它，就是一个聊天窗口：
- 在模型下拉框里选一个，没下载过的会自动下载
- 把文本文件或 PDF 拖进窗口，让模型基于文件回答
- 支持图片的模型，可以直接发图片给它
- 在设置里调大上下文长度，在这里就能改
它适合已经在用 Ollama、只想要一个顺手聊天窗口的人。想要更多功能，往下看。Linux 版目前没有桌面应用，只有命令行。
三、LM Studio：功能最全的桌面应用（推荐）
LM Studio 适合喜欢在界面里折腾的人：搜模型、比较量化版本、调采样参数、开本地服务，全都点几下就行。
它的应用本身不开源，但免费。从 2025 年 7 月 8 日起，在公司里工作用也不再需要单独申请授权。它的命令行工具 lms 是开源的，用 MIT 许可。
1. 安装和第一次对话
去官网 lmstudio.ai 下载对应系统的安装包。支持苹果芯片的 Mac、x64 和 ARM64 的 Windows、x64 的 Linux。Intel 芯片的 Mac 不在支持范围里。
打开后：
- 在搜索页搜
qwen3，挑一个模型。 - 下载前看一眼量化版本列表，LM Studio 会根据你的硬件，提示哪些版本能完整放进显卡。
- 下载完，在聊天页顶部选中它，开始对话。
量化版本列表里，带蓝色对勾的版本能放进你的机器，标红色 "Likely too large" 的就放不下，直接选带 👍 的推荐版本就行。