打开 Hugging Face 搜"chat",结果有好几十万个。
光是千问一家,2026 年就先后发布了 Qwen3.5、Qwen3.6、Qwen3.8 三代,每一代又分好几个尺寸、好几种格式。
面对这么多选择,靠刷榜单、看新闻是选不出来的。
学完你能做到:为任何一个项目列出两三个候选,用自己的问题实测一遍,按结果定下用哪个。课程助教的基座模型,也在这一节定下来。
一、模型地图:两个梯队
开放权重模型可以粗略分成两个梯队:
旗舰梯队,参数量从几千亿到几万亿,几乎都是 MoE 结构。它们的能力接近甚至追平闭源模型,但要多张数据中心级的显卡才跑得动,个人和小团队主要通过 API 使用。
MoE 是"混合专家"的意思。普通模型处理每个 token,都要用上全部参数;MoE 模型把参数分成很多组,每组叫一个"专家",每来一个 token,只挑其中几个专家来算,其余的歇着。
打个比方:一家医院有上百位医生,每个病人只看两三位。医院的总人数很多,看一个病人却用不了几个人。
所以 MoE 模型有两个参数量:总参数,是所有专家加起来;激活参数,是每个 token 真正用到的那部分。下面表里的"35B-A3B",就是总共 35B、每次激活约 3B:

显存要装下全部 35B,算起来却接近一个 3B 的模型。旗舰模型能做到几千亿参数,调用起来又不算太慢,靠的就是这个。
小模型梯队,参数量在 10B 以内,一张消费级显卡、甚至一台笔记本就能跑。这是本课程的主战场:能本地运行、能微调、能部署得起。

下面这张表列了主要厂商截至 2026-11-01 在 Hugging Face 上的最新开放版本。
| 厂商 | 最新的开放版本 | 10B 以内的小尺寸 | 许可证 |
|---|---|---|---|
| 阿里 千问 | Qwen3.5(2026 年 2 月)、Qwen3.6(4 月,27B 和 35B-A3B)、Qwen3.8(8 月起) | Qwen3.5:0.8B、2B、4B、9B,都有 Base 版 | 多数 Apache 2.0,部分新版本用社区许可 |
| DeepSeek | V4-Pro(约 1.6 万亿,4 月)、V4.1-Flash(约 7600 亿) | 无 | MIT |
| 智谱 GLM | GLM-5 系列(2 月起)、GLM-5.3(约 7500 亿,8 月)、GLM-4.7-Flash(约 310 亿) | 无 | MIT,GLM-5.3 用自己的许可证 |
| 月之暗面 Kimi | K2.5、K2.6、K3(万亿级) | 无 | 改过的 MIT 等 |
| MiniMax | M2.5、M2.7(约 2300 亿) | 无 | 自定义许可 |
| 百度 文心 | ERNIE 4.5(2025 年 6 月,0.3B 到 300B) | 0.3B | Apache 2.0 |
| 腾讯 混元 | Hy4-preview(约 7800 亿,8 月) | 无 | Apache 2.0 |
| 小米 MiMo | V2.5(约 3100 亿) | 无 | MIT |
| 阶跃星辰 | Step-3.5-Flash(约 2000 亿) | 无 | Apache 2.0 |
| Gemma 4(3 月起:E2B、E4B、12B、26B-A4B、31B) | E2B、E4B | Apache 2.0 | |
| OpenAI | gpt-oss(2025 年 8 月:20B、120B) | 无 | Apache 2.0 |
| Meta | Llama 4(2025 年 4 月:Scout、Maverick) | 无 | Llama 4 社区许可 |
| AI2 | OLMo 3 系列 | 7B | Apache 2.0,连训练数据一起公开 |
- 国产开放模型在 2026 年非常活跃。 旗舰尺寸动辄几千亿参数,是开放权重阵营的主力。
- 10B 以内、中文好、许可宽松、还提供 Base 版的小模型,选择并不多。 千问 Qwen3.5 是其中最完整的一个系列。
- 名字里的"E2B""A3B"要看清。 Gemma 4 的 E2B 表示"等效 2B",实际权重约 51 亿;A3B 就是上面说的每次激活约 3B。两种都要按总参数估算显存。