模型家族怎么选

3,175 字 · 预计阅读 9 分钟

打开 Hugging Face 搜"chat",结果有好几十万个。

光是千问一家,2026 年就先后发布了 Qwen3.5、Qwen3.6、Qwen3.8 三代,每一代又分好几个尺寸、好几种格式。

面对这么多选择,靠刷榜单、看新闻是选不出来的。

学完你能做到:为任何一个项目列出两三个候选,用自己的问题实测一遍,按结果定下用哪个。课程助教的基座模型,也在这一节定下来。


一、模型地图:两个梯队

开放权重模型可以粗略分成两个梯队:

旗舰梯队,参数量从几千亿到几万亿,几乎都是 MoE 结构。它们的能力接近甚至追平闭源模型,但要多张数据中心级的显卡才跑得动,个人和小团队主要通过 API 使用。

MoE 是"混合专家"的意思。普通模型处理每个 token,都要用上全部参数;MoE 模型把参数分成很多组,每组叫一个"专家",每来一个 token,只挑其中几个专家来算,其余的歇着。

打个比方:一家医院有上百位医生,每个病人只看两三位。医院的总人数很多,看一个病人却用不了几个人。

所以 MoE 模型有两个参数量:总参数,是所有专家加起来;激活参数,是每个 token 真正用到的那部分。下面表里的"35B-A3B",就是总共 35B、每次激活约 3B:

MoE:35B 参数全部要装进显存,每个 token 只用其中约 3B

显存要装下全部 35B,算起来却接近一个 3B 的模型。旗舰模型能做到几千亿参数,调用起来又不算太慢,靠的就是这个。

小模型梯队,参数量在 10B 以内,一张消费级显卡、甚至一台笔记本就能跑。这是本课程的主战场:能本地运行、能微调、能部署得起。

旗舰模型由多卡服务器承载、通过 API 使用,小模型可以装进本地电脑

下面这张表列了主要厂商截至 2026-11-01 在 Hugging Face 上的最新开放版本。

厂商 最新的开放版本 10B 以内的小尺寸 许可证
阿里 千问 Qwen3.5(2026 年 2 月)、Qwen3.6(4 月,27B 和 35B-A3B)、Qwen3.8(8 月起) Qwen3.5:0.8B、2B、4B、9B,都有 Base 版 多数 Apache 2.0,部分新版本用社区许可
DeepSeek V4-Pro(约 1.6 万亿,4 月)、V4.1-Flash(约 7600 亿) 无 MIT
智谱 GLM GLM-5 系列(2 月起)、GLM-5.3(约 7500 亿,8 月)、GLM-4.7-Flash(约 310 亿) 无 MIT,GLM-5.3 用自己的许可证
月之暗面 Kimi K2.5、K2.6、K3(万亿级) 无 改过的 MIT 等
MiniMax M2.5、M2.7(约 2300 亿) 无 自定义许可
百度 文心 ERNIE 4.5(2025 年 6 月,0.3B 到 300B) 0.3B Apache 2.0
腾讯 混元 Hy4-preview(约 7800 亿,8 月) 无 Apache 2.0
小米 MiMo V2.5(约 3100 亿) 无 MIT
阶跃星辰 Step-3.5-Flash(约 2000 亿) 无 Apache 2.0
Google Gemma 4(3 月起:E2B、E4B、12B、26B-A4B、31B) E2B、E4B Apache 2.0
OpenAI gpt-oss(2025 年 8 月:20B、120B) 无 Apache 2.0
Meta Llama 4(2025 年 4 月:Scout、Maverick) 无 Llama 4 社区许可
AI2 OLMo 3 系列 7B Apache 2.0,连训练数据一起公开
  • 国产开放模型在 2026 年非常活跃。 旗舰尺寸动辄几千亿参数,是开放权重阵营的主力。
  • 10B 以内、中文好、许可宽松、还提供 Base 版的小模型,选择并不多。 千问 Qwen3.5 是其中最完整的一个系列。
  • 名字里的"E2B""A3B"要看清。 Gemma 4 的 E2B 表示"等效 2B",实际权重约 51 亿;A3B 就是上面说的每次激活约 3B。两种都要按总参数估算显存。

二、选型看五件事

本文是会员内容

全文 3,175 字,已试读约 27%。开通专业版可阅读全文,并解锁全部官方课程与后续更新。

开通专业版

支持 7 天无理由退款 · 早鸟价 99 元/年(售完恢复365/年)

课程中涉及的第三方项目,其著作权与商标归各自权利人所有;引用处的署名与许可见《开源与来源说明》。