LLaMA:开放高效的基础语言模型

126 字 · 预计阅读 1 分钟

2023 · Touvron 等 / Meta · 开源大模型的标准配方:RMSNorm、SwiGLU、RoPE

2023 年,Meta 发布 LLaMA,覆盖 70 亿到 650 亿参数,全部用公开数据训练 1 万亿到 1.4 万亿 token。架构上采用 RMSNo

本文是会员内容

全文 126 字,已试读约 30%。开通专业版可阅读全文,并解锁全部官方课程与后续更新。

开通专业版

支持 7 天无理由退款 · 早鸟价 99 元/年(售完恢复365/年)

课程中涉及的第三方项目,其著作权与商标归各自权利人所有;引用处的署名与许可见《开源与来源说明》。