面对开源模型一长串的名字,小伙伴们应该都发现其有一定的规则吧,今天就来给大家盘一盘。
当你看到一个开源模型名,通常都可以按下面这个结构拆:
<模型家族>-<代际/版本>-<规模/架构>-<能力或模态>-<训练阶段>-<派生信息>-<部署格式>例如:
Qwen3-235B-A22B-InstructDeepSeek-R1-Distill-Qwen-32Bgemma-2-27b-itLlama-3.1-8B-InstructQwen2.5-VL-72B-Instruct-AWQ核心规律是:从左到右,通常是“它是谁 → 多大 → 会什么 → 怎么训练来的 → 怎么部署”。
1. 模型家族名:它是谁家的哪一条血脉#
最前面一般是模型品牌或家族名:
QwenLlamaGemmaMistralMixtralDeepSeekPhiInternLMYiGLM例如:
Qwen3-8BLlama-3.1-70BGemma-3-27BDeepSeek-R1这部分主要告诉你:
- 谁发布的
- 采用哪一套 tokenizer、chat template、架构习惯
- 能否和同家族的 LoRA、微调权重、推理框架兼容
例如 Qwen 是一个持续发布文本、多模态等模型的系列;Gemma 也是一个模型家族,而不是单个模型。
2. 代际 / 版本号:第几代,不等于参数规模#
常见形式:
Qwen2.5Qwen3Llama-3.1Gemma-2Gemma-3DeepSeek-V3DeepSeek-R1它表达的是同一模型家族的架构、数据、训练方式、能力演进版本。
例如:
Qwen2.5-7B-InstructQwen3-8BLlama-3.1-8B-Instruct这里:
Qwen2.5/Qwen3是大版本Llama-3.1中的.1往往代表一次中间升级R1有时不是“第一代”,而是一个单独的能力路线或产品线
所以不要把:
Qwen3-8B理解成“Qwen 第 3 个 8B 模型”,而应理解成:
Qwen 第 3 代家族中的一个 8B 规模成员。
3. 参数规模:B、M、T 是最常见的部分#
0.5B1.5B3B7B8B14B32B70B72B235B405B含义:
后缀
含义
M
Million,百万参数
B
Billion,十亿参数
T
Trillion,万亿参数
例如:
Qwen2.5-7B-InstructLlama-3.1-70B-InstructGemma-2-27B-it大致意思分别是 70 亿、700 亿、270 亿级参数模型。
但要注意:
7B、8B、70B常是方便传播的近似标签,不一定刚好是整数十亿参数。
而且它不直接等于显存需求。显存还要看:
- BF16 / FP16 / FP8 / INT8 / INT4
- 上下文长度
- batch size
- KV Cache
- 是否 MoE
- 推理框架
4. MoE 模型:总参数和激活参数要分开看#
这是现在很重要的一条命名习惯。
例如:
Qwen3-235B-A22B通常表示:
235B = 总参数量A22B = 每次推理实际激活约 22B 参数其中 A 一般就是:
Active Parameters激活参数MoE 可以类比为:
公司有 2350 名员工,但每次处理一个任务,只会叫其中约 220 名真正参与。
所以:
235B-A22B不是传统意义上“每个 token 都跑 235B 的 dense 模型”,而是一个总容量很大、但每步只路由到部分专家的 MoE 模型。Qwen 官方发布中就使用了 Qwen3-235B-A22B 这样的写法。
你在选模型时应优先看:
总参数:影响模型容量、磁盘占用、加载资源激活参数:更接近单 token 推理计算量但显存仍不能只看 A22B,因为部署时通常仍要加载完整专家权重。
5. Base / Instruct / Chat / IT:最关键的训练阶段标签#
这是你做 Agent 时最常遇到的分类。
Base#
Qwen2.5-7BLlama-3.1-8B一般表示预训练基础模型。
它更像是“完成大规模文本学习后的原始语言模型”,适合:
- 继续预训练
- 领域微调
- LoRA 微调
- 研究训练流程
- 做自己的 SFT、DPO、RL 后训练
但它不一定适合直接聊天。
Instruct#
Qwen2.5-7B-InstructLlama-3.1-8B-InstructQwen2.5-VL-72B-Instruct一般表示经过指令微调,能更好地理解:
帮我写代码总结下面内容调用这个工具按 JSON 输出严格遵守格式对你做 Agent / Harness 来说,通常默认优先选:
Instruct因为它更适合:
- 工具调用
- 多轮对话
- 结构化输出
- 计划与执行
- 系统提示词约束
Chat#
Qwen-7B-ChatLlama-2-7B-Chat这是早期比较常见的命名,语义通常接近现在的 Instruct:
已经被调成适合对话和指令执行的版本。
但 Chat 不等于一定“工具调用强”,它可能只是一般聊天优化。
IT#
gemma-2-27b-itgemma-4-31b-itIT 一般是:
Instruction Tuned指令微调版Gemma 官方就用 it 标记指令微调模型,并明确说明这类模型使用专门的对话格式。
所以:
gemma-2-27b-it和:
Qwen2.5-32B-Instruct在“训练阶段”这个维度上,属于同一大类。
6. 能力 / 模态标签:它能处理什么输入#
这是模型名中越来越常见的一层。
VL#
Qwen2.5-VL-7B-InstructLlama-3.2-11B-Vision-Instruct通常表示:
Vision-Language视觉语言模型也就是能理解图片和文本。
常见输入输出形态:
图片 + 文本 → 文本PDF 页面图 + 问题 → 文本截图 + 指令 → 文本Qwen 官方将 Qwen2.5-VL 作为视觉语言模型系列发布,并提供不同参数规模的 Base 和 Instruct 版本。
Vision#
Llama-3.2-11B-Vision-Instruct和 VL 很接近,只是厂商命名偏好不同。
Audio#
Qwen-AudioGemma-Audio通常表示支持音频输入,例如:
- 语音转文本
- 音频理解
- 声音问答
Omni#
Qwen-Omni一般暗示多模态更完整,可能覆盖:
文本、图片、音频、视频但 Omni 没有行业强制定义,看到时要看模型卡,不要只凭名字判断能力边界。Qwen 官方把 Qwen-Omni 描述为可处理文本、图片、音频和视频等多种输入的多模态模型。
7. 专项能力标签:Coder、Math、Reasoning、Embedding 等#
这些名字通常说明它针对某类任务做了额外训练。
Coder#
Qwen2.5-Coder-7B-InstructDeepSeek-Coder-V2CodeLlama-34B-Instruct偏代码:
- 代码补全
- Repo 理解
- 修 Bug
- 调用工具
- 生成 patch / diff
- SQL、Shell、前端代码等
对你的 Agent Workspace、ACP、本地 Claude Code/Codex 类能力,这种模型往往更有意义。
Math#
DeepSeekMath-7BQwen-Math
偏数学推理、符号推导、竞赛题、计算题。
R1 / Reasoner / Thinking#
DeepSeek-R1QwQReasonerThinking通常代表厂商希望强调:
- 更长链条推理
- 数学 / 编程 /逻辑
- 通过 RL 或推理型后训练强化
但注意:
Reasoning、Thinking并不是统一技术标准,而更像能力路线标签。
同样叫 Reasoning 的模型,可能有完全不同的训练方法、推理格式和可控性。
DeepSeek 的 DeepSeek-R1-Distill-Qwen-32B 这种命名,则同时表达了它属于 R1 路线、由蒸馏得到、底座来自 Qwen、规模为 32B。
Embedding#
bge-large-en-v1.5Qwen3-Embedding-8Bgte-base不是拿来聊天生成文字的,而是拿来把文本变成向量。
常用于:
- RAG 检索
- 文档召回
- 语义搜索
- 记忆系统
- 相似度匹配
Reranker#
bge-reranker-v2Qwen3-Reranker用于在召回出一堆候选文档后,再重新排序。
在你以后做生信 Agent 的论文检索、知识库检索里,它会比单纯 embedding 更关键。
8. 派生关系标签:Distill、SFT、DPO、RL、LoRA#
这部分告诉你模型是怎么“长出来的”。
Distill#
DeepSeek-R1-Distill-Qwen-32B通常表示:
用一个更强教师模型的输出、轨迹或能力信号,训练一个较小学生模型。
类比:
老师:大模型学生:较小模型蒸馏:把老师的解题习惯和答案风格传给学生它不一定是“参数压缩”那么简单,也可能是“把推理风格迁移过去”。
SFT#
Model-7B-SFT表示经过:
Supervised Fine-Tuning监督微调通常是用“问题 → 高质量回答”的数据集微调。
DPO#
Model-7B-DPO表示经过偏好优化:
好回答 > 差回答让模型更符合人类偏好、指令、语气或安全要求。Hugging Face 的 DPO 文档也将其描述为基于偏好数据对模型进行优化的后训练方法。
RL / RLHF / GRPO#
Model-7B-RLModel-7B-GRPO通常表示经过强化学习或类似偏好强化阶段。
这类名称只能说明“可能经历过某种后训练路线”,不能只靠名字推断模型真实效果。
LoRA#
Qwen2.5-7B-Instruct-BioLoRAQwen2.5-7B-MyDomain-LoRA通常不是完整模型,而是一个增量适配器权重。
它依赖底座,例如:
Base:Qwen2.5-7B-InstructAdapter:Qwen2.5-7B-Instruct-BioLoRA加载时需要:
底座模型 + LoRA Adapter而不是只下载 LoRA 文件就能运行。
9. 量化与部署格式:GGUF、AWQ、GPTQ、FP8、Int4#
这一层最容易被误认为“新模型”。
例如:
Qwen2.5-7B-Instruct-AWQQwen2.5-7B-Instruct-GPTQ-Int4Qwen2.5-7B-Instruct-GGUFQwen2.5-7B-Instruct-FP8它们通常不是不同能力模型,而是同一模型的不同权重格式或精度版本。
标签
常见含义
BF16 / FP16
高精度原始或接近原始权重
FP8
8-bit 浮点量化
Int8
8-bit 整数量化
Int4 / 4bit
4-bit 量化
GPTQ
一类量化方法 / 格式
AWQ
一类权重量化方法
GGUF
llama.cpp / 本地端侧常用格式
EXL2
ExLlama 系推理常见格式
Qwen 在发布量化版本时会明确区分 GPTQ、AWQ、GGUF 等格式。
例如:
Qwen2.5-7B-Instruct是模型本体。
Qwen2.5-7B-Instruct-GGUF更像“为了本地运行而打包成 GGUF 的版本”。
而具体:
Q4_K_MQ5_K_MQ8_0一般是 GGUF 里的具体量化等级或方案。
10. 日期、版本号、实验号:防止“同名不同版本”#
常见:
DeepSeek-R1-0528Model-v1Model-v1.1Model-v2.0Model-202506Model-PreviewModel-Experimental作用是区分:
- 小版本升级
- 某日发布的 checkpoint
- 预览版
- 实验版
- 某次训练产物
比如 DeepSeek-R1-0528 就是对 R1 的一次带日期标记的更新版本。
这类模型要特别注意:
Preview / Beta / Experimental通常不适合直接作为生产环境唯一依赖。
你可以用这个“读名公式”快速拆模型
例如:
Qwen2.5-VL-72B-Instruct-AWQ拆开:
Qwen2.5 → Qwen 第 2.5 代VL → 视觉语言,多模态72B → 约 720 亿参数规模Instruct → 指令微调,可直接对话/执行任务AWQ → 已按 AWQ 方法量化,偏部署格式再比如:
DeepSeek-R1-Distill-Qwen-32B拆开:
DeepSeek-R1 → DeepSeek 的推理路线Distill → 蒸馏派生版本Qwen → 基础血缘来自 Qwen32B → 约 320 亿参数级再比如:
gemma-2-27b-it拆开:
gemma → Gemma 家族2 → 第二代27b → 270 亿级参数it → Instruction Tuned,指令微调版Gemma 官方的命名中确实使用 it 来表示 instruction-tuned 版本。
真正需要警惕的 5 个误区#
1. Instruct 不等于 Agent 一定好用#
它只说明模型经过指令微调。
你还要看:
- function calling 是否可靠
- JSON 格式是否稳定
- tool use 是否训练过
- 长上下文是否稳定
- 多轮状态保持如何
- 是否会乱调用工具
- 是否容易被 prompt injection 带偏
对 Agent 来说,模型卡、实测和 chat template 往往比名字更重要。
2. 7B 不等于“只能用 7GB 显存”#
例如同一 7B 模型:
BF16 → 显存占用高INT8 → 中等INT4 → 更低GGUF → 更适合 CPU / Apple Silicon / 本地端而且上下文一长,KV Cache 也会明显吃显存。
3. Open source 不一定等于真正意义上的完全开源#
行业里常混用:
Open sourceOpen modelOpen weightsSource available但它们不是一回事。
你至少要单独检查:
- 权重是否公开
- 训练代码是否公开
- 训练数据是否公开
- 商用是否允许
- 是否允许二次分发
- 是否有用户规模、地域、用途限制
- 微调后模型是否可发布
例如 Gemma 官方更准确的表述是 open weights,同时其使用受 Gemma Terms of Use 约束。
所以:
不要因为模型名字或宣传写着“开源”,就默认可以无条件商用、再发布或做 SaaS。
4. 名字相近,不代表 prompt 格式兼容#
即使两个模型都叫:
InstructChat它们的:
- system prompt 格式
- 用户/助手分隔符
- tool call schema
- EOS token
- chat template
也可能不同。
Hugging Face 官方明确提醒:不同模型即使基于同一个底座,也可能使用不同的控制 token 和聊天格式。
这也是为什么你在 Agent Harness 里不能只写:
model: "xxx-instruct"还需要模型适配层:
type ModelProfile = { modelId: string; chatTemplate: string; supportsTools: boolean; supportsVision: boolean; supportsJsonSchema: boolean; contextWindow: number; reasoningMode?: boolean;};5. 模型名不是完整说明书,Model Card 才是#
一个靠谱模型仓库至少应该看:
- base model 是谁
- 训练阶段
- 参数规模和架构
- context window
- 支持哪些模态
- 推荐 prompt format
- license
- benchmark
- 已知限制
- 推荐推理参数
- 是否支持工具调用、JSON、结构化输出
Hugging Face 将 model card 作为模型仓库的重要说明文件,用于提供可发现性、复现和共享所需的信息。
如果你以后自己发布模型,推荐这样命名
比较清晰的标准模板:
<Org>/<Family>-<Generation>-<Architecture>-<Size>-<Modality>-<Stage>-<Domain>-<Version>例如:
GenieLab/Helix-1.0-7B-BaseGenieLab/Helix-1.0-7B-InstructGenieLab/Helix-1.0-7B-VL-InstructGenieLab/Helix-1.0-32B-A4B-InstructGenieLab/Helix-1.0-7B-Instruct-Bio-v1.0GenieLab/Helix-1.0-7B-Instruct-Bio-v1.0-GGUF我建议你遵守几个原则:
- 模型血缘放前面
用户一眼知道它基于什么系列。 - 参数和 MoE 信息明确写出
32B、235B-A22B不要模糊。 - 训练阶段不要省略
Base、Instruct、Chat必须清楚。 - 能力标签不要滥用
没有稳定视觉能力,不要写VL;没有明确 tool calling 训练,不要写Agent。 - 量化格式最好和原始模型分开命名或分仓库
不要让用户把GGUF当成一个独立能力模型。 - 版本号要可追溯
用v1.0、v1.1、日期、commit 或 checkpoint 编号都行,但别全混着来。
对你现在做 Agent 产品而言,最重要的不是记住所有后缀,而是先形成这个判断:
模型能否直接做 Agent= Instruct / Chat+ 合适 chat template+ 稳定 tool calling+ 稳定 JSON+ 上下文能力+ 实测可靠性不是简单:
名字里有 Instruct= 一定适合 Agent

