怎样读模型卡、许可证与基准成绩
同一个模型系列,常常同时发布基础版、指令版和 4-bit 量化版,这是三样不同的东西。聊天模板用错,或者输入被悄悄截断,好模型也会答得很差,看上去像是能力不足。所以模型选型首先是在判断:某个具体版本,能否在给定约束下完成自己的任务。模型名称、参数量和总榜排名只是索引,真正需要读的是输入输出、训练与评估条件,以及可复现的交付物。
Model Cards 提出随模型说明适用用途和不同条件下的表现。模型卡提供调查入口;一张写得完整的卡片本身并不是质量认证。
先确定拿到的是什么
同一个系列可能同时发布基础权重、指令版本、蒸馏版本和多个量化文件。名称相似不意味着输入模板、输出行为或硬件需求相同。Hugging Face 的模型卡文档说明模型说明与结构化元数据如何共存。读取时,把以下问题落实到确切版本:
参数总量与单次激活参数量要分开,尤其是 MoE。宣传的最大上下文也要与实际配置和缓存成本一起读。
许可证、代码与权重分别查看
一个仓库可以同时包含代码、权重和数据引用。平台显示的许可证字段便于发现文件,但应打开相应的许可证和模型发布说明,确认它描述的是哪项交付物。仓库许可证说明展示了这些元数据如何标记。不要从封装代码的许可证推断模型权重、上游数据或服务条款也完全相同。
把版本号或修订标识与所用文件一起记录。模型在同名位置更新后,只留一个下载链接不能恢复原来的比较。托管 API 还应记录调用日期和可获得的模型版本信息。
一张榜单回答不了所有问题
HELM 将语言模型放在多种场景和指标下评估。这提醒我们先读评估对象,而不是先找最高分。准确率、校准、延迟、吞吐与成本是不同问题,只有在业务目标已经明确后才适合组合。
假设两个候选在同一组 100 个例子上测试:
A 的准确率为 90%,B 为 92%。这两分差距全部来自两者意见不同的 10 题:A 赢 4 题,B 赢 6 题;另外 90 题两者同对或同错,分不出高下。假如两个模型其实一样好,这 10 题就像抛 10 次硬币,恰好 5 比 5 的概率是 252/1024,约四分之一;其余约四分之三的情况,都是 4 比 6 或更悬殊(符号检验 p≈0.75)。所以这两分差距本身说明不了什么。
错误的代价还会改变结论。如果 A 错的那六题只是格式小错,B 错的那四题却丢了关键事实,就不该因为两分差距选 B。反过来,如果这些错误代价接近,还要看差异能否在新的同类样本上复现。
还要区分“模型一次回答”与“系统得到最终答案”:是否搜索资料、调用工具、生成多个候选、重试、使用额外思考预算?同一个模型加更多计算,可能改变质量和延迟;不能把两套系统的差异全部归因于模型权重。
别人公布的成绩也按这几步读。先问谁跑的:厂商自报,还是第三方复现。再问测的是哪套系统:脚手架、重试次数和思考预算写清楚没有。然后看对手是否在同一批题、同一配置下跑过,差距是否大过上面那种同题抽签的波动。最后想一想,题目是否可能早已进了训练数据。哪一问答不上来,这个分数就只能当线索,还不够拿来做决定。数据污染、选择偏差、厂商偏差等常见偏差的完整清单,以及怎样把一条论断写成可检查的记录,见怎样判断 AI 实验的证据强弱。
用一小批真实任务缩小候选
先从现有工作中选出不同难度与失败代价的任务,排除敏感材料或取得适当授权。固定输入和成功条件,保留一个便宜的基线。分类任务可用简单规则或小分类器;检索任务可用关键词搜索;代码任务应以测试与人工检查为依据。
选择阈值、修改提示词、调整检索策略所用的样本属于开发过程,不能再次当成独立验证。将新的测试样本留到决定设置之后;具体方法见数据划分与泄漏。
最后保留一个可解释的选择记录:为什么选这个版本,哪类错误仍会出现,什么输入超出已验证范围,什么变化会触发重测。当前产品候选见模型与 API 选型,本机实验采用本地模型评测。