打开模型列表,每个名字后面都跟着一串数字:知识问答 88 分、代码通过率 72%、上下文 128K。分数看起来一目了然,于是第一反应往往是按分数排序,挑最上面那个。可真把它接进自己的业务流程,常常发现它并不比便宜一半的模型更好用。
跑分到底在测什么
榜单的本质是一场标准化考试:给定一批题目,看模型能答对多少。题目覆盖面很广,从常识到数学再到代码,最后取平均分。它测的是知识广度与推理能力,这两项确实重要,但它们不是你的任务。
你的任务往往很窄:把一段客服对话归成八个类别、从合同里抽出五个字段、把口语化的句子改成书面语。这类活考验的是指令遵循、格式稳定和领域词汇,而不是能不能解出竞赛数学题。
先问一句:这套题和我的活,有几分像?
三个最容易踩的坑
第一个坑是把分数差当成效果差。榜单上 82 分和 79 分,在真实任务里常常分不出来——三分的差距可能只体现在几十道偏题上。真正拉开体感的是格式听不听话、长输入会不会漏、拒答比例高不高,这些榜单通常不测。
第二个坑是忽略口径。同一个模型,零样本和给五个示例,分数能差十几分;允许它先写推理过程再给答案,又能再涨一截。看榜时留意题目给没给示例、允不允许用工具、采样温度是多少。口径不同的两个分数放在一起比,等于没比。
第三个坑是只看分数不看代价。榜首模型的价格可能是中游模型的十倍,首字延迟也慢一倍。如果任务只是分类或摘要,多花的那部分钱买不到对应的收益;反过来,需要长链推理的场景,省这点钱会换来大量返工。
分数决定上限,成本和延迟决定它能不能天天用。
用自己的二十条样本做一张小榜
最靠谱的做法是自己出题。从历史记录里挑二十条真实输入:十条日常、五条边界、五条曾经出错的。覆盖这三种情况,比随机抽样有用得多。
跑的时候把条件固定住:同一段提示词、同一个温度、不开工具、不换系统消息。只记录四件事——格式有没有照要求输出、事实有没有错、平均耗时、这一次花了多少钱。四项里只要有一项不达标,分数再高也先放一边。
这张表跑一次大概半小时,之后每次想换模型,重跑一遍就行。它不会告诉你谁是世界第一,但能告诉你哪个模型在你的活上不添麻烦——这才是选型真正要的答案。
常见问题
榜单第一就一定最好吗
不一定。榜首通常意味着综合能力强,但也意味着更贵、更慢。很多团队最后选的是第二梯队里某一项特别稳的模型,而不是第一名。
同一个模型两次跑分不一样
正常。采样本身有随机性,题目顺序、提示词措辞、服务端版本更新都会影响结果。差一两分属于噪声,差五分以上才值得追一下原因。
没有条件做评测怎么办
至少拿五条最典型的输入手测一遍,重点看格式和事实。五条样本给出的结论比榜单更贴近你的场景,成本也就十几分钟。