基准测试在测什么 › 竞技场类盲测

竞技场类盲测

真人给两个匿名模型的回答投票,衡量人更喜欢哪个,不是客观正确率。

偏好盲测领域官方未说明道题3条已知毛病2026-09-14数据截至
01

分数高对您意味着什么

本站根据出题方式和已知毛病解读

排名反映的是人更喜欢哪种风格和语气,数学、代码这类要精确答案的活,要另看对应基准。

本站解读 · 2026-09-14
02

怎么出题、怎么打分

出自官方论文与官方仓库

题目怎么来
题目来自真实用户的提问,持续滚动累积,没有固定题库
怎么打分
用 Bradley-Terry 类的成对比较模型,把大量胜负平票转成类似 Elo 的分数
官方论文与仓库 · 2026-09-14
03

已知毛病

官方自陈与第三方核查

  • 人偏好更长、排版更花的回答,「答得漂亮」和「答得对」会混在一起;后来有了风格控制榜
  • 厂商可以私下测多个版本、只公开成绩最好的那个
  • 同一个模型在不同时段面对的题目难度分布不完全可比
出处见来源清单 · 2026-09-14
04

来源清单

1 条

逐条摊开,每条附原文链接⌄

官方论文、仓库与第三方核查 · 1 条

您该怎么办

别拿单个基准的分数直接选模型。挑两三个候选,用您自己的真实任务各跑几次,看稳定性和返工量。

全部基准见基准测试在测什么;各模型分数见模型主榜。