基准测试在测什么 › ARC-AGI(1 / 2)

ARC-AGI(1 / 2)

从几个示例里归纳出隐藏规则,再用到没见过的彩色方格上,刻意避开靠记忆能解的题。

知识与推理领域1,000道题3条已知毛病2026-09-14数据截至
01

分数高对您意味着什么

本站根据出题方式和已知毛病解读

分高说明举一反三的抽象归纳在进步,和记住您行业的专业知识无关。

本站解读 · 2026-09-14
02

怎么出题、怎么打分

出自官方论文与官方仓库

题目怎么来
ARC-AGI-1 共 1000 道,分公开训练、公开评估、半私有、私有四组;ARC-AGI-2 专门抵抗暴力枚举
怎么打分
输出方格与标准答案完全一致才算对;私有评估集不公开
官方论文与仓库 · 2026-09-14
03

已知毛病

官方自陈与第三方核查

  • 公开评估集整体比私有集容易,只报公开集的分数可能偏高
  • 有「对着测试硬训」的行业质疑,这也是官方设私有集的原因
  • 不测知识面和专业能力
出处见来源清单 · 2026-09-14

同领域还可以对照看:GPQA Diamond、MMLU-Pro、HLE(Humanity's Last Exam)。

04

来源清单

2 条

逐条摊开,每条附原文链接⌄

官方论文、仓库与第三方核查 · 2 条

您该怎么办

别拿单个基准的分数直接选模型。挑两三个候选,用您自己的真实任务各跑几次,看稳定性和返工量。

全部基准见基准测试在测什么;各模型分数见模型主榜。