推理:AI 能做到什么程度
让模型先想再答。各家都把「想多久」做成可调档,也都写明想得越久越慢、越贵。
3家官方文档12条写明的硬限制8条官方自己承认做不好的2026-09-06数据截至
01
各家官方怎么说
点开看硬限制和官方自己承认的短板,数字原样取自官方页面
| 厂商 | 官方怎么定位它 | 硬限制 | 自认短板 |
|---|---|---|---|
| 手动模式下用 budget_tokens 直接给定思考预算,适合要求延迟可预测或成本可控的场景。 | 4 | 4 | |
| 出答案前先生成内部推理 tokens,用 effort 分四档控制想多少。 | 4 | 2 | |
| 模型内部先推理再回答,接口以 thought steps 的形式给出推理摘要。 | 4 | 2 |
Anthropic(extended thinking)4 条限制 · 4 条自认⌄
硬限制
- 思考预算最小 1,024 tokens,更小的值会被接口拒绝
- 预算超过 32k 时官方建议改走批量接口
- 简单任务从 1,024 起步递增;复杂任务从 16,000 以上起步
- 手动模式在 Claude 4.7 及更新型号上不再支持,官方要求迁移到 adaptive thinking
官方自己承认做不好的
- 官方写明:让它思考超过 32k tokens 会产生长时间请求,可能撞上系统超时和连接数限制
- 官方写明:这个预算是目标值,不是硬上限。实际用量随任务变化,模型可能远没用到预算就停止推理
- 官方写明:预算越高推理越充分,但收益递减(幅度取决于任务),代价是延迟增加
- 换成自适应思考后,官方写明:推理强度设得低时,遇到简单输入它可能完全跳过思考
OpenAI(reasoning effort)4 条限制 · 2 条自认⌄
硬限制
- none:官方定位为对延迟敏感、且不需要推理或多步工具调用的任务
- high:官方定位为难推理、复杂排错、深度规划,以及质量比延迟更重要的高价值任务
- 官方建议开始试用时,至少给推理和输出留出 25,000 tokens
- 推理 tokens 用量在响应的 output_tokens_details 里可查
官方自己承认做不好的
- 官方写明:推理 tokens 虽然在接口里看不到,但仍然占用上下文窗口,并按输出计费 —— 看不到,但要付钱、也要占地方
- 撞上上限时状态返回 incomplete。官方写明:这可能发生在还没产生任何可见输出之前 —— 也就是说,您为输入和推理付了钱,却什么都没拿到
Google(Gemini thinking)4 条限制 · 2 条自认⌄
硬限制
- 官方建议:查事实、做分类,用 minimal 或 low 思考档
- 官方建议:比较概念、创造性推理,用 default 思考档
- 官方建议:高级编程、数学、多步规划,用 maximum 思考档
- 官方写明:开启思考后,费用是输出 tokens 与思考 tokens 之和
官方自己承认做不好的
- 官方提醒:您的程序要能处理推理摘要为空或不存在的情况 —— 简单请求可能根本没有摘要
- 官方写明:计费按模型实际需要生成的完整思考量算,尽管接口只返回摘要 —— 您付全额,只拿到摘要
02
推理最强的是哪几个
3 个专项评测的成绩,不是综合能力分
最强不等于最值 —— 每行都带价格。教程多拿海外模型演示,您手上用国产的,看每张表下方国内厂商排第几,就知道这类活差多少。
研究生级科学题物理、化学、生物的研究生难度问答,题目专门设计成搜索引擎搜不到答案。
| 模型 | 专项成绩 | 输入 / 输出(每百万 token) |
|---|---|---|
| 94.9 | ¥14 / ¥42 | |
| 94.5 | ¥5.25 / ¥26.3 | |
| 94.1 | ¥35 / ¥210 | |
| 94.1 | ¥14 / ¥84 | |
| 93.7 | ¥35 / ¥175 | |
| 93.7 | ¥35 / ¥175 | |
| 93.5 | ¥14 / ¥42 | |
| 93.5 | ¥21 / ¥105 | |
| 93.5 | ¥35 / ¥210 | |
| 93.2 | ¥35 / ¥175 |
数学竞赛题美国高中数学邀请赛 2025 年的题,考多步推导,答案唯一。
| 模型 | 专项成绩 | 输入 / 输出(每百万 token) |
|---|---|---|
| 99.0 | ¥12.3 / ¥98 | |
| 98.7 | ¥8.75 / ¥70 | |
| 97.0 | ¥3.50 / ¥21 | |
| 96.7 | ¥12.3 / ¥98 | |
| 96.7 | —— | |
| 95.7 | ¥14 / ¥84 | |
| 95.7 | —— | |
| 95.0 | ¥4.20 / ¥15.4 | |
| 94.7 | —— | |
| 94.3 | ¥8.75 / ¥70 |
极难综合题各学科专家出的、刻意做到很难的一组题,用来看模型的天花板在哪。
| 模型 | 专项成绩 | 输入 / 输出(每百万 token) |
|---|---|---|
| 55.5 | ¥70 / ¥350 | |
| 54.9 | ¥35 / ¥175 | |
| 54.4 | ¥35 / ¥175 | |
| 52.8 | ¥35 / ¥175 | |
| 51.3 | ¥35 / ¥175 | |
| 49.5 | ¥35 / ¥210 | |
| 48.7 | ¥35 / ¥175 | |
| 47.9 | ¥5.25 / ¥26.3 | |
| 47.3 | ¥35 / ¥210 | |
| 47.0 | ¥14 / ¥84 |
03
官方说 vs 实际上
独立测试和官方数字并排放,出处见来源清单
「奥数金牌」「博士级」看的是最终答案;换个数字、要写证明过程,成绩就掉下来。
| 官方说 | 独立测试 | 用户实际反馈 | 差在哪、为什么 |
|---|---|---|---|
| 奥数金牌水平、博士级智能 | 苹果 GSM-Symbolic(ICLR 2025):只把小学数学题里的数字换掉,25 个模型准确率从 80% 以上跌到 50% 以下;加一句无关的话最多再降 65% | 未见可核的用户反馈 | 题目结构没变就答不对,暴露的是模式匹配,不是真推理 |
| 推理模型越想越准 | 苹果《The Illusion of Thinking》:复杂度过了某个点,准确率整体崩溃(另有学者对方法提出质疑) | 未见可核的用户反馈 | 宣传演示很少覆盖真正复杂的任务 |
| 引用 IMO / 奥赛金牌级的最终答案正确率 | 《Proof or Bluff?》:奥赛选手人工评 2025 年 USAMO 证明过程,8 个顶尖模型只有 1 个及格(25%),其余不到 5%;用 AI 自动评分最多虚高 20 倍 | 未见可核的用户反馈 | 比赛考的是证明过程,不是最后那个数字 |
它确实能做到:题目结构常见、步骤不太长、答案能自己验算的推理,它做得又快又好;越长、越新、越要写过程的,越要人把关。
04
这一页还缺什么
没采到的如实写,不放半截数字
国内厂商的深度思考模式文档未采集。三家的推理评测分数不在这里放 —— 分数要交叉验证,模型库里有独立评测。
05
来源清单
7 条,全部是厂商官方文档
逐条摊开,每条附原文链接⌄
厂商官方文档 · 7 条
- https://platform.claude.com/docs/en/build-with-claude/extended-thinking↗
- https://developers.openai.com/api/docs/guides/reasoning↗
- https://ai.google.dev/gemini-api/docs/thinking↗
- https://arxiv.org/pdf/2410.05229↗
- https://ml-site.cdn-apple.com/papers/the-illusion-of-thinking.pdf↗
- https://arxiv.org/pdf/2507.01231↗
- https://arxiv.org/pdf/2503.21934↗
您该怎么办
按任务难度调档,不要一律拉满:查事实与分类用最低档,多步规划才用高档。成本记在输出那一头 —— Google 官方写明:开启思考后,费用是输出 tokens 与思考 tokens 之和,OpenAI 建议起步时给推理与输出留至少 25,000 tokens 余量,否则可能付了钱却拿不到可见回答。