名词说人话：AI 术语词典

容易误解成：以为是"回话速度"，其实是"同时能接几单"

什么时候会碰到：好几个人同时用一个账号卡顿时

容易误解成：以为是账户被封，其实是超了当下的配额，过一会儿能恢复

什么时候会碰到：用量突然被挡下来的时候

容易误解成：以为是"记住了您"，其实只是同一段材料重复用时省钱

什么时候会碰到：反复问差不多的问题、看账单发现有的问法更便宜时

容易误解成：以为是"聪明程度"，其实是"发挥尺度"

什么时候会碰到：调参数、发现同一个问题每次答案不一样时

容易误解成：以为是"网速"，其实是"处理能力"

什么时候会碰到：谈私有化部署报价、问为什么响应慢时

容易误解成：以为和电脑硬盘的存储空间是一回事

什么时候会碰到：自己买机器部署、被告知"显存不够"时

容易误解成：以为是"网不好"，其实模型本身处理就要花时间

什么时候会碰到：页面卡顿、觉得"半天不出字"时

容易误解成：和"限流"混着说，其实一个是总能力一个是单账号上限

什么时候会碰到：选服务商、比较套餐上限时

容易误解成：设了预算不代表一定用满，模型可能提前想完就停，也不是想得越久答案一定越好，官方原话是收益递减（diminishing returns）。

什么时候会碰到：用带深度思考开关的模型做复杂任务、纠结成本和延迟时。

官方原话：「The budget_tokens parameter sets a target for how many tokens Claude can use for its internal reasoning process.」。同页说明这是目标值不是硬上限（a target rather than a strict cap）。

容易误解成：批处理意味着不是实时返回，官方承诺是 24 小时内完成而不是立刻，不适合需要马上拿到结果的交互式场景。

什么时候会碰到：需要一次性处理大批量、非实时的任务且想省钱时。

官方原话：OpenAI 官方文档「the Batch API is used to send asynchronous groups of requests with 50% lower costs, a separate pool of significantly higher rate limits, and a clear 24-hour turnaround time」。

容易误解成：不能只看「每百万 token 多少钱」这一个数字来判断贵不贵：输入和输出的单价通常不一样，有些厂商对超长上下文还有额外的加价档位。

什么时候会碰到：给自己的产品做成本核算、比较不同厂商 API 价格时。

容易误解成：这是预估不是最终账单，实际计费以真正发出请求后返回的 usage 字段为准。

什么时候会碰到：批量处理任务前想控制预算、避免意外超支时。

官方原话：「use the token counting API to estimate token usage before sending messages to Claude」。

容易误解成：以为是模型自己"学会"了资料，其实每次都要现查

什么时候会碰到：问专业或内部问题、发现回答附带"引用来源"时

容易误解成：以为是加密，其实是为了方便"按意思搜"而不是"按字搜"

什么时候会碰到：搭知识库、听到"向量数据库"时

容易误解成：和普通数据库混淆，其实它专门按"意思相近"来查

什么时候会碰到：选型知识库工具、看架构图时

容易误解成：以为是"知识库"，语料是训练阶段用的，知识库是使用阶段现查的

什么时候会碰到：讨论"这个模型是拿什么训出来的"时

容易误解成：以为它能自动知道"今天"发生的事

什么时候会碰到：问它最新新闻或政策却答错、答旧的时

容易误解成：以为是故意隐藏，其实是空间不够被动删掉

什么时候会碰到：长对话突然"不记得"最早说的事时

容易误解成：不等同于写好一段提示词，Anthropic 原文强调更多上下文不是更好，需要主动筛选、压缩、管理进入上下文的信息（呼应第 2 条 context rot）。

什么时候会碰到：搭建长任务、多轮 Agent 系统，发现效果随对话变长而下降时。

官方原话：Anthropic 专文《Effective context engineering for AI agents》被其平台文档多处引用为管理长对话上下文的方法论出处。

容易误解成：压缩后的摘要不是信息无损，被压缩掉的细节有可能在后续任务中用不上，具体保真度因实现而异，和 glossary-plain 里"上下文压缩"词条说的是同一件事，此处补上官方英文名 compaction 及链接。

什么时候会碰到：需要跑很长的多轮对话或长任务 Agent，又不想频繁开新对话时。

官方原话：「Compaction automatically summarizes earlier parts of the conversation on the server, so the conversation can continue past the context window limit.」。

容易误解成：不同模型版本对超窗的处理方式不同，官方原文说明较新模型撞到上限会用特定的 stop_reason 优雅停止，更早的模型会直接报验证错误。

什么时候会碰到：开发 AI 应用时需要处理这种边界情况的报错，避免用户体验中断。

官方原话：「If the input alone already exceeds the model's context window, the API returns a 400 invalid_request_error」。

容易误解成：不是所有模型都有的能力，官方原文列出的是特定几款模型，并非全系列标配。

什么时候会碰到：跑很长的多轮任务时，这项能力能减少因为突然没上下文空间而中断的情况。

官方原话：「these models track their remaining context window (their 'token budget') throughout a conversation... Context awareness is automatic」。

容易误解成：和压缩是两种不同的技术手段，压缩是总结成摘要，这里是直接清掉不再需要的旧工具结果。

什么时候会碰到：Agent 需要频繁调用工具、工具返回内容很长时，容易占满上下文。

官方原话：「context editing offers additional strategies: Tool result clearing: Clear old tool results in agentic workflows」。

容易误解成：容易和"训练"混用；这里的推理是指"运行时用模型算答案"，日常说的"它在推理"就是"它在想"

什么时候会碰到：看到"深度思考""慢思考"模式、或"推理端/训练端"字样时

容易误解成：以为这段文字就是它内部真实运作原理的实录，实际只是它生成的一段说明性文字

什么时候会碰到：打开"显示思考过程"开关时

容易误解成：以为"咒语"越花哨越好，其实说清楚要什么最管用

什么时候会碰到：输入框里打字的时候

容易误解成：以为是玄学技巧，其实多是"说清楚背景、给例子、分步骤"这类常识

什么时候会碰到：发现同一个问题换个问法答案差很多时

容易误解成：以为用户看得到，其实通常是后台设置、用户界面不显示

什么时候会碰到：自己开发功能、设置"人设"或"禁止事项"时

容易误解成：以为是模型自己"算出来"的，其实是它调用了外部工具算的

什么时候会碰到：它自己去查天气、算数字、订日程时

容易误解成：以为是某一家公司的私有功能，其实是公开标准，各家都能接

什么时候会碰到：看到产品支持"MCP 接入"时

容易误解成：以为装了插件就能力全面提升，其实每个插件只解决一类具体的事

什么时候会碰到：商店里"安装插件"时

容易误解成：以为它在"撒谎"，其实它没有分辨真假的意识，只是在编排最像样的答案

什么时候会碰到：它给出的数字、链接、引用查不到出处时

容易误解成：以为跑分高等于干您的活也一定好，其实考题和您的实际场景可能不是一回事

什么时候会碰到：看厂商宣传"跑分第一"时

容易误解成：以为是"让它更聪明"，其实是"让它更听话、更符合预期"

什么时候会碰到：讨论"AI 安全""会不会学坏"话题时

容易误解成：以为分类器能理解内容含义，其实它只是按训练过的模式打标签，也会判断错

什么时候会碰到：内容审核、垃圾信息拦截场景里

容易误解成：以为过程完全不可控、不可查，其实"端到端"只是说不用您手动接力，出错了还是要能查

什么时候会碰到：产品宣传"端到端解决方案"时

容易误解成：以为泛化好等于"什么都懂"，其实每个模型都有能力边界

什么时候会碰到：用模型处理一个它没"见过"的新情况时

容易误解成：以为和"准确率"是一回事，其实鲁棒性说的是"稳不稳定"，准确率说的是"对不对"

什么时候会碰到：别人故意用怪问题"套话"套出异常回答时

容易误解成：以为多模态模型样样都是最强的，实际上综合能力强不代表单项最好

什么时候会碰到：上传图片、语音提问、生成图片时

容易误解成：以为参数越多效果一定越好，实际还要看训练质量和任务是否匹配

什么时候会碰到：看到"70B""千亿参数"这类宣传词时

容易误解成：以为小模型就是"弱"，其实小模型在特定任务上可能更快更省钱

什么时候会碰到：选型时纠结"要不要上最大的模型"

容易误解成：以为都是同一个模型改了名字，其实底层能力确实不同

什么时候会碰到：选套餐、看到"标准版/专业版/旗舰版"模型时

容易误解成：这是 Anthropic 自家 API 的参数命名，不代表所有厂商都用 effort 这个词或这套机制，其他厂商可能用完全不同的参数名和逻辑。

什么时候会碰到：用 API 直接接入模型、需要精细控制成本和响应速度的开发场景（普通产品用户通常看不到这层参数）。

官方原话：Anthropic 文档用 output_config: {effort: ...} 替代旧版直接设置 token 预算的方式来控制推理深度。

容易误解成：附带引用链接不代表内容一定准确，模型有可能引用了一个链接但内容和链接实际讲的东西对不上，仍需人工点开核实。

什么时候会碰到：需要模型输出的每一条结论都可供读者核实来源时。

官方原话：未见可核证据，本次未采集到统一官方定义句，行业内多个产品提供 citation 功能，指模型在生成内容时附带引用来源链接。

容易误解成：网页版聊天和通过 API 接入同一个模型，体验和上下文管理策略可能不一样，这是产品层面的策略差异，不是模型能力本身的差异。

什么时候会碰到：判断为什么网页版和自己接的 API 效果不一样时。

官方原话：Anthropic 原文特别注明区别「Chat interfaces such as claude.ai can also manage the context window on a rolling 'first in, first out' basis.」，与 API 调用方式（开发者自行管理上下文）不同。

容易误解成：这是 Anthropic 自家 API 的具体功能命名，不代表所有平台都有对等实现。

什么时候会碰到：给 Agent 接入的工具数量很多、发现光是工具说明就占掉大量上下文空间时。

官方原话：Anthropic 文档提到 defer tool definitions with the tool search tool，作为减少工具定义占用上下文的一种手段。

容易误解成：以为私有化部署就是"更便宜"，其实通常前期投入更高，换的是数据不出门

什么时候会碰到：涉及客户隐私、需要过合规审查的行业问一次报价时

容易误解成：以为开源就是免费能直接商用，实际还要看具体的开源许可证怎么写

什么时候会碰到：讨论"要不要用开源模型自己训"时

容易误解成：以为闭源就一定更强，强弱和是否开源本身没有必然关系

什么时候会碰到：对比"开源 vs 闭源"选型时

容易误解成：以为微调等于"喂知识库"，其实微调改的是模型本身的行为习惯，成本和门槛比接知识库高得多

什么时候会碰到：想让模型更懂自己行业黑话、自己产品时

容易误解成：以为蒸馏后的小模型和原版能力完全一样，实际通常是打折但更快更省

什么时候会碰到：看到"蒸馏版""小尺寸模型性能接近大模型"宣传时

容易误解成：以为量化就是"阉割功能"，其实多数场景下效果损失很小，换来的是能跑在更普通的机器上

什么时候会碰到：自己部署模型、看到 "4bit/8bit" 字样时

容易误解成：和"多智能体"混淆，微服务是软件工程的架构方式，不是 AI 专属概念

什么时候会碰到：听程序员讲系统架构时

容易误解成：以为沙箱等于"演示模式功能阉割版"，实际功能通常一样，区别只在于是否影响真实数据

什么时候会碰到：看到"在沙箱环境测试"字样时

容易误解成：端侧模型通常意味着体积更小、能力更弱，不代表端侧就一定更安全、数据一定不出设备，具体是否联网仍需看各产品隐私政策。

什么时候会碰到：关心离线可用性、响应速度或数据不出本机的隐私需求时。

官方原话：未见可核证据，本次未采集到某单一厂商对该词的独立官方定义句，行业通用理解为「直接在终端设备上运行、不依赖云端服务器的模型」。

容易误解成：不是所有厂商都会提前很久通知模型下线，具体每家的退役周期和通知时间需要单独查各自的模型生命周期政策。

什么时候会碰到：把 AI 能力集成进自己产品的开发者，需要长期关注所依赖模型是否会被弃用。

官方原话：Anthropic 文档明确某功能「deprecated on the Claude 4.6 models (requests using it still succeed)」，并配套发布迁移指南。

容易误解成：这是和上下文窗口 token 数超限不同的另一种限制，即使 token 数没超，单次请求塞的图片、文件数量超了也会被拒绝。

什么时候会碰到：一次性上传多张图片或多份长文档给模型处理时。 ---

官方原话：「A single request can include up to 600 images or PDF pages (100 for models with a 200k-token context window). If you send many images or large documents, you might reach request size limits before the token limit.」。

容易误解成：以为脱敏后数据就100%安全，处理不当仍可能被反推出原始信息

什么时候会碰到：把真实数据交给 AI 处理前

容易误解成：以为默认都会记录，实际有的系统要手动开启审计功能

什么时候会碰到：出问题后要"查是谁干的"时

容易误解成：以为三层审计能保证 100% 不出错，它降低出错概率，不是消除风险

什么时候会碰到：给 AI 生成的内容设计"人工把关"流程时

容易误解成：以为分级越细越好，权限设计太复杂反而没人会正确配置

什么时候会碰到：给团队成员开账号、分配不同操作权限时

容易误解成：不是小概率的极端攻击，只要 AI 系统会读取外部不可信内容（网页、邮件、第三方文档），就存在被注入的风险，具体被成功利用的概率因系统防护措施而异。

什么时候会碰到：给 AI 授予「能读取外部网页/邮件」或「能执行操作（发消息、下单）」权限时。

官方原话：OWASP《LLM Top 10》LLM01 官方描述「Manipulating LLMs via crafted inputs can lead to unauthorized access, data breaches, and compromised decision-making.」。OWASP 是应用安全领域的权威独立组织，这份清单是行业公认的风险分类标准。

容易误解成：不是所有厂商在这方面的防护水平一样，具体某产品的抗越狱能力需要看第三方安全评测或厂商自己披露的红队测试结果。

什么时候会碰到：面向公众开放、允许自由对话的 AI 应用，需要评估这一风险。

官方原话：OWASP《LLM Top 10》将此类风险和提示词注入归入同一大类风险描述，该组织未对 jailbreak 单列独立编号词条，而是把绕过安全限制的技巧作为提示词注入的一种具体表现形式处理。