用好 AI › 让它不谎报
让它不谎报:官方给的 9 个办法
每条都出自厂商自己的官方文档。没有一句咒语能根治,官方自己也说只能减少、不能消除。
一张图看全部办法
按上手成本分两组
一句话就能用加进提示词即可 · 6 条
要多跑一遍或改流程有额外成本 · 3 条
9 条都做完,也还是会编。这些办法能显著减少编造,但不能完全消除。关键信息永远要自己核,尤其是要拿来做重大决定的时候。
再先进的模型也会生成与事实不符、或与您给的材料对不上的内容 —— 也就是「编造」,它会动摇您整套方案的可靠性。
每条怎么用
底色框里的话能直接抄进提示词
在提示词里加一句:「如果资料里没有依据,直接回答『资料中未提及』,不要推测。」
为什么有用
明确告诉它:不确定就直说不知道,不要猜。官方说这一个简单动作就能大幅减少编造 —— 因为默认情况下它会觉得必须给您一个答案。
分两步问:第一步「把与问题相关的原文逐句摘出来」,第二步「只根据上面摘出的内容回答」。
为什么有用
给它一份长材料时,别直接问结论。先让它把相关的原句一字不差地摘出来,再基于这些原句回答。官方对超过两万 token 的长文档专门推荐这一招。
加一句:「每条结论后面附一句原文引用;如果找不到支撑的原句,请删掉那条结论并说明。」
为什么有用
让它给每一条说法配一句原文引用。答完之后再让它逐条去找支撑的原句 ——找不到的,必须把那条说法撤掉。这是官方原话里最狠的一条。
加一句:「只使用我提供的文档作答,不要使用你的既有知识。」
为什么有用
明确限定它只能用您给的材料,不许调用它训练时记住的知识。很多编造正是从「它顺手补了一句自己以为对的」开始的。
为什么有用
要求它一步步讲清推理过程再给答案 —— 逻辑或前提有问题时,往往在过程里就露出来了。
为什么有用
同样的问题跑几次,把结果放一起比。几次答得不一样的地方,通常就是它在编。这一招适合用在您没法自己核实的内容上。
为什么有用
官方的说法是:只要可能需要冷门或近期的事实,就该把联网检索打开,别让它凭记忆答。
实际上:联网能降低、不能消除编造。斯坦福测三款法律检索工具,出错率仍有 17% 至 33%(不带检索的 GPT-4 是 82%);哥伦比亚大学 Tow Center 测 8 款 AI 搜索、1600 次查询,六成以上答错,还会编造链接;BBC 与欧洲广播联盟跨 18 国测试,45% 的回答有重大问题。它给的出处,要点开核对。
为什么有用
官方明说:只要涉及任何算术、计数、计算,就该开代码执行让它真算,而不是直接生成一个数字。报表、对账、统计这类活尤其要注意 —— 它「算」出来的数看着就像真的。
加一句:「凡是你没有实际打开读过的文件或资料,不要做任何判断;先读,再答。」
为什么有用
这条出自编程场景,但换个行业一样成立:不许它对没有真的打开看过的材料下判断。要它先去读,再回答。
OpenAI 没有一份专讲「减少编造」的官方指南 —— 我们查了它的提示词与可靠性相关文档,最接近的是结构化输出(让它按固定格式答,减少自由发挥)。这一栏按「官方未说明」记。
相关研究
2 篇论文与 2 个官方示例仓库
展开 2 篇研究⌄
常见问题
答案都从本页数据生成
AI 为什么会编?⌄
再先进的模型也会生成与事实不符、或与您给的材料对不上的内容 —— 也就是「编造」,它会动摇您整套方案的可靠性。
有没有办法让它完全不编?⌄
没有,而且这句话是厂商自己写的:这些办法能显著减少编造,但不能完全消除。关键信息永远要自己核,尤其是要拿来做重大决定的时候。(出自 Anthropic 官方文档)
那有哪些办法能减少?⌄
本页整理了 9 条,全部出自 Anthropic、Google 的官方文档,逐条附原文与链接。最容易先用起来的一条是「先允许它说「不知道」」:明确告诉它:不确定就直说不知道,不要猜。官方说这一个简单动作就能大幅减少编造 —— 因为默认情况下它会觉得必须给您一个答案。
这些办法是你们想出来的吗?⌄
不是。每一条都能点到厂商官方文档的原文,采集于 2026-09-06。我们做的是翻成人话、按能不能直接抄进提示词排序,并把官方自己的保留意见一起放出来。
是不是每家都给了这类指南?⌄
OpenAI 没有一份专讲「减少编造」的官方指南 —— 我们查了它的提示词与可靠性相关文档,最接近的是结构化输出(让它按固定格式答,减少自由发挥)。这一栏按「官方未说明」记。
有没有可以直接跑的例子?⌄
有 2 个官方示例仓库:anthropic-cookbook(Anthropic,MIT)、openai-cookbook(OpenAI,MIT)。许可写在括号里,抄之前先看许可。
有没有研究数据支撑?⌄
有 2 篇,编号列在页面上,可以自己去 arXiv 核。
来源清单
厂商官方文档、论文原文与官方示例仓库
逐条摊开,每条附原文链接⌄
厂商官方文档 · 3 条