用好 AI › 让它不谎报

让它不谎报:官方给的 9 个办法

每条都出自厂商自己的官方文档。没有一句咒语能根治,官方自己也说只能减少、不能消除。

9个官方办法6个加一句话就能用2篇相关研究2026-09-06数据截至
01

一张图看全部办法

按上手成本分两组

一句话就能用加进提示词即可 · 6 条

先允许它说「不知道」长文档先让它摘原句,再让它回答要求它给出处,找不到出处就撤回涉及冷门或最新的事,让它联网查要算数就让它跑代码,别让它心算别让它评论没打开过的东西

要多跑一遍或改流程有额外成本 · 3 条

禁止它用「自己知道的」让它先说理由,再给结论同一个问题问几遍,看答案稳不稳

9 条都做完,也还是会编。这些办法能显著减少编造,但不能完全消除。关键信息永远要自己核,尤其是要拿来做重大决定的时候。

厂商官方文档 · 2026-09-06

再先进的模型也会生成与事实不符、或与您给的材料对不上的内容 —— 也就是「编造」,它会动摇您整套方案的可靠性。

02

每条怎么用

底色框里的话能直接抄进提示词

先允许它说「不知道」Anthropic

在提示词里加一句:「如果资料里没有依据,直接回答『资料中未提及』,不要推测。」

为什么有用

明确告诉它:不确定就直说不知道,不要猜。官方说这一个简单动作就能大幅减少编造 —— 因为默认情况下它会觉得必须给您一个答案。

长文档先让它摘原句,再让它回答Anthropic

分两步问:第一步「把与问题相关的原文逐句摘出来」,第二步「只根据上面摘出的内容回答」。

为什么有用

给它一份长材料时,别直接问结论。先让它把相关的原句一字不差地摘出来,再基于这些原句回答。官方对超过两万 token 的长文档专门推荐这一招。

要求它给出处,找不到出处就撤回Anthropic

加一句:「每条结论后面附一句原文引用;如果找不到支撑的原句,请删掉那条结论并说明。」

为什么有用

让它给每一条说法配一句原文引用。答完之后再让它逐条去找支撑的原句 ——找不到的,必须把那条说法撤掉。这是官方原话里最狠的一条。

禁止它用「自己知道的」Anthropic

加一句:「只使用我提供的文档作答,不要使用你的既有知识。」

为什么有用

明确限定它只能用您给的材料,不许调用它训练时记住的知识。很多编造正是从「它顺手补了一句自己以为对的」开始的。

让它先说理由,再给结论Anthropic
为什么有用

要求它一步步讲清推理过程再给答案 —— 逻辑或前提有问题时,往往在过程里就露出来了。

同一个问题问几遍,看答案稳不稳Anthropic
为什么有用

同样的问题跑几次,把结果放一起比。几次答得不一样的地方,通常就是它在编。这一招适合用在您没法自己核实的内容上。

涉及冷门或最新的事,让它联网查Google
为什么有用

官方的说法是:只要可能需要冷门或近期的事实,就该把联网检索打开,别让它凭记忆答。

实际上:联网能降低、不能消除编造。斯坦福测三款法律检索工具,出错率仍有 17% 至 33%(不带检索的 GPT-4 是 82%);哥伦比亚大学 Tow Center 测 8 款 AI 搜索、1600 次查询,六成以上答错,还会编造链接;BBC 与欧洲广播联盟跨 18 国测试,45% 的回答有重大问题。它给的出处,要点开核对。

要算数就让它跑代码,别让它心算Google
为什么有用

官方明说:只要涉及任何算术、计数、计算,就该开代码执行让它真算,而不是直接生成一个数字。报表、对账、统计这类活尤其要注意 —— 它「算」出来的数看着就像真的。

别让它评论没打开过的东西Anthropic

加一句:「凡是你没有实际打开读过的文件或资料,不要做任何判断;先读,再答。」

为什么有用

这条出自编程场景,但换个行业一样成立:不许它对没有真的打开看过的材料下判断。要它先去读,再回答。

OpenAI 没有一份专讲「减少编造」的官方指南 —— 我们查了它的提示词与可靠性相关文档,最接近的是结构化输出(让它按固定格式答,减少自由发挥)。这一栏按「官方未说明」记。

03

相关研究

2 篇论文与 2 个官方示例仓库

展开 2 篇研究⌄
让语言模型学会用可核实的引用支撑答案2022 · arXiv 2203.11147「让它给出处」这条做法背后的研究方向之一。
迈向可核实的生成:知识归因基准2023 · arXiv 2310.05634评估「模型说的话能不能追回到出处」的基准工作。
04

常见问题

答案都从本页数据生成

AI 为什么会编?⌄

再先进的模型也会生成与事实不符、或与您给的材料对不上的内容 —— 也就是「编造」,它会动摇您整套方案的可靠性。

有没有办法让它完全不编?⌄

没有,而且这句话是厂商自己写的:这些办法能显著减少编造,但不能完全消除。关键信息永远要自己核,尤其是要拿来做重大决定的时候。(出自 Anthropic 官方文档)

那有哪些办法能减少?⌄

本页整理了 9 条,全部出自 Anthropic、Google 的官方文档,逐条附原文与链接。最容易先用起来的一条是「先允许它说「不知道」」:明确告诉它:不确定就直说不知道,不要猜。官方说这一个简单动作就能大幅减少编造 —— 因为默认情况下它会觉得必须给您一个答案。

这些办法是你们想出来的吗?⌄

不是。每一条都能点到厂商官方文档的原文,采集于 2026-09-06。我们做的是翻成人话、按能不能直接抄进提示词排序,并把官方自己的保留意见一起放出来。

是不是每家都给了这类指南?⌄

OpenAI 没有一份专讲「减少编造」的官方指南 —— 我们查了它的提示词与可靠性相关文档,最接近的是结构化输出(让它按固定格式答,减少自由发挥)。这一栏按「官方未说明」记。

有没有可以直接跑的例子?⌄

有 2 个官方示例仓库:anthropic-cookbook(Anthropic,MIT)、openai-cookbook(OpenAI,MIT)。许可写在括号里,抄之前先看许可。

有没有研究数据支撑?⌄

有 2 篇,编号列在页面上,可以自己去 arXiv 核。

05

来源清单

厂商官方文档、论文原文与官方示例仓库

逐条摊开,每条附原文链接⌄

您该怎么办

最省事的三句话,直接加进提示词:「资料里没有依据就说没有,不要推测」「每条结论附一句原文引用,找不到支撑就删掉这条」「只用我给的材料」。要算数就让它跑代码,别让它心算。

这些办法能减少编造,不能消除,对外发布前照怎么检查产出再核一遍。活量大、自己核不过来,可以去人工援助留个需求。