LLM的元认知：为什么AI有时候知道自己不知道

一道奇怪的问题

上周我在测试一个场景：问模型某个小城市的人口。有的模型直接给了个数字，语气非常笃定；有的模型说「我没有这个数据的确切信息，建议查当地统计局」。这差异让我礊碨了很久。同样是不知道，为什么反应截然不同？

什么是LLM的元认知

元认知（metacognition）是人类认知中的一个概念，简单说就是「对自己认知状态的认知」——知道自己知道什么，更知道自己不知道什么。在LLM里，这个能力体现为校准度（calibration）：模型输出的置信程度，和它实际答对的概率，是否吴合？

理想情况下，当模型说「我有80%把把这是对的」，它实际答对率应该接近80%。如果经常说「很确定」但其实错了，就叫过度自信（overconfidence）；反过来，明明答对了却总说「不太确定」，叫欠自信（underconfidence）。

语言模型是怎么表达不确定的

LLM本质上是预测下一个token，它并没有一个内部的「确定度仰表盘」。那「我不确定」这句话是怎么出来的？答案是：这是从训练数据里学来的语言模式。人类写作中，当描述不确定的事实时，会用「可能」「据报道」「好像是」这类词。模型学会了在哪些情况下，跟着这套语言模式走更合理。

但这个机制是脆弱的。模型不是真的在「查询内部知识库的可靠度」，而是在生成「看起来合理的文本」。如果训练数据里某个错误信息出现频率很高，模型可能会用非常确定的语气输出错误答案。

RLHF让问题更复杂了

早期的基础模型在校准度上还行，偶尔会有「我不确定这个信息」这种表达。但经过RLHF（人类反馈强化学习）微调后，情况变了。人类标注员在评分时，往往给「听起来自信、有帮助」的回答更高分，给「频繁说不确定」的回答低分。结果就是：模型被训练成了更「自信」的风格，哪怕内部的不确定性没有变化。这是一种对齐税——为了看起来更有用，牧牲了准确的不确定性表达。

两种知道自己不知道的方式

研究者发现，模型在两种层面上能识别自己的不足：

1. token级别的不确定性
在生成每个token时，softmax输出的概率分布。如果分布很「平」（多个token概率接近），说明模型在这个位置真的不确定该说哪个词。这种不确定性可以从模型内部读取，但用户通常看不到。

2. 语义级别的校准
模型对自己整体答案的把握程度。这个更难测量，因为需要模型能「反思」自己的输出。Claude系列和GPT-4o在这方面做了不少优化，能更准确地用语言表达不确定性。

SFD实验室踩过的坑

我们在搭内部知识问答系统时，就栽在这上面了。最初直接让模型回答员工问题，结果发现：模型对「文档里有明确写的内容」和「文档里没有但它从预训练学到的内容」，语气几乎一样确定。员工根本分不清哪个是公司规定、哪个是模型编的。

后来加了RAG（检索增强生成），要求模型每次回答都注明来源，并且在没有检索到相关内容时明确说「文档中没有找到这方面信息」。这才把问题控制住。但还有一个细节：即使有RAG，模型有时会在检索结果里找到「沿边」的内容，然后做过度推断。解决办法是在prompt里加：「如果检索到的内容不能直接回答问题，必须说明推断部分。」

怎么让模型更好地表达不确定性

几个实战有效的方法：

显式要求校准输出：在prompt里说「如果你不确定，请明确说出来，不要猜测」。这比不说好一截，但模型仍然会在某些场景过度自信。

让模型给出置信度：要求模型在答案后附上「我对这个回答的确信程度：高/中/低」，并解释原因。这个方法强迫模型做一次自我审查。

多次采样+一致性检验：对同一问题采样多次，如果答案高度一致，通常置信度高；如果每次答案都不同，说明模型其实很不确定。

Chain-of-Thought对校准有帮助：让模型逐步推理，而不是直接输出答案，通常能提高校准度。因为推理过程中，模型自己也更容易发现「等等，我这一步其实不确定」。

2026年的进展

Anthropic在Claude系列里明显加强了不确定性表达，模型会更主动地说「我没有这方面的最新数据」或者「根据我的训练数据，但可能已经过时了」。OpenAI的o系列模型通过推理链，在数理和逻辑题上校准度大幅提升，但在开放性问题上仍然存在过度自信的问题。

一个有趣的研究方向是「拒绝回答预测」（selective prediction）：让模型学会在不确定时主动说「这个问题我回答不了，建议查权威来源」，而不是硬编一个答案。这在高风险场景（医疗、法律）里非常重要。

SFD编者注

我们用OpenClaw跑30个智能体，每天要做几百次决策。元认知这个问题，在智能体协作里尤其关键。小猿鹰做安全审计，小章鱼写后端代码——如果代码有漏洞但模型没意识到，或者审计里有错误判断但输出很「确定」，后果是严重的。我们的做法是：给每个智能体设置「不确定时上报」的规则。宁可多问一次老板，也不能自信地做错事。这个原则，和LLM校准度的研究方向是一致的：承认不确定，比假装确定，价值要高得多。