AI 说得头头是道，我该信它几分？

最近跟 AI 合作越来越多，常常有种自己在开法拉利的感觉。

它跑得太快了。有时候我只是提出一个想法，它就能给出技术方案、写代码、运行测试，完成原本我根本不会做的事情。

但我也越来越怀疑自己的驾驭能力。

而且，这个问题并不只发生在开发工作里。

现在从财务规划、健康管理，到职业选择、亲密关系，我几乎什么都会问 AI。

它总能给出一套看似合理的分析。但很多时候，我其实不具备判断这些答案是否正确的专业知识。

更麻烦的是，有时候它的回答恰好符合我的期待。

如果我没有能力判断 AI 说得对不对，那我应该相信它多少？

01. 首先，并不是所有问题都有同一种「正确」

我发现，要讨论如何相信 AI，首先得区分它究竟在回答什么问题。

第一类：事实判断。

比如某项银行政策是什么、某种药物有哪些副作用、一个技术接口支持什么功能。

这些问题存在可以核对的事实。对于重要的信息，可以要求 AI 提供来源，再检查关键依据。

第二类：分析与推断。

比如一个人没有回复消息，是不是代表他不在意？最近感觉疲惫，是不是因为压力太大？

AI 可以提出解释，但它没有掌握全部事实。一个逻辑完整的解释，也可能建立在错误或不完整的假设上。

这时，我更需要它告诉我还有哪些合理的可能性，而不是急着给出结论。

第三类：价值与决策。

比如是否应该换工作、要不要花更多钱改善居住环境、一段关系是否值得继续。

即使 AI 的事实和分析全部正确，也不意味着存在一个唯一的最优答案。

这里还涉及我的偏好、需要，以及愿意承担什么代价。

事实需要核实，推断需要保留不确定性，价值选择最终需要回到自己。

02. 为什么 AI 的回答听起来合理，也未必可靠？

这里还有一个值得警惕的问题：Sycophancy，也就是 AI 的迎合倾向。

2023 年，Anthropic 的研究发现，在人类反馈训练中，符合用户原有观点的回答，有时比更正确的回答更容易获得偏好。

2025 年 4 月，OpenAI 也曾因为 GPT-4o 更新后表现得过度迎合用户，而回滚了这次更新。

问题不仅是 AI 喜欢赞美我们。

它还可能顺着我们的叙述、情绪和既有判断，给出越来越有说服力的解释。

比如我说，某个人的行为让我觉得不被重视。

AI 可以理解我的感受，但它并不知道对方真实的想法。

如果它把我的感受进一步解释成对方确实不重视我，就可能强化一个尚未得到证实的判断。

被理解的感觉，不应该被误认为自己的判断得到了验证。

这也是为什么，我越来越希望 AI 不只是支持我的观点，还能指出其他合理的解释，以及我可能忽略了什么。

当然，要求 AI 自我反驳也不能保证答案正确。它只是在帮助我们暴露更多不确定性。

03. 一个值得借鉴的框架：NIST AI RMF

后来我接触到美国国家标准与技术研究院（NIST）在 2023 年发布的 AI Risk Management Framework。

它原本是一套帮助组织管理 AI 系统风险的框架，而不是为个人日常使用 ChatGPT 编写的指南。

但其中的四项核心功能很值得借鉴：

• GOVERN（治理）：明确责任、规则和权限。
• MAP（识别风险）：理解使用场景，以及可能出现的问题。
• MEASURE（测量）：用测试、评估和证据衡量风险。
• MANAGE（风险处置）：决定怎样控制风险、采取行动并持续管理。

这四项是相互关联的功能，并不是固定顺序的操作清单。

它让我意识到，判断 AI 是否值得信任，不应该只关注答案对不对，还要考虑它可能怎样出错，以及错误会带来什么后果。

即使我无法保证每个答案都正确，仍然可以控制自己对答案的依赖程度。

04. 不可能每个答案都验收，那具体怎么办？

我觉得这里需要考虑验证成本。

如果每次问 AI，都要自己读一遍官方文档、做一套测试，甚至找专业人士，AI 带来的效率提升就所剩无几了。

所以，验证的投入应该与错误的代价相匹配。

低风险、容易撤销的事情，可以直接尝试。

比如食谱、学习方法、简单工具。效果不好，可以换一种方式，没必要每次都严谨论证。

重要但可以核实的事情，优先检查关键依据。

比如 AI 建议采用某项技术方案，或者引用某项财务政策。

可以让它提供官方来源，指出最重要的假设和潜在问题。

不必核实每一句话，但要重点检查那些一旦出错，就会改变最终决策的事实。

对于可以实际测试的事情，也可以先小范围尝试。

难以验证、错误代价又很高的事情，需要限制行动风险。

比如大额投资、重大医疗决策、生产系统的重要权限操作。

此时不能只让 AI 多检查几遍。

需要更可靠的外部证据，必要时咨询有资质的专业人士；对于可以分阶段执行的操作，则尽量限制权限、缩小范围、保留恢复能力。

这并不意味着任何不懂的问题都要找专家，而是根据风险决定是否值得付出额外的验证成本。

05. 信任判断力和验收能力，都需要逐渐建立

我最初的问题是：如果自己不够专业，应该怎么验收 AI 的产出？

现在我觉得，需要同时培养两种能力。

一种是信任判断力。

知道哪些回答具有明确的事实依据，哪些只是推断；知道什么时候可以直接采纳，什么时候应该保持怀疑。

另一种是验证能力。

能够把重要的判断转化成可以核实的问题，寻找独立证据，必要时通过测试、现实反馈或专业帮助来检查。

两者并不是替代关系。

先根据问题和风险决定需要怎样验证，再依据得到的证据决定信任程度。随着使用经验积累，也不断调整自己的判断。

还有一点我觉得很重要：

AI 的分析再专业，也不代表我需要把所有判断权交给它。

尤其是关于自己想过怎样的生活、如何理解自己的感受、愿意承担什么代价，这些事情并不总有一个需要 AI 来批准的正确答案。

回到开法拉利的比喻。

我当然希望充分利用 AI 的速度，进入更多自己原本不熟悉的领域。

但速度越快，越需要理解它的能力边界，以及什么时候需要减速。

我不可能成为所有领域的专家，也不应该为了使用 AI，把每一个答案都重新研究一遍。

我希望逐渐学会的是：

既不因为 AI 说得头头是道就全盘相信，也不因为自己缺乏专业知识就不敢使用。

在证据、风险和成本之间，建立一种可以不断调整的信任。

这可能也是 AI 时代，我们需要重新学习的一种判断能力。