AI 不必真的懂，也能生成答案
AI doesn't need to understand to answer上一篇写到：AI 的答案不是从“真理数据库”里取出来的，而是在当前上下文里生成最可能的回答。
但这会带来另一个问题：
如果 AI 不是在真正“知道答案”，那为什么它又经常答得这么好？
你说一句很模糊的话，它能补全你的意思。你贴一段混乱的文字，它能整理出结构。你让它换一种语气，它能马上改写。你说“不要太 AI tone”，它甚至能理解你嫌弃的到底是什么。
这很容易让人产生一种感觉：
它好像真的懂了。
但更准确的说法可能是：
AI 可以生成它不必真正理解的答案。
这不是说 AI 没有能力。而是说，它的能力来源，和人类的理解方式不一样。
我们以为：回答来自理解
对人来说，通常是先理解，再回答。
比如我问你：
这封邮件是不是太强硬了？
你会理解语气、关系、场景、后果，然后判断应该怎么改。
所以我们很自然地以为：
能回答 = 它理解了。
但 AI 不完全是这样工作的。
它不需要像人一样经历过这件事，也不需要像人一样承担现实后果，就可以生成一个看起来完整、流畅、甚至有用的回答。
这就是 AI 最神奇，也最容易让人误判的地方。
它为什么能做到？
这里有一个重要技术词：
Transformer。
先放一个全景图：Transformer 不是“所有 AI 的唯一基础”。
AI 里还有很多路线：推荐系统、传统机器学习、扩散模型、强化学习、机器人控制等等。
但如果我们讨论的是今天这些主流聊天式 AI / 大语言模型，Transformer 是非常重要的架构基础之一。
2017 年有一篇后来非常重要的论文，标题叫：
Attention Is All You Need。
注意，它不是一句鸡汤式名言。它是一篇论文的标题。
这篇论文提出了 Transformer 架构，也让 attention 成为理解现代大语言模型时绕不开的概念。
Attention 不是心理学里的“注意力”
很多人第一次看到 attention，会以为它是人在心理层面的“注意力”。
但在这里，attention 更准确地说，是一种让模型计算上下文中不同 token 之间关系权重的机制。
说人话就是：
当前这个词，要参考上下文里的哪些信息？参考多少？
举个简单例子：
The animal didn’t cross the street because it was tired.
这里的 “it” 指谁？
人一眼就知道，是 animal，不是 street。但对模型来说，它需要判断：
当前这个 “it”，应该和前面的哪个词关系更强？
这就是 attention 想解决的一类问题。
它不是平均看所有词。而是判断：哪些信息更重要，哪些信息应该被更多参考。
所以 AI 很会处理上下文
这也是为什么 AI 能做很多看起来像“理解”的事：
它能总结文章，是因为它能抓住上下文里的重点。它能改写语气，是因为它能识别表达风格。它能接住前文，是因为它能追踪上下文关系。它能帮你整理混乱想法，是因为它能把语言里的结构重新组织出来。
所以 prompt 很重要。
你给它的上下文越清楚，它越容易生成有用的答案。你给它的信息越混乱，它越可能顺着错误前提继续生成。
很多时候，不是 AI “突然变笨”。而是它在一个不完整、不准确、带偏见的上下文里，生成了一个看起来很完整的回答。
但上下文，不等于现实
这里是关键边界：
AI 很会处理语言里的关系。但语言里的关系，不等于现实里的真相。
它可以判断一句话里的 “it” 指谁。但它不一定知道某条政策现在是否还有效。
它可以帮你分析一个人冷淡回复可能有哪些原因。但它不能真的知道对方心里怎么想。
它可以帮你写一封很礼貌的邮件。但它不会替你承担这封邮件发出去后的后果。
所以 AI 的强，不是它像人一样经历过世界。而是它非常擅长在语言和上下文里找关系、补结构、生成合理表达。
这解释了为什么它有时候非常好用。也解释了为什么它有时候会错得很自然。
因为它接住的是上下文，不是现实本身。
普通人该怎么用？
理解 Transformer，不是为了把自己学成工程师。
普通人只需要记住三件事：
第一，AI 很会接上下文，所以你给的信息越清楚，它的回答通常越好。
第二，AI 会顺着上下文生成答案，所以如果你的前提错了、信息少了、情绪带偏了，它也可能顺着错下去。
第三，AI 生成了一个好答案，不等于它真的知道现实里发生了什么。
所以更好的问法不是：
你直接告诉我答案。
而是：
我给你足够上下文，请你帮我整理可能性、指出盲点，并告诉我哪些地方需要验证。
一句话：
AI 不必像人一样理解，也能生成有用的答案。但它真的对不对，还要回到事实、来源和现实验证。
这是“普通人如何正确相信 AI”这个系列的第 2 篇。下一篇想聊：到底哪些问题适合问 AI，哪些问题不能完全交给它。