Day 032人与 AI Human & AIAI 为什么会摇摆 3/3约 10 分钟

如何管理 AI 的摇摆?

Managing AI's wobble

前两篇写了两个现象。

第一篇是:

为什么一质疑 AI,它就马上改口?

第二篇是:

为什么有时候一生气,AI 产出突然变好了?

这篇想收回来讲一个更实际的问题:

既然 AI 会改口、会迎合、会过度修正,我们到底应该怎么和它协作?

我的判断是:

AI 的摇摆不能完全消除,但可以被管理。

因为 AI 本来就会根据上下文、反馈、目标和约束不断调整输出。

问题不在于它会变。

问题在于:

  • 它为什么变?
  • 根据什么变?
  • 哪些地方可以变?
  • 哪些地方不应该变?
  • 什么时候应该停?

如果这些都不清楚,AI 就会变成一个非常努力、但没有边界的协作者。

  • 你一质疑,它改。
  • 你一生气,它改。
  • 你换个说法,它改。
  • 你说 self-review,它继续找问题。

看起来很配合。

但最后可能是一起迷路。

AI 越改越乱,通常不是因为它不会

很多人用 AI 做开放任务时,会经历一种很熟悉的循环。

第一版太泛。第二版太长。第三版太硬。第四版太口语。第五版终于有结构,但又没有感觉。

看起来一直在优化。

其实是在不同标准之间来回摆。

这通常不是因为 AI 完全不会。

而是因为协作里缺了几样东西:

  • 没有清楚的目标;
  • 没有固定的评价标准;
  • 没有说清楚不要什么;
  • 没有限制每次 review 的范围;
  • 没有记录当前决定;
  • 没有设置什么时候该停。

AI 很擅长继续生成。

但它不天然知道什么时候应该停止。

AI 很擅长响应反馈。

但它不天然知道哪些反馈应该改变主干,哪些只是局部偏好。

AI 很擅长给新版本。

但它不天然知道上一版哪些东西其实应该保留。

所以管理 AI 摇摆,不是靠一句:

“你不要迎合我。”

这句话太宽。

真正有用的是:给它一套清楚的协作边界。

第一件事:先定义什么叫好

开放任务最容易摇摆,是因为“好”本身不清楚。

比如你让 AI 写标题。

你说:

“帮我写几个更好的标题。”

但什么叫更好?

  • 更清楚?
  • 更有传播感?
  • 更像真人?
  • 更专业?
  • 更适合小红书?
  • 更适合官网?
  • 更适合投资人?
  • 更容易转化?

这些都可能是“更好”。

但它们不是同一个方向。

  • 更清楚,可能变普通。
  • 更有传播感,可能变标题党。
  • 更专业,可能变模板。
  • 更像真人,可能变松散。

如果一开始没有定义标准,AI 后面每一次修改都只能根据你的反馈猜。

  • 你说“太普通”,它就变得更有冲击力。
  • 你说“太标题党”,它又变得更克制。
  • 你说“太 AI 味”,它开始口语化。
  • 你说“不够专业”,它又开始加概念。

这不是越改越好。

这是评价标准一直在漂。

所以,对开放任务来说,第一步不应该是产出。

第一步应该是先问:

这次我们用什么标准判断好坏?

可以这样说:

“在开始前,请先定义这次任务的评价标准,并按优先级排序。如果标准之间冲突,请说明优先保哪一个,牺牲哪一个。”

比如写文章:

这次更重要的是机制解释,不是情绪共鸣。更重要的是结构清楚,不是金句。更重要的是能泛化,不是只讲个人经历。

比如写简历:

这次更重要的是岗位匹配,不是经历完整。更重要的是可信,不是包装得很满。更重要的是具体证据,不是抽象能力词。

比如做产品方案:

这次更重要的是验证需求,不是功能完整。更重要的是用户路径,不是技术炫技。更重要的是识别风险,不是把方案写漂亮。

标准清楚后,AI 仍然会修改。

但它不再是乱改。

它是在同一套评价坐标里改。

第二件事:反馈前,先判断问题层级

很多时候,我们对 AI 的反馈太粗。

“不对。”“不好。”“再优化一下。”“你确定吗?”“这版不行。”

这些话都能表达不满。

但它们没有告诉 AI:到底哪里出了问题。

  • 是事实错了?
  • 逻辑错了?
  • 目标变了?
  • 约束没遵守?
  • 表达不自然?
  • 输出形式不合适?
  • 还是你只是更喜欢另一个方向?

这些问题的修法完全不同。

  • 如果是事实错了,要查证。
  • 如果是逻辑错了,要重推。
  • 如果是目标变了,要换标准。
  • 如果是约束没遵守,要修边界。
  • 如果只是表达问题,才需要润色。
  • 如果只是审美偏好,不一定要推翻主判断。

所以,当你想 challenge AI 时,不要让它立刻改。

先让它判断反馈层级。

可以这样说:

“我在 challenge 你的输出。请不要立刻修改。先判断我的反馈属于哪一类:

  • 事实错误;
  • 逻辑问题;
  • 目标变化;
  • 评价标准变化;
  • 约束未遵守;
  • 表达问题;
  • 审美偏好;
  • 信息不足。

判断完后,再说明:原答案应该保留、局部修改,还是完全推翻。”

这个动作的意义是:

防止 AI 一听到不满就认错。

也防止它把局部问题当成整体失败。

很多时候,我们不是要它马上给新版本。

我们是要它先判断:

这个反馈到底改变了什么。

第三件事:告诉 AI 不要什么

我们很习惯告诉 AI:

我要什么。

但不太习惯告诉它:

我不要什么。

可是“不要什么”非常重要。

因为开放任务里,错误方向太多了。

你说:“写得更专业。”

AI 可能去堆术语。

你说:“写得更自然。”

AI 可能变得松散。

你说:“结构更清楚。”

AI 可能只是加很多小标题。

你说:“重写一版。”

AI 可能把原本好的东西也删掉。

所以只说目标不够。

还要给负向约束。

也就是明确告诉 AI:

哪些方向不要走。

比如:

  • 不要写得更长。
  • 不要只是润色。
  • 不要加更多概念。
  • 不要全盘推翻。
  • 不要为了显得专业而牺牲可读性。
  • 不要把我的反馈全部塞进去。
  • 不要把一个局部问题改成整体重写。

这会减少很多乱修。

因为 AI 不是不知道努力。

它是不知道哪些努力方向是错的。

负向约束的作用,就是先封掉错误的路。

写代码时,可以说:

  • 不要为了修 bug 重构整个项目。
  • 不要改无关文件。
  • 不要引入新依赖。
  • 不要优化性能,先保证测试通过。

做产品方案时,可以说:

  • 不要先写完整功能列表。
  • 不要假设用户已经有强需求。
  • 不要把商业化放在需求验证之前。
  • 不要用大而全的路线图掩盖核心假设没验证。

做调研时,可以说:

  • 不要只总结观点。
  • 不要混用旧资料和新资料。
  • 不要把没有来源的判断写成事实。
  • 不要只给结论,不说明证据等级。

很多时候,说清楚“不要什么”,比说“更好一点”有效得多。

第四件事:限制 review 的范围

AI self-review 很容易越改越乱。

因为只要你让它 review,它几乎总能找出问题。

  • 可以更短。
  • 可以更深。
  • 可以更自然。
  • 可以更专业。
  • 可以更有结构。
  • 可以更有案例。
  • 可以更像真人。

每一条可能都对。

但不代表都该改。

很多 self-review 失败,不是因为 AI 没找到问题。

而是因为它找到太多问题,而且没有排序。

最后下一版把所有建议都塞进去。

这会让内容更满,但不一定更好。

所以不要直接问:

“帮我 self-review 一下。”

这个问题太宽。

更好的问法是:

“只 review 结构,不要改语气。”“只检查事实和逻辑,不要润色。”“只判断是否符合目标用户,不要重写。”“只找最重要的 2 个问题,不要列一堆。”“如果没有严重问题,请明确说不需要改。”

最后一句很重要。

因为 AI 很容易默认:

既然你让我 review,我就必须找出问题。

但好的 review 不一定要导向修改。

好的 review 是判断:

  • 现在最重要的问题是什么;
  • 这个问题是否值得改;
  • 改了会不会破坏其他东西;
  • 如果不改,风险有多大。

review 不是列问题。

review 是排序和取舍。

  • 结构坏了,就不要先改语气。
  • 目标不清,就不要先补例子。
  • 事实没验证,就不要先打磨表达。
  • 只是局部问题,就不要全盘推翻。

限制 review 范围,本质上是在防止 AI 用“做更多”来假装“做得更好”。

第五件事:保留决策记录

AI 容易摇摆,还有一个原因:

它不一定知道现在应该以哪个版本为准。

你今天说 A。明天说 B。中间又说“其实 A 也有道理”。它可能会把这些都当成有效信息。

最后回答时,随机抓一个方向。

这在长期任务里特别明显。

比如你在做一个产品。

一开始你说目标用户是独立开发者。后来你觉得可能是求职转型的人。再后来你发现这两个方向不应该混在一起。于是你决定:先只验证独立开发者。

如果这个过程没有记录,AI 很容易在后面又把旧判断捡回来。

看起来像记忆好。

其实是版本感差。

所以重要任务里,最好有一个简单的决策记录。

不需要复杂。

可以只有几行:

  • 当前目标:
  • 当前阶段:
  • 已确认判断:
  • 已放弃方向:
  • 待验证问题:
  • 下一步:
  • 不要再重复讨论:

这个文件的作用,不是让 AI 记得更多。

而是让它知道:

现在应该以哪个版本为准。

很多 AI 协作失败,不是因为它完全忘了。

是因为它把旧假设、新判断、过程情绪、临时偏好混在一起。

决策记录是在帮它建立版本感。

第六件事:设置停止规则

开放任务最容易卡在最后一步:

一直改。

  • 一篇文章永远可以更好。
  • 一个标题永远可以再想。
  • 一个产品方案永远可以补风险。
  • 一段代码永远可以继续优化。
  • 一份简历永远可以再打磨。

如果没有停止规则,AI 会一直陪你改下去。

因为它不会天然说:

够了。

所以开始前最好说清:

  • 最多 review 几轮。
  • 每轮只处理什么问题。
  • 什么情况下必须停止。
  • 什么情况下允许推翻。
  • 什么情况下只做局部修正。

比如:

“最多改两轮。第一轮只改结构。第二轮只改表达。除非发现事实错误或逻辑漏洞,否则不要推翻主方向。”

或者:

“如果当前版本已经满足 80% 标准,请不要继续追求完美。只指出发布前必须修的地方。”

停止规则不是偷懒。

它是在防止你和 AI 一起陷入无限优化。

尤其是做产品、内容、求职、学习时,真正的反馈不可能只来自 AI 内部。

你最后还是要发布。要测试。要投递。要让用户看到。要从真实世界拿结果。

AI 的 review 不能替代外部反馈。

所以该停的时候,要停。

一个可以复用的协作协议

如果要把上面压缩成一个通用版本,我会这样写:

“在开始前,请先帮我明确:

这个任务的目标是什么;

成功标准是什么,按优先级排序;

哪些方向不要走;

哪些约束必须遵守;

如果我后面 challenge 你,请先判断我的反馈属于事实、逻辑、目标、标准、约束、表达,还是偏好;

每次 review 只找最重要的 2 个问题;

除非目标、事实或关键标准变化,否则不要全盘推翻;

如果已经达到可用标准,请明确建议停止,而不是继续优化。”

这不是一个万能 prompt。

它更像一个协作协议。

它提醒 AI:

  • 不要只管生成。
  • 先确定目标。
  • 不要只管迎合。
  • 先判断反馈。
  • 不要只管修改。
  • 先确认改哪里。
  • 不要无限优化。
  • 该停的时候要停。

最后

所以,如何管理 AI 的摇摆?

  • 不是靠更凶。
  • 不是靠更多 prompt。
  • 也不是靠反复问“你确定吗”。

而是把协作过程变清楚。

  • 先定义什么叫好。
  • 再说明不要什么。
  • 反馈时先分层。
  • review 时限制范围。
  • 长期任务里保留决策记录。
  • 开放任务里设置停止规则。

AI 的摇摆,很多时候不是因为它完全没能力。

而是因为它太愿意对齐你。

如果你自己没有稳定标准,它就会跟着你一起漂。

所以更好的 AI 协作,不是把 AI 变成一个永远坚定的人。

而是让人和 AI 共享一套清楚的判断系统。

什么是目标。什么是标准。什么是约束。什么是当前版本。什么情况才允许推翻。什么情况应该停止。

这套东西清楚了,AI 仍然会调整。

但它不会乱调整。

它不是不再变化。

而是开始有依据地变化。

这才是管理 AI 摇摆的关键。