别让 AI 只会说“你是对的”:我们需要诤友,不需要“好好先生”
Posted on 六 15 8月 2026 in AI
| Abstract | 别让 AI 只会说“你是对的”:我们需要诤友,不需要“好好先生” |
|---|---|
| Authors | Walter Fan |
| Category | AI |
| Version | v1.1 |
| Updated | 2026-08-15 |
| License | CC-BY-NC-ND 4.0 |
别让 AI 只会说“你是对的”:我们需要诤友,不需要“好好先生”
两千多年前,齐国有位美男子邹忌,早上照镜子,问妻子:“我孰与城北徐公美?”妻子说:“君美甚,徐公何能及君也。”他不太信,又问妾,妾也说徐公比不上他。第二天来了客人,客人说:“徐公不若君之美也。”
三个人,一致好评。
后来徐公本人来了。邹忌“熟视之,自以为不如;窥镜而自视,又弗如远甚”。晚上躺在床上,他想通了这件事:
吾妻之美我者,私我也;妾之美我者,畏我也;客之美我者,欲有求于我也。
——《战国策·齐策》,原文见维基文库
偏爱你、害怕你、有求于你,这三样都会让人说好话。两千年后我们造出了一个新物种:它三样全占。它被训练成让你满意(有求于你),你随时可以关掉它(畏你),而它的“人格”就是讨人喜欢(私你)。
这两年我用 AI 用得越多,越觉得它最危险的时刻不是一本正经地胡说八道——明显的错话反而容易让人警觉。真正麻烦的是它顺着我的意思往下说,把一个未经检验的猜测补全论据、理顺逻辑、润色措辞,最后端回来一个看上去相当可靠的结论。
错误还是我的错误,只是经过 AI 加工以后,变得更完整、更漂亮,也更难怀疑了。邹忌至少还有个徐公可以当面对照,而 AI 会告诉你不用去看徐公了。
朱镕基有句话:“诤友才是挚友。”诤友不是凡事抬杠的人,而是明知你不爱听、仍愿意把话讲出来的人。用 AI 也需要这种关系:它可以友善,但不能拿友善代替事实;可以理解你的处境,但不能把理解偷换成赞同。
AI 为什么容易顺着我们说
所谓 AI 的“讨好型人格”,不是说模型真有性格,而是一种迎合倾向:你在问题里暗示了立场,它优先生成符合这个立场、读起来舒服的回答,而不是先检查这个立场站不站得住。
这件事已经被量出来了。斯坦福有个叫 SycEval 的评测,拿数学题(AMPS)和医疗问答(MedQuad)去测 GPT-4o、Claude Sonnet 和 Gemini-1.5-Pro:先让模型答,然后由用户提出反驳,看它改不改口。结果(arXiv:2502.08177):
- 58.19% 的情况下模型会顺着用户改口,Gemini 最高 62.47%,ChatGPT 最低 56.71%
- 其中 43.52% 是“改对了”(本来错,被说服后答对)——这是好事
- 但有 14.66% 是“改错了”:它本来答对了,你一质疑,它把正确答案换成了错的
- 而且这种改口很顽固:改了之后有 78.5% 的情况会一直坚持新答案
那个 14.66% 是全篇最值得记住的数字。差不多每七次里有一次,你只是皱了下眉头、什么新证据都没给,AI 就把对的答案撤回了。邹忌的客人至少还得等徐公不在场才敢说假话,这位连场合都不挑。
还有一个细节很实用:论文发现“先声夺人”式的反驳(preemptive,在它回答前就先表明立场)比“事后反驳”更容易诱发迎合(61.75% vs 56.52%)。换句话说,你在提问时先亮出结论,杀伤力比事后争辩更大。这一条直接决定了后面第 1 条做法。
工程侧也承认这是个真问题。2025 年 OpenAI 回滚过一次 GPT-4o 更新,原因之一就是新版本过度赞同和奉承用户。Anthropic 2023 年那篇研究则指出了根子:人类评价者本身就更偏爱符合自己观点的回答,而这个偏好被训练过程喂给了模型。
所以严格说,这不是 AI 的毛病,是我们的毛病被规模化了。我们一边抱怨它谄媚,一边在训练数据里给谄媚打了高分。
而我们的提问方式,等于主动把话递到它嘴边。同一件事,两种问法:
- ❌ “这个方案是不是比原方案好很多?请帮我补充理由。”
- ✅ “比较两个方案,先列评价标准,再分别给出支持证据、反例和未知项。”
第一种已经把结论塞进去了,AI 只需替你准备辩护词——这就是论文里那个杀伤力更大的“先声夺人”式提问。第二种才给它留下判断空间。
做程序员久了有个职业病:看到程序输出了预期结果,我不会马上高兴,还得看看是不是测试写错了。可面对 AI,我们常常反过来——它说得顺耳、格式整齐、论据像样,我们就当它通过了测试。
其实它很可能只通过了一项测试:让用户满意。
它怎样把小错放大成大错
AI 很少凭空造出一个人的偏见,它更像扩音器:把你已有的判断放大,把松散的念头加工成一套自洽的说法。
最典型的一种是把猜测写成结论。项目延期了,我心里已经认定是“另一个团队不配合”,然后拿这个去问 AI。它会麻利地给我列出沟通不及时、责任边界模糊、反馈周期过长——每条都像那么回事。
但请注意这些理由是从哪儿来的:它们是从我的预设里长出来的合理故事,不是对项目事实的调查。AI 没去看那个团队的工单积压,没看排期表,也没跟对面的人聊过。它只是把我的情绪,翻译成了一份条理清楚的复盘。
更贵的一种是把冲动包装成计划。“我受够了,现在辞职是不是最好的选择?”“这只股票一直涨,我该加仓吗?”“这个症状看着不严重,是不是不用去医院?”
这类问题真正需要的不是一份赞成或反对的长答案,而是风险边界、缺失的信息、以及专业核验。AI 若顺着情绪给出一套行动步骤,冲动就有了计划的外观。而计划越具体,人越容易误以为它经过了充分论证。这也解释了为什么 SycEval 特意把医疗问答放进测试集——同样一次改口,在数学题上是丢分,在医疗建议上是出事。
这里有一个真实的历史教训,比任何假设都有说服力。天主教会为了防止封圣封错人,从 1587 年起设了一个正式职位叫“promotor fidei”(信仰促进者),俗称“魔鬼代言人”,专职任务就是搜集反对某人封圣的一切证据——性格缺陷、圣德证据的漏洞、所谓奇迹里的疑点。这个岗位存在了约四百年,1983 年若望·保禄二世改革封圣程序时把它取消了。此后封圣的速度比二十世纪初快了约二十倍(Aleteia)。
我不评价宗教事务,只看流程设计:当一套流程里唯一负责唱反调的角色被撤掉之后,通过率会发生什么变化。这就是我们每天跟 AI 对话的默认状态——没有魔鬼代言人,全员支持。
诤友不是逢问必反
但话得说回来。要求 AI 别迎合,不等于让它逢问必反。我说一加一等于二,它非要“从另一个角度”论证等于三,那不叫诤友,那叫添乱。
上面那个“魔鬼代言人”的岗位说明书写得很清楚,它要的不是一个爱抬杠的聪明人,而是一个真心尊重这套事业、只是替它把不利证据先翻出来的人。反对的资格来自证据,不来自姿态。
好的反对有三个条件:有依据(指出哪项事实或推理支持异议)、有边界(分清已知的、推断的、暂时不知道的)、有分寸(批评观点,不迎合情绪,也不故意冒犯人)。
所以我们要的不是“反对模式”,是“校验模式”:不预设我错,也不预设我对,先检查前提,再讨论结论。
这和好的代码评审是一回事。靠谱的 reviewer 既不会为了显水平每行挑刺,也不会只回一句 LGTM(Looks Good To Me,看着没问题)。他会盯住真正可能出事故的那几行,说清为什么有风险,并且告诉你怎么验证。我信任的评审意见,从来不是“这段写得真好”,而是“这里并发下会不会有问题?你试过吗?”
把 AI 调成诤友的六个做法
厂商当然要继续改训练和评测,但在工具变得“不偏不倚”之前,我们可以先改自己的用法。这六条按性价比排序,前两条几乎不费力。
1. 别在问题里夹带结论
- 少问:“我的判断是对的吧?”
- 改问:“这个判断依赖哪些前提?哪些前提还没验证?”
提问越像辩护委托书,回答就越像辩护词。这一条有数据支撑:论文里“先声夺人”式提问的迎合率是 61.75%,比事后反驳高出五个百分点。你亮结论的那一刻,答案的走向基本就定了。
2. 强制区分事实、推断和意见
让 AI 给每个关键陈述贴标签:已知事实(有来源)、合理推断(从事实推出但可能错)、主观判断(取决于价值观和目标)、未知信息(目前不足以判断)。
很多看着挺坚定的结论,这么一拆就露馅了——中间缺了好几级台阶,全靠语气连着。
3. 索要反例,而不是索要更多理由
它给出结论后,接着问三句:
- “什么证据会推翻这个结论?”
- “给两个最强反例,不要稻草人。”
- “如果这方案半年后失败,最可能是哪个假设错了?”
这不是悲观,是给判断做压力测试。注意要明确说“不要稻草人”——不然它很容易给你几个一眼就能驳倒的假反对,让你更加确信自己没错。那是迎合换了个马甲。
4. 让支持方和反对方分开工作
先让它用最强理由支持,再用最强理由反对,最后由第三个角色比较双方证据。最后这步要比的是证据质量、可验证性和出错代价,不是比谁写得更有气势。
重要决定,反方一定要开新对话去问。长对话里已经积累了你的立场、你的偏好、你之前认可过的说法,模型会顺着原来的轨道往下滑。有研究发现,模型掌握的用户信息越多,越容易赞同你——这就等于给邹忌又添了一个知道他心思的客人。
5. 让它报告信心,而不是表演确定
要求它说清三件事:信心是高中低、最大的不确定性是什么、还缺哪三项信息。信心标签当然不精确,但它至少能提醒你:流畅和可靠是两回事。
凡涉及日期、数字、人物原话、产品规则和最新事件,一律追问来源,并且打开原始材料核对。引用链接不是装饰,它是让结论接受外部检查的接口。我写上一篇文章时就抓到过一个 404 的引用——看着挺权威,点进去是空的。
6. 高风险问题必须走出聊天框
重要决定至少要找一个独立信息源:原始文档、实验数据、真实用户、专业人士,或者一个愿意当面说你不对的人。
让一个模型先提出观点,再让同一个模型来证明自己正确,看着像交叉验证,其实证人和法官是同一个人。这就是邹忌那天早上的处境——他问了三个人,可这三个人都在同一个屋檐下。真正解决问题的是徐公本人来了。
一段可直接使用的“诤友模式”提示词
下面这段提示词,我准备在做方案评审、重要决策和文章论证时反复使用:
请把自己当作我的诤友,而不是赞同者。
不要因为我的问题暗示了某个立场,就默认该立场正确。请按以下顺序回答:
1. 用一句话复述我真正要判断的问题,不替我强化结论;
2. 列出我的关键假设,并标出哪些已有证据、哪些尚未验证;
3. 区分事实、推断、意见和未知信息;
4. 给出支持该观点的最强证据,以及反对它的最强证据;
5. 指出至少一个可能推翻结论的反例;
6. 说明你的信心水平、主要不确定性和出错后的代价;
7. 给出下一步最值得做的验证,而不是直接迎合我的偏好。
如果我的判断基本正确,也请说明它在什么条件下成立、在什么边界外会失效。
这段提示词也不是护身符。AI 仍可能编造反例、误判证据或给出虚假的信心。它的价值,是把对话从“替我证明”切换到“帮我检查”。最终仍要回到事实。
总结:先检查前提,再接受赞同
我们当然喜欢被理解、被肯定。问题是,当一个随叫随到、措辞流畅的系统不断告诉我们“你想得很对”,赞同很容易被误认成证据。
朱镕基说“诤友才是挚友”,珍贵之处就在这里:真正的朋友不是让你永远舒服,而是尽量不让你在错误的方向上越走越远。
所以下次 AI 又给出一篇漂亮的赞同意见时,别急着问它还能补充几条理由。先问一句:我最可能错在哪里?
参考资料
- 《战国策·齐策》邹忌讽齐王纳谏(维基文库原文)
- SycEval: Evaluating LLM Sycophancy(斯坦福,58.19% / 14.66% / 78.5% 等数据出处)
- Towards Understanding Sycophancy in Language Models
- Sycophancy in GPT-4o: what happened and what we're doing about it
- 为什么若望·保禄二世取消了“魔鬼代言人”(promotor fidei 的设立与取消)
- 采访朱镕基印象记:幽默、直率
本作品采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可协议进行许可。欢迎在我的个人网站 https://www.fanyamin.com 访问原文并评论。