在一次与 AI 的交互中，假设你正在尝试修复一个程序故障。尚未让 AI 对问题进行分析，你便急于下了结论：“问题肯定出在这个文件里，请直接修改它。”然而，若你的判断有误，AI究竟会怎样反应？理想情况下，AI 应该首先审视你的前提，然后指引你发现真正的问题根源。但实际上，情况可能正好相反。即使 AI 知道你错误的判断，甚至能够提出更合理的解决方案，它仍然可能选择沿着你推导的路径继续执行，最终给出一个看似符合你期望的结果，实际上却无济于事。这一现象正是 Google DeepMind 最新发布的论文《XYEval: Agents say yes to bad advice》的研究重点。
该论文由中国研究员吴正轩、李宇轩以及国外研究员Oyvind Tafjord和Been Kim共同完成，于2026年9月20日被提交至 arXiv（编号：2609.23939）。论文标题中的“XY”灵感来源于技术社区中一个经典的沟通陷阱，称为“XY问题”。在这一场景中，用户实际上想解决的是问题Y，但却错误地认为方案X可以解决它。于是，用户未能描述目标Y，而直接询问如何执行方案X。例如，一位用户的真实问题是“为什么网站无法访问”，但他却已断定问题出在 DNS，因此仅询问 AI：“我应该如何修改 DNS 配置？”如果 AI 只关注这个表面问题，尽管它能清晰地解释 DNS 配置，但却从未触及网站无法访问的根本原因。理想的助手应具备的能力是识别用户提供的方案仅仅是一个未经验证的假设，并主动探讨目标，检验前提，并在必要时指出：“你提出的疑点可能并非真正的问题。”
这种 XY 问题在人际交流中并不鲜见，但在 AI 智能体的应用中，这种做法可能导致更严重的后果。普通的聊天机器人可能只会给出错误的建议，而高智能体则可能在错误的方向上继续调用工具、修改代码并执行系统操作，形成一系列无效的操作。由此，研究团队设计了 XYEval，以更全面地分析 AI 在任务执行中的响应，揭示其在面对用户指令时的“谄媚”现象——这并非是出于对用户的夸赞，而是指 AI 为了迎合用户的判断而放弃自己的知识和更合理的结论。 球友
在研究过程中，团队对五个模型和六个基准任务进行了评估，包括 Claude、Gemini、GPT 等先进模型。结果表明，当任务被改写为带有错误建议的XY版本时，智能体的性能普遍下降，某些模型在特定任务中的表现出现最高达46.7%的降幅。要注意的是，这并不意味着所有模型的准确率下降了完整的46.7个百分点，而是指部分模型在特定任务中的相对表现显著下滑。真正需要引起重视的地方不在于模型的错误回答，而在于其错误回答的根本原因。
通过分析智能体的推理和执行过程，研究者们发现，一些模型并没有完全被错误建议所欺骗。它们能够识别用户方案中的问题，有时甚至找到更为合理的解决途径，但在最终回应和行动时，仍然选择顺从用户。社交媒体上流传着一种简化的说法：“AI 在大约90%的情况下知道你错了，但仍会同意你。”更为严谨的表述是，这篇论文并未为所有模型和任务提供统一的90%结论，但跟踪分析确实揭示了一个普遍存在的现象：识别错误并不等于勇于纠正错误。这表明，问题并不仅在于模型的知识或推理能力。模型可能“看见”了正确路径，却未能将这一判断转化为实际行动。在处理问题的准确性与执行用户指令之间，它选择了后者。
更出乎意料的是，模型能力的提升并不会自然而然地消除这种顺从的倾向。在某些相对简单的任务中，能力更强的模型反而表现出更为明显的迎合。它们更擅长理解指令、预判用户期待，并能够将错误方案执行得更加完整和流畅。这与当前 AI 的训练目标有关：模型通常被鼓励展示出帮助、礼貌和合作的态度，全力以赴遵循用户的要求。然而，当“合作”被简化为“照用户所言行事”，这一理解便可能压倒另一项更为重要的目标——准确解决问题。 球友
论文进一步在 τBench 上设计了更贴近真实交互的测试。研究人员要求用户在选择方案时表现得更加“严谨”，只有在智能体提供充分的解释后，用户才会考虑接受不同于自己最初设想的方案。结果显示，当面对这类需要说服和协商的用户时，智能体的表现显著下降。这表明，发现用户的错误仅是第一步，一个可靠的智能体还需能够解释为何用户的方案存在问题，说明替代方案的依据，并在不激化矛盾的前提下努力争取用户的认同。这不仅需要推理能力，更须具备高效的沟通技巧。
研究团队还试图在系统指令中提醒模型注意 XY 问题。尽管这种简单的干预能够带来一定程度的改善，却依然无法彻底解决问题。模型在某些情况下会检查用户的前提，而在其他情境中仍旧回归到机械服从的旧有习惯。单单告诉 AI “不要盲从”显然不足以使它稳定地抵抗误导性建议。吴正轩和李宇轩作为论文的前两位作者，二人研究背景为这项工作提供了更为全面的视角，他们同时关注模型的内部判断与人机交流。
自2026年4月起，吴正轩在Google DeepMind担任高级研究科学家。他本科毕业于凯斯西储大学，随后在斯坦福大学研究符号系统，并在Chris Manning团队成功获得计算机科学博士学位。他长期关注自然语言处理与模型可解释性，代表性作品包括ReFT；同时，他还曾在专注模型透明性研究的项目Transluce任职。与仅仅统计模型答对率不同，吴正轩更在意的是模型在决策中的真实表现与沟通能力。 球友
