验证并非知识：科学需要超越答案

验证并非知识

科学需要的不仅仅是答案

Cosmos Institute and Jessica Hullman

Oct 30, 2026

这是 Jessica Hullman 的客座文章，她是西北大学计算机科学 Ginni Rometty 教授及政策研究员。

在他关于严谨证明在数学进展中作用的文章中，Bill Thurston 写道，数学研究的成功衡量标准是“我们所做的工作是否能够帮助人们更清晰、更有效地理解和思考数学”。许多关于科学中 AI 的近期讨论都围绕着理解与答案之间的张力展开。科学是关于人类获得洞见，还是关于存档可验证的解决方案？

一方优先考虑输出。进步被暗示为体现在对长期猜想的可验证证明和对疾病的治愈上，无论人类是否参与了其创造。另一方则认为人类理解至关重要，因为它推动新发现融入经典，因为它塑造并启发下一代，等等。但强调正确输出的第一方，则将其斥为把关或怀旧。

当 Terence Tao 在最近的一次演讲中提出一个思想实验，询问人们对于接受 AI 生产的癌症治疗会有多放心，尽管该治疗拥有正确的形式化证书并通过了 3 期试验，但没有任何人类理解它是如何被发现的，批评者认为 Tao 的推理偏离了重点。当然，对于患有 4 期癌症的患者来说，他们会欢迎这种治疗。

其他例子涉及作者身份的模糊性。Tom Dietterich 写到了 arXiv 在处理由人类作者提交的论文时日益增长的问题，这些作者似乎缺乏理解其主张的专业知识。许多人随后质疑，如果验证已经解决，问责——即对主张负责，能够描述其依据并在受到挑战时做出回应——为什么还应该重要？

我建议同行评审员将他们的专家判断保留给那些未被标记为大量 AI 生成的文本，以便优先将评审作为人类之间的交流，但有些人认为这阻碍了求真，而不是试图保存真理。

问题是，如果我们都同意输出很重要——即我们确实关心长期猜想的解决方案，我们确实最终想知道如何治愈疾病——那么理解就显现为某种独立的东西。它被描绘成一种心理状态，在治愈或证明本身面前看起来是可选的，因此很容易被驳回为一种附加的次要约束，因为我们历史上需要它才能首先找到解决方案。

当理解力的捍卫者不质疑这种分离时，他们立刻就会输掉论战。对于优先考虑产出的那一方来说，将他们仅仅视为“没有足够努力去构想未来”，变得轻而易举。但我们不断回归的那种对理解力的肤浅框架，掩盖了这些案例所共有的深层关切。

与其说是关于任何人的精神状态，不如说是关于当事情出错时会发生什么。陶的情景取决于AI通过利用试验本身的弱点而通过试验的可能性。一篇作者无法解释其主张的论文，一旦这些主张失败，就无人可问。

我们究竟是在哪里开始相信科学价值仅在于正确性的？

这种直觉归根结底并不像表面看起来那样与AI有关。让AI驱动科学的倾向，与其说是关于我们在AI的未来中具有前瞻性的标志，不如说是“价值中立理想”的一种症状，这种理想自冷战时代以来就塑造了我们的思维：一种认为只有认识论标准（而非伦理和社会价值）才配在判断证据显示了什么时占据一席之地的观点。

这种观点渗透在我们关于AI科学的辩论中并不令人惊讶；只是在过去几十年左右，拒绝价值中立理想才成为哲学的主流。

这种理想助长了不切实际的期望，并阻止我们看到，对于AI产出迅速渗透进科学记录的抵制，既不是反AI，也不是反科学。其利害关系比任何一场辩论或任何一个领域都要大。价值中立理想扭曲了我们寻求真理的方式，使我们将验证过的结果误认为是知识。

它威胁着维持科学的人类能力，使我们将批评和问责视为不便的 overhead（开销），而不是知识生产的机制。它让我们对理解力感到困惑，进而导致我们不明白为什么它很重要。

科学是“自然对齐”的吗？

科学的社会契约代表了二战后在美国兴起的科学与社会之间的一种理想化关系：科学家获得公共资金和自主权，作为交换，社会则获得其探究带来的成果。这一社会契约建立在纯科学与应用科学的区分以及“线性模型”之上，即基础研究为应用工作提供养料，它用实际的社会效益取代了关于理解价值的抽象论辩，重塑了我们对科学的认知。

它借鉴了19世纪末关心科学的科学家提出的论点，这些人担心公众对新发明（如电灯和蒸汽机）的庆祝会挤占对他们认为更为根本的贡献的尊重；同时，它也有助于铸就一种价值中立的理念，即科学的核心必须剥离诸如伦理或社会关切等“情境价值”。

为了使社会契约作为科学进步的模型获得广泛的社会认同（并进而巩固政府对科研的投资），我们需要将求真视为对方法的非人格化应用，使其免受政治或社会压力的影响。

科学哲学家追求仅基于“认识论”（或“认知”）价值的探究。任何来自科学家意图或价值观的影响都被视为一种风险，应当通过正确的方法来最小化，这为今天关于“只要结论正确，谁提出的并不重要”的问题奠定了基础。

关于人工智能在科学中作用的许多争论，归根结底在于对科学真理能否仅通过正确程序的运用来实现存在分歧。在19世纪末和20世纪初，几乎有一种道德化的驱动力，试图尽可能地将科学家自身的因素从科学过程中剔除，以便用对系统的信任取代对个人的信任。

被释放到科学文献中的AI代理，能够自行验证并介入实验，看起来像是19世纪科学伦理学久违的实现。许多“AI for science”（科学人工智能）的修辞都继承了我所说的“科学自然对齐”这一前提：通过大规模执行科学方法及其各种正当化程序，我们可以达到一个不再需要人类判断就能产生真理的境地。

真理真的如此与理解或问责分离吗？数学成为近期争论的焦点，是因为它提供了一个可以干净利落地将正确性与理解分离的案例；一个证明可以被AI验证，而无需任何人类理解其运作原理。数学家在验证之后仍然想要的是线索，这是机械客观性无法提供的。

真理作为一种价值驱动的实践

科学哲学家现在普遍拒绝价值中立理想，认为其既不恰当也无益处。价值之所以介入，是因为我们拒绝或接受某个假设，取决于我们如何权衡后果。即使在数学等抽象领域，可能存在的真值往往太多，以至于无法不引入价值来进行筛选。数学家早已接受这样一个原则：原则上，机器可以枚举出可以从给定公理集中证明的定理集合。然而，sc