Terence Tao 对 AI 数学的警告：更快的证明可能让理解落在后面

Terence Tao 警告称，AI 可以加速数学发展，同时削弱赋予数学发现价值的人类思考。如今，围绕 Terence Tao AI 数学的讨论聚焦于一个棘手的区别：得出正确答案与形成理解是两种不同的成就。能改善前者的工具，并不会自动强化后者。

Rivka Galchen 于 11 月 1 日发表在《纽约客》的 Terence Tao 人物报道，描述了他对这一鸿沟日益加深的担忧。这位 UCLA 教授仍对 AI 辅助研究抱有兴趣，但越来越质疑当发现速度超过审慎思考时会发生什么。

这一冲突将自动化解题与更缓慢的解释、讨论和训练工作置于对立面。OpenAI、Google DeepMind 和 Anthropic 都处于这一研究格局之中。大学、研究人员和学生则面临另一项责任：确保更好的工具也能让人们更具备思考能力。

Terence Tao AI 数学辩论已超越能力本身

当机器能够产出更多数学工作的可见成果时，核心问题正变成数学进步应当包含什么。

在最新人物报道之前，Tao 已明确提出了这一区别。他的文章 Mathematics in AI 于 8 月发布，此前他曾在国际数学家大会发表公开演讲。文章探讨了：如果 AI 系统具备研究级数学工作能力，数学界应如何应对。

这篇文章有意将能力与价值观区分开来。它关注的核心是数学试图实现什么，而不只是机器能否完成数学任务。

这种区分改变了讨论的方向。关于 AI 是否终将产出有用数学成果的辩论，可能将每一项新结果都纳入相互竞争的预测之中。关于人们应从数学工作中获得什么的辩论，则要求现在就对研究实践作出决定。

不妨比较一下获得一个解答与形成一种方法之间的差别。一个解答证明了某个具体问题的结论。一种方法则能帮助研究人员识别关系、发现假设，并处理尚未有人提出的问题。

这些益处有时会同时出现，但并非必然如此。一个答案可以是有效的，却仍让其他人难以解释、拓展或教授。

这正是 Terence Tao AI 数学警告的分析力量所在。更好的自动化表现，并不能决定大学应如何培养研究人员，或期刊应如何评估贡献。这些机构需要超越最终结果是否存在的评判标准。

一个有用的类比是：学生得到了正确答案，却不理解推理过程。答案依然正确，但教育目标仍未完成。

研究更加复杂，因为陌生的论证可能包含需要时间才能识别的思想。仅凭困难本身，不能证明一个结果没有价值。然而，困难也不能成为放弃理解努力的理由。

实际区别在于暂时的陌生感与长期依赖。陌生的证明会引发探究。当研究人员反复依赖自己无法充分审视的输出时，依赖便会形成。

这一区别也解释了为何这场辩论不仅关乎数学。许多 AI 系统会将漫长的智力过程压缩为一份精致的交付成果。由此带来的便利，可能掩盖该过程中哪些环节对于判断是必要的。

一份研究摘要、软件补丁或战略建议，可能在接收者理解其背后选择之前就显得完整。因此，输出质量与使用者能力需要分别评估。

眼下的变化并非数学失去了其目的，而是自动化生产使一个旧有假设更难成立：有价值的输出必然表明有价值的智力发展。

研究人员和学生承继每项成果背后的工作

当生成结果变得更容易，核查、解释和教授这些结果的责任便更加显眼。

可用论证数量的增加，并不会自动增加审查它们的时间。仍需要有人判断一个结果说了什么、如何成立，以及其假设适用于何处。

对研究人员而言，这意味着不只是寻找明显错误。理解一个证明还包括识别它的关键步骤：哪一项要素支撑了论证？哪些条件可以改变？这一结果提示了接下来应研究什么？

对编辑而言，挑战在于如何分配注意力。一份技术上复杂的投稿，可能需要大量专业知识，才能明确其重要性。若关键步骤仍不透明，即使表述精致，也无法消除这一成本。

对导师而言，挑战在于评估学生的发展。当工具能够提供论证的大部分内容时，一份完成的论证就较少能证明学生具备独立判断能力。

这些是自动化增强所带来的分析性影响，而不是证明每个数学系都已面临相同状况的证据。不同学科、机构和项目将遇到不同压力。

共同的问题是责任。一件由 AI 生成的成果，并不会免除个人或机构为其使用承担责任的需要。

假设一名研究生使用模型，为一个中间结果提出论证。只有当学生能够审查其中的假设，并将其与更大的项目联系起来时，这项建议才有帮助。

如果学生理解该论证，工具便扩展了学生的能力边界。如果学生只是将其转交，相关不确定性就会转移给导师、合作者或审稿人。

这种转移可能不易察觉，因为文档本身看起来已经完成。人类工作未必消失了，而可能只是被移到了下游。

训练也面临相关问题。练习往往不只是为了得到答案。它们培养人们选择表征方式、发现矛盾，以及在一种方法失败后重新调整的能力。

工具可以消除无效的挫败感，也可能消除本可教会使用者如何识别有效方向的经历。

因此，相关问题非常具体：哪些形式的困难能培养判断力，哪些又只是消耗时间？

没有理由保留所有不便。重复排版、常规计算，以及在陌生符号中搜寻，并不都应获得与独立推理相同的保护。

不过，机构需要有办法区分这些活动。否则，便利性将成为默认的教育政策，而没有人明确作出这一选择。

同样的问题也出现在技术工作场所。一个团队可能保留了一份生成的文档，却失去了使其建议恰当的推理过程。

优秀的个人知识管理提供了一个相关的类比：保留来源、决策和未解决的问题，会让完成的工作更容易被重新审视。

对研究而言，道理相似。当其他人能够还原结果周围的推理时，结果会更有用。这包括被放弃的方法和局限性，而不只是干净利落的最终呈现。

激励缺口存在于已解决的问题与共享洞见之间

基准测试可以奖励答案的产出，却无法衡量一个研究共同体是否理解它。

9 月，Tao 与另外 24 位菲尔兹奖得主共同签署了一份关于这种错配的声明。他们的数学研究警告认为，解决问题服务于更广泛的概念理解目标。

该声明也承认 AI 有望改善数学研究。其批评针对的是技术发展与该领域目的之间的一致性。

这比数学家与机器之间的竞赛更为具体。分歧在于什么才算成功，以及谁应为后果负责。

基准测试，即用于比较系统的标准化任务，需要相当清晰的评分规则。评估一个系统是否解决了指定问题，可能比评估它是否提升了人类理解更容易。

这造成了一种可以理解的衡量偏好。公司需要证明系统已有改进，研究人员则需要证明某项贡献推动了自身学科的发展。

这些目标可以重叠，也可能将注意力拉向不同类型的工作。

例如，一个自动化系统可能找到一种正确论证，且专家能够解释并复用它。这一结果同时服务于能力衡量和数学发展。

另一个系统可能产出有效论证，但其结构仍难以解读。届时，其基准价值与教育价值便需要分别评估。

这两个例子都不意味着某家公司有意破坏理解。激励机制即使没有恶意，也可能发生分歧。狭窄的成功衡量标准，可能引导开发走向更广泛机构难以吸收的成果。

因此，对 OpenAI、Google DeepMind 和 Anthropic 的比较不应只看头条式结果。对于评估其数学系统的读者，相关问题包括证据获取、解释质量、可复现性以及人的参与程度。

本文并未对这些公司作出排名。不同展示可能涉及不同任务、工具、协助方式和评估条件。将它们视为可以互换，会掩盖决定其意义的细节。

自主完成的结果与高度监督的协作，回答的是不同问题。重新发现的论证与新方法的贡献也不同，即便两者都得出了正确答案。

行业的报告用语需要保留这些区别。否则，越来越宽泛的主张可能建立在对实际工作越来越压缩的描述之上。

学术激励同样值得审视。如果机构奖励最终产出，却忽视解释，它们就可能复制自己在科技公司身上批评的同一种错配。

一个院系不能只在公开声明中捍卫理解。其评估实践也必须承认让困难结果变得可理解所需的工作。

这包括阐释、独立核查和教学。当注意力集中于谁最先宣布解决方案时，这些活动可能显得次要。

Terence Tao AI 数学辩论清楚地揭示了这种张力。如果目标是共享的智力进步，机构就需要认可那些帮助他人进行推理的贡献。

仅统计完成的问题无法捕捉这一目标。它衡量的是一种产出，却几乎没有审视周围的智力能力。

经核查的证明仍需要人们能够使用的解释

机械正确性与人类理解回答的是不同问题，而有用的研究需要将二者连接起来。

Francesco Maggi 在 Tao 的博客上发表的一篇十月客座文章中，描述了解读部分 AI 生成数学成果的困难。他的证明解读分析讨论了冗长的机器可检验证明，以及不足的自然语言解释。

Maggi 同时指出了科学机遇，以及知识日益脱离人类理解的风险。他的论述是在警示可能出现的结果，而非衡量一种必然发生的衰退。

证明助手，即检查形式化逻辑论证的软件，能够提供一种宝贵的保证。它会核查在给定定义和假设下，所指定的步骤是否确立了一项主张。

这种保证并不会自动说明该主张为何重要。它也不会告诉读者，论证的哪一部分包含最具可迁移性的思想。

设想你收到一个通过了既定检查、却依然难以维护的程序。通过这些检查很重要，但开发者在安全修改它之前，仍需要理解这个程序。

这个类比存在局限，因为数学证明与生产环境软件服务于不同目的。尽管如此，它说明了为何验证与解释应始终是彼此独立的要求。

形式化论证确立的是一种逻辑关系。解释则帮助人们理解这层关系、认识其意义，并将相关推理应用到其他场景。

在评估关于自主数学研究的主张时，这一区分尤为重要。读者需要追问：究竟哪些内容得到了检验？

原始数学命题是否被忠实地表达？假设是否恰当？解释是否与经过检验的论证一致？独立专家能否研究这一结果？

这些问题并不否定形式化验证。它们指出了解读验证所确立内容时所需的周边工作。

对过度谨慎也存在有力的反驳：人类一直依赖自己并不亲自掌握的专业知识。没有研究者会独立重建每个项目中使用的每一项结果。

这一反驳很重要。若要求普遍而完整的理解，协作式科学将无从实现。恰当的标准不可能是每位读者都理解每一项技术细节。

更务实的标准是可问责地获得理解。相关领域的专家应能够审查论证、解释其依赖关系，并质疑其解读方式。

所需承担的负担会有所不同。常规的辅助计算不需要与足以改变整个研究计划方向的主张受到同等程度的审查。

陌生感也不应成为否决理由。一项困难的 AI 辅助证明最终可能揭示人类此前忽视的方法。仅因它起初令人感到陌生而拒绝它，将牺牲潜在的洞见。

因此，怀疑立场也需要边界。没有依据可以据此断定 AI 必然摧毁数学思维，或自动化证明缺乏智识价值。

同样也没有依据可以假定，更多自动化产出必然会增强这一领域。结果取决于人们能否解读、吸收并基于系统产出继续构建。

最站得住脚的担忧在于失衡。产出能力的提升可能快于将结果转化为共享理解所需的制度与实践。

Tao 的替代方案让人类留在研究过程中

建设性的回应，是围绕人类参与、解释与智识独立来设计 AI 辅助数学。

Tao 十月提出的Math 2.0 愿景描绘了一种未来：AI 支持数学共同体，并支持数学理解所发挥的作用。

他的框架批评了对自动化解决开放问题的过度强调，转而关注数学工作得以保持有用性的更广泛条件。

这为实验留下了充足空间。能够提出示例的助手可以帮助研究者探索想法。能够比较论证的系统可以揭示隐藏的假设。能够解释陌生符号的工具可以降低入门门槛。

这些只是示例用途，并非声称任何特定产品都能可靠地完成这些工作。每一项用途都需要在实际研究任务中接受评估。

它们的共同特征是，人类始终参与推理。工具创造的是可供探究的机会，而不只是提供某个需要接受的答案。

有用的研究界面或许能让不确定性更容易被检视。它可以区分检索到的材料与生成的建议，并展示哪些步骤需要独立核查。

另一种设计可以保留中间尝试。失败的方法能揭示为何某种看似自然的策略并不起作用。将它们从记录中移除，可能会使结果更难理解。

这类功能无法保证研究质量，但会让知情参与更容易，并减少用户与底层证据之间的障碍。

这也是为什么保留认知投入不应成为为不便进行一概辩护的理由。研究者需要能够消除可避免障碍的工具。

关键区别在于这种投入的目的。手动在重复材料中搜索，可能消耗注意力却不会加深理解。在相互竞争的解释之间作出选择，则能够培养判断力。

好的助手应帮助用户在前一种工作上花更少时间，同时仍保有完成后一种工作的能力。

大学也可以将同一原则用于评估。一份润色完善的提交内容，应配合解释选择、检验变体和回应质疑的机会。

这些做法比试图从文风中推断理解程度更直接地评估理解，也同样适用于没有 AI 参与的情形。

研究团队同样可以区分辅助与问责。工具可以为论证作出贡献，而人仍应对准确说明其作用与局限负责。

这种方法需要的不只是披露标签。说明使用了 AI，并不能解释推理中的哪些部分来自它，或这些部分是如何被检验的。

相关记录应支持有意义的后续追问。协作者应能够询问某项假设为何出现、某项主张源自何处，以及哪些问题仍未解决。

对于知识工作者而言，这是 Tao 论证中最具可迁移性的部分。保留智识控制，需要能够访问交付成果背后的路径。

完成的文档可以节省时间。可恢复的推理过程则能保留判断该文档是否值得信赖的能力。

关注新结果能否成为他人可以拓展的知识

接下来值得关注的信号，涉及独立理解、透明证据，以及研究评估方式的变化。

未来几个月，第一个值得关注的信号，是对重要 AI 辅助成果的独立解释。关键进展在于，来自原始团队之外专家的、可供使用的说明。

一份解释应阐明核心思想，指出重要假设，并展示论证如何与既有工作相连。认为结果看似正确的共识很有价值，但它回答的是一个更狭窄的问题。

如果独立研究者能够简化或拓展一项论证，这将强化这样一种观点：自动化产出可以推动共享发现。如果解读持续依赖其原始提出者，Tao 的担忧就更具分量。

第二个信号是新演示成果所附带的证据。关注开发者和研究者是否提供了足够材料，以区分模型贡献、人类指导和后续修正。

有用的披露应让研究过程更易于审查。一份看似完整的最终证明无法揭示其中需要多少次干预，或哪些决定需要专家判断。

更高的透明度会让不同系统之间的比较更具信息价值。证据稀少则会使读者无法区分令人印象深刻的成果与可重复的研究能力。

第三个信号是机构行动。关注期刊要求、研究生评估，以及对解释性工作所给予认可方面是否出现具体变化。

一项要求作者澄清假设并支持独立审查的政策，比泛泛的 AI 标签更直接地解决底层问题。

同样，评估学生为论证辩护并调整论证能力的训练，将聚焦于能力本身。仅统计完成的作业数量只能提供较弱的信号。

这些观察不会对 AI 是否有利于数学给出简单结论。它们会揭示哪些安排有助于人们将自动化贡献转化为持久的智识进步。

这一区分也让读者拥有更好的方式来评估引人注目的公告。问问：产出了什么，检验了什么，谁理解它，以及其他人现在能据此做什么。

这些问题既为热情保留空间，又不会将宣传视为验证。它们也为批评保留空间，而不假定陌生方法毫无价值。

Terence Tao 对 AI 数学的警示，最有用之处在于它要求建立更好的标准。更快的产出提高了弄清这些产出究竟贡献了什么的重要性。

从你接触到的下一项 AI 生成结果开始，无论它是一项证明、分析还是技术建议。在依赖润色完善的解释前，先审查源材料。识别其中的假设，并问自己什么会改变你的解读。将未解决的问题放在完成的成果旁边，让后来的读者看到哪些地方仍需要判断。可能的话，用自己的话解释核心推理，并在一个相近案例中检验它。你不需要复现每一项专家级细节，但你需要能够站得住脚地说明，为何这一结果值得你信赖。用这一标准判断哪些 AI 贡献能帮助你继续思考，哪些仍需要更多工作。