top of page

尽管 Altman 同情研究人员,OpenAI 的数学发现仍将持续涌现

51分钟前
讀畢需時 12 分鐘

Sam Altman 表示,尽管 AI 生成的成果正给数学家带来压力,OpenAI 的数学发现仍应持续向公众公开。他的立场为这种同情划下了明确界限:研究人员难以消化新成果,并不会说服他隐瞒基础知识。

据 The Verge 次日的报道,Altman 在 10 月 29 日发布的 Cheeky Pint 播客中为持续披露辩护。“人类理应拥有基础知识,”他说,并反对搁置重大的科学发现。他的言论也暗示未来还会有更多成果,但没有说明其范围或发表时间表。

这场冲突关乎的不只是 AI 能否解决难题。OpenAI 优先考虑发现与披露;持忧虑态度的数学家则强调验证、理解,以及对所在领域发展方向的掌控。Google 的 Gemini 研究提供了一个有益对照,因为它明确区分了看似全新的解法与被重新发现的既有数学成果。纵观这些努力,生成一个答案与确立其科学价值,仍然是两项不同的工作。

Altman 的言论明确了 OpenAI 数学发现的哪些问题

Altman 的言论澄清了他所偏好的方向,但并不能独立验证任何数学结果。

这一区别很重要,因为高管访谈可能会模糊政策、科学证据与对未来能力的预期。主张公开发现,并不能证明每一篇公开的论文都包含正确、原创或具有重要意义的发现。

根据 The Verge 对这场数学成果披露争论的报道,Altman 承认研究人员的不安,同时为公众获取科学知识这一更广泛的利益辩护。因此,这场访谈凸显了一个分歧:应由谁来决定披露的条件。

他的立场颇具合理吸引力。如果一个系统产出了有效结果,将其私有化可能会阻止其他人检验或扩展它。公司外的研究人员无法评估他们看不到的工作。

不过,发表也会带来义务。一篇论文需要准确陈述其结果、提供可用的论证、给出恰当的引用,并建立处理修正的流程。公开一份文档意味着科学审查的开始,而非完成。

关于更多发现的表面前景同样需要谨慎看待。Altman 的言论没有提供一份经独立审计的未公开发现清单,也未说明更多成果何时会出现,或将接受多少专家审查。

因此,读者应将他对持续披露的承诺,与有关私有研究管线内容的说法区分开来。前者是一种公开立场,后者则需要与每项具体成果相联系的证据。

实际问题在于,这一承诺对 OpenAI 提出了什么要求。如果持续发布是既定政策,那么这些发布成果的质量就愈发重要。研究人员需要足够的信息,以判断将注意力投入何处才能产生科学价值。

设想一位专家收到一篇论文,它似乎解决了其工作中的核心问题。在改变研究计划之前,这位专家必须理解其假设、审查推理过程,并核查它与既有文献的关系。

一则公开声明无法替他们完成这些工作。高管的信心也无法告诉他们,该成果是提出了可复用的方法,还是仅解决了一个狭义表述的个案。

这正是为什么仅有同情仍无法化解争议。研究人员需要关于获取途径、文档、问责和支持的可执行答案。Altman 的访谈明确了他对“发现是否应继续”的回答,但这些实施问题仍悬而未决。

研究人员面临的不只是答案问题,更是注意力问题

压力落在那些必须将陌生论证转化为可靠、共享的数学知识的人身上。

研究共同体不能仅靠下载新成果就将其吸收。专家必须弄清一项结果意味着什么、其证明是否成立,以及其中的思想如何与其他数学领域相联系。

9 月 11 日发布的声明 A Severe Misalignment正是从这些角度阐释反对意见。其签署者认为,解决问题服务于发展概念性理解这一更深层目标。他们警告称,当解释、归属和整合落后时,加速产出可能会损害这一目标。

这种担忧值得比对职业竞争焦虑更严肃的解读。一个正确答案可以解决某个问题,却仍让研究人员不清楚其成立的机制。

理解这一机制的重要性可能超出原始问题本身。它能够揭示哪些假设不可或缺、启发相关问题,或使一项论证能在另一种情境中发挥作用。这些益处依赖于解读。

学生也面临类似挑战。一个研究问题通常为学习如何提出问题、检验方法以及识别有前景的思路提供了场景。它的教育价值不止于获得最终答案。

AI 生成的解法改变了这种场景。导师必须决定是调整项目方向、研究新的论证,还是寻找相邻的问题。这些决定既需要对数学的判断,也需要对培养方式的判断。

这些都不能证明研究人员应保有对难题的独占访问权。但它们确实表明,将一个问题从未解决状态中移出,改变的不只是一条数据库记录。

不同领域的负担也不相同。一项结果可能需要相对少数研究人员才具备的专业知识。即使论文已公开,若没有相关专家持续投入,仍可能难以评估。

对这些专家而言,注意力有相互竞争的用途。花时间解读一项新公开的论证,就无法同时支持另一项项目、一名学生,或对既有工作作出严谨阐释。

这就形成了一个协调问题。产出成果的组织可以选择发布的时机和规模,而最适合评估这些成果的人,对这两项选择都可能影响甚微。

建设性的回应应让这类工作得到可见性。验证、解释和综合应被视为科学贡献,并对执行这些工作的人给予恰当认可。

对数学之外的知识工作者而言,这种模式并不陌生。AI 可以加快文档产出,但审阅者仍需负责核查证据并消除歧义。更高的产出并不会自动减少总工作量。

因此,OpenAI 数学发现带来的启示不止于职业替代。机构需要理解 AI 将工作转移到哪里、由谁承接,以及这些人是否获得了足够资源。

OpenAI 的顾问为私有研究划出界限

OpenAI 的顾问关系包含了对不可访问模型的明确分歧,而非对公司政策的全面认可。

OpenAI 于 9 月 21 日介绍了其独立数学顾问团。该公司表示,该团体将就研究沟通、专业标准以及对数学家的支持提供建议。它还表示,该团体不会决定内部数学进展的速度。

这种划分留下了一道重要界限。顾问可以影响发现成果如何触达研究人员,却无权决定底层研究推进得多快。OpenAI 对数学研究监督的说明明确指出了这一限制。

因此,读者不应将咨询视为共识。公司可以寻求专家建议、采纳其中一部分,同时继续实施其顾问反对的做法。

顾问团于 9 月 29 日发布的负责任发布建议恰恰展现了这种张力。该团体反对实验室在更广泛科学共同体无法获得的专有模型上测试高阶数学问题。

不过,其建议仍着眼于此类工作已经存在的现实情况。它们呼吁进行负责任的披露,并支持研究人员发展对输出结果的人类理解。

这些立场可以并存。顾问可以反对一种研究安排,同时建议如何减轻其后果。帮助建立发表标准,并不会消除他们对该安排本身的反对。

这种区分也揭示了一个弱点:若仅将争议框定为公开与保密之间的对立,就会忽略问题的核心。批评者可以支持获取既有成果,同时质疑为何只有一家公司拥有生成这些成果的工具。

发表一项论证让研究人员获得可检验的对象。获取底层系统则提供了另一种机会:追问自己的问题、探索变体,并研究意外行为。

这些机会不可互换。仅能接触已发表输出的研究人员,仍依赖于原始组织决定研究哪些问题、披露哪些发现。

即使没有对学术自由施加任何正式限制,这种依赖也会塑造一个领域的议程。公司的选择决策会成为其他研究人员确定优先事项的输入。

由此产生的问题是科学自主性。谁能够提出下一个问题、获得有用的回应,并审视这一回应是如何生成的?一份公开可得的文档只能回答其中一部分。

发布具备能力的系统确实存在合理的复杂因素。更广泛的访问需要就部署和负责任使用作出决定。这些复杂因素仍需得到具体处理;它们并不意味着获取途径对于评估研究关系无关紧要。

对于 OpenAI 数学研究而言,可信度的检验在于咨询是否改变可观察到的实践。更清晰的披露、可用的访问安排以及有意义的研究人员独立性,将比单纯提及顾问参与提供更有力的证据。

因此,顾问团的角色应在其完整复杂性中保持可见。其参与提供了专业知识与批评,但并未将 OpenAI 决策的责任从公司转移给数学共同体。

AI 数学证明需要针对正确性与新颖性的独立检验

令人信服的评估必须区分有效论证、原创贡献,以及其他研究人员能够使用的思想。

这些标准相互重叠,但没有任何一项可以替代其他标准。一个证明可能正确,却重复了已有成果。一种原创论证可能难以理解,或其框定过于狭窄,无法支持更广泛的结论。

Gemini 研究提供了一个有益的竞争者比较案例:半自主数学发现于 1 月提交、2 月修订。其作者考察了一个 Erdős 问题数据库中标注为开放的 700 个猜想。

他们报告了五个看似新颖的自主解答,以及八个已有文献实际上已包含解答的案例。他们的方法结合了基于 AI 的筛选与人类专家对正确性和新颖性的评估。

作者在发现一项独立的再发现后,也修订了分类。该修正说明,为何标题中的计数需要谨慎解读。一个开放数据库条目的表面解答,并不自动等同于一项新的数学发现。

这项研究并不能证明 Gemini 优于 OpenAI。两个项目的系统、问题、方法和评估环境各不相同。它提供的是与此处更相关的内容:一个将宣传中可能被压缩混为一谈的不同类别区分开来的例子。

对于评估 AI 数学证明的读者而言,首要任务是识别精确主张。该论证是否解决了所陈述的问题、其受限版本,还是一个假设不同的相关问题?

接下来的任务是核查推理。一个看似合理的解释可能掩盖了缺失的步骤。听起来熟悉的数学语言,并不能保证每一个推论都成立。

原创性则需要另一项调查。研究人员必须找到相关的既有工作,并判断所声称的贡献是否早已为人所知、是否部分已被确立,或是否以不同术语存在。

最后,科学实用性需要解读。一项结果可能引入一种可供他人调整的方法,也可能给出一个艰深论证,而其更广泛的重要性仍不明确。

这些区别应当塑造报道方式。将一家公司的拟议解答描述为已成定论的发现,可能掩盖尚未完成的审查。将每一次再发现都称为失败,则可能忽视有效的文献检索,同时又将其与原创研究混淆。

计算机检查又增加了一层。形式化证明会将论证转化为精确陈述,使软件能够在指定定义和假设下进行验证。

该过程可以为逻辑步骤提供宝贵保障。但仍须谨慎确认:被编码的陈述是否对应原始数学问题。

一个工程类比有助于说明这一局限。软件可能通过测试套件,却未能满足预期需求。即使规格说明不完整,测试本身也可能执行正确。

同样,一个经过检查的数学产物需要与其宣称的定理建立清晰联系。研究人员还需要理解它所依赖的任何假设或支撑性结果。

恰当的回应既不是自动接受,也不是自动否定。每项主张都需要单独评估,并清楚区分拟议论证、已检查产物、专家审查和获接受的贡献。

这一标准既保护有价值的 AI 研究,也约束夸大的主张。经受细致审查的工作,会获得比宽泛公告所能提供的更清晰的科学身份。

公开发布是科学问责的起点

OpenAI 的发布实践提供了可供评估的具体证据,但不能替代独立采用。

在 10 月 6 日的发布中,OpenAI 介绍了一个公开仓库,其中包含来自内部模型的数学结果。10 月 15 日的更新增加了对一项 Simons Foundation 倡议的支持,帮助研究人员审查和发展 AI 生成的数学成果。

该公司还介绍了修订和引用程序、有关其研究流程的补充信息,以及部分论证的可由计算机检查版本。它表示,未来发布将改进归属说明和论述表达。这些承诺见于其数学结果发布说明。

这些步骤之所以相关,是因为争议涉及发表之后的工作。更好的呈现可以减少理解一项主张所需的工作量。修订程序可以让更正变得可见,而非让读者面对彼此脱节的版本。

由公司外部管理的支持也回应了一项真实的治理关切。研究人员需要空间来追求具有科学意义的问题,包括那些挑战原始实验室解读的问题。

然而,支持机制的存在并不能证明其最终影响。研讨会和访问计划需要通过参与者实际能够理解、验证和构建的成果来评估。

同样的区别也适用于仓库。公开可用允许检查,但仓库的存在并不能证明每篇稿件都已获得独立审查。

读者需要清晰了解其状态。一项拟议结果、经过修订的论证、经计算机检查的证明以及同行评审论文,描述的是不同的评估阶段。

将这些阶段视为可以互换,会给所有后续参与者带来混乱。决定是否引用某项结果的研究人员,所需信息不同于关注 AI 能力一般讨论的人。

问责还要求明确谁来处理问题。如果一位专家发现某个模糊假设或可能的缺口,应当存在可靠途径来获得澄清。

自动回复或许能帮助解释某个步骤,但责任仍必须有所归属。科学信心在一定程度上取决于人们是否知道,尚未解决的异议如何进入公开记录。

对于 OpenAI 的数学发现而言,这意味着要追踪一项结果在公布后的生命周期。稿件是否得到改进?独立研究人员是否接受其核心论证?这项工作是否产生了可供他人讲授的解释?

这些问题避免了一种无益的假设:发表要么完全有益,要么天然有害。一次发布可以提供有价值的证据,同时也会带来大量解释工作。

平衡取决于执行。清晰的陈述、易获取的支撑材料、可见的更正,以及持续的合作,会让公开审查更有成效。

知识管理可以帮助研究人员保留这份记录。一个可搜索的知识库可以将来源论文、审查笔记和说明连接起来,贯穿一个不断发展的项目。

组织本身无法确立数学真理。它的价值在于,随着理解发生变化,仍让证据和不确定性保持可追溯。在文档到达速度快于团队能够彻底阅读的情况下,这一区别尤为有用。

Altman 承诺继续推进之后,应关注什么

下一批有意义的证据将涉及独立理解、可用访问,以及后续发布的质量。

首先关注独立数学界的采用情况。在未来几个月里,留意 OpenAI 外部的研究人员是否发表对已发布工作的审慎评估、简化论证、更正或扩展。

这些结果揭示的信息各不相同。一项更正可能暴露弱点,同时改善科学记录。一个更短的证明可以让结果更容易检查和讲授。

扩展则提供另一种信号:研究人员已经理解到足以基于该工作做出新成果。这比反复提及一则公告,更能证明其已被整合进研究体系。

对于未能立即获得采用,应谨慎解读。艰深数学需要时间。仅凭沉默,无法证明一个结果错误、无用或无法理解。

不过,如果持续依赖公司自身的解释,核心关切仍将悬而未决。问题在于,更广泛的社区是否能形成对这些思想的自主掌握。

接下来,关注访问安排。OpenAI 曾表示,计划支持研究人员,并努力以负责任的方式发布其成果背后的系统。实际细节将决定这些安排能提供多大程度的科学自主性。

有用的访问不只是查看精选输出。研究人员需要有机会调查自己选择的问题,并检验已报告能力是否能迁移到他们自己的工作中。

限制条件、资格规则和可用资源,将决定谁能够参与。公开说明的安排,比起笼统的赋权承诺,更容易评估其影响。

更广泛且可用的访问,将增强 OpenAI 关于其发现能够支持该领域的主张。若访问仍然狭窄,私有能力与公共评估之间的不平衡将大体保持不变。

最后,审视下一次发布本身。关注可读的定理陈述、充分的引用、明确的审查状态,以及非形式化论证与计算机检查材料之间的清晰关系。

如果一次发布改善了这些特征,将表明反馈正在改变实践。另一则强调数量、却仍让基本评估变得困难的公告,则会强化批评者的担忧。

这些信号都不要求假设科学进步应当停止。它们要问的是:产生新结果的机构,是否也支持让这些结果变得可靠且有用所必需的工作。

对于开发者和企业买家而言,这提供了评估研究主张的实用标准。询问产出了什么、由谁检查、哪些内容仍不确定,以及他人能否复现流程中有意义的部分。

在关注 OpenAI 的数学发现时,也应采取同样的纪律。不要止步于公告,而要审视结果的状态、假设和独立反响。跟进发表后出现的解释与更正,因为它们揭示了一项主张如何发展为共享知识。将公司的信心与专家评估分开,并将有用访问视为参与的证据,而非宣传。Altman 已清楚表明他倾向于持续发现。下一项判断属于工作本身,以及审查它的研究人员。当下一项结果出现时,请提出一个具体问题:实验室外的人能否充分理解它,从而检查、讲授并扩展它?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page