top of page

纽约为大型实验室设定 AI 安全截止期,OpenAI 监管随之扩大

10分钟前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Hatice Baran / Pexels.

随着纽约州开始落实其前沿 AI 安全法律,OpenAI 和 Anthropic 面临 2027 年 1 月 1 日的注册截止期。该州于 11 月 10 日开放注册门户,使监管筹备进入具体的行政流程。对 OpenAI 监管的扩大凸显出一个核心矛盾:开发者将须为其自行描述的安全承诺承担法律责任。

这一时间节点至关重要。纽约州在核心安全、透明度和事故报告要求于 1 月生效前便开放了注册。若将整套制度描述为已经全面运行,将模糊合规筹备与执行这些实质性义务之间的区别。

《负责任 AI 安全与教育法案》(Responsible AI Safety and Education Act),即 RAISE Act,将大型开发者纳入共同的问责框架。Anthropic 公开支持这一做法,同时也认为,仅靠透明度无法应对最严重的风险。眼下的问题是,纽约州能否有效连接公开承诺、实际开发实践与外部审查。

OpenAI 监管现已面临 1 月截止期

11 月的公告启动实施;1 月则带来赋予注册流程实际意义的核心义务。

根据该州的注册公告,大型前沿开发者必须在 2027 年 1 月 1 日前完成注册。自 1 月起,它们还必须发布安全框架。更广泛意义上的前沿开发者则须遵守模型透明度和重大事故报告要求。

纽约州金融服务部下属的数字创新、治理、诚信与信任办公室(DIGIT)将负责监督实施。随着要求临近,该机构的角色为开发者提供了一个明确的政府对接方。

对于关注 11 月新闻的读者而言,实际区别在于注册流程已开放,而执法记录尚未建立。该门户表明行政工作取得进展,但并不能证明每一家适用开发者都已注册、每一份框架都符合法律要求,或监管已经降低风险。

这些结论需要实施过程中的证据。注册公告无法预先提供这些证据。

同一公告还在 Binghamton University 启动了纽约 AI 责任与研究中心。该州表示,该中心将支持独立评估,并协助为监管提供依据,包括审查已发布的安全框架。

这一配套安排说明了更广泛的目标。纽约州正在建立信息收集流程,同时培养评估这些信息的专业能力。这两项职能能否相互强化,比单独存在一个提交门户更为重要。

政府可以收到一份完整文件,却无法解决其中的科学问题。反过来,研究也可以发现弱点,却未必能立即形成可执行的认定。将这些活动连接起来,既需要技术判断,也需要清晰的机构职责。

对开发者而言,直接影响是出现了明确的筹备窗口。注册、发布和报告涉及不同工作,即便它们服务于同一监管目标。将它们视为可以互换,会掩盖企业究竟在哪些方面已做好准备。

对企业客户而言,这项公告提供了一个组织问题的时间节点。买方可以区分为新要求准备的文件与服务于其他目的的旧材料,也可以询问这些文件涵盖哪些模型版本。

因此,这一期限的重要性不止于行政排期。它形成了一个可观察节点,届时有关准备程度的承诺可以与现有证据进行比较。这种比较将从公开材料开始,但不应止步于此。

压力落在模型开发者身上,并将影响其客户

该法律区分适用的模型开发者与使用其产品的一般企业。

根据法定的前沿模型定义,是否适用部分取决于训练算力。前沿模型须超过 10^26 次整数或浮点运算的门槛,即训练期间所使用的计算量。

计算范围包括规定的后续修改,而不仅限于最初的训练运行。单独的大型开发者类别,则采用上一日历年度与关联方合并计算后年总营收超过 5 亿美元的标准。

这些区分避免了一种误导性的简化说法。纽约州并未对每一家在网站上添加聊天机器人的公司施加完全相同的义务。熟悉的品牌名称本身,也无法解决某一模型或活动是否属于适用范围的所有问题。

对于 OpenAI 和 Anthropic,相关叙事聚焦于模型开发层面的问责。对于客户,影响虽是间接的,却仍具相关性:供应商将提供可为采购和部署决策提供参考的信息。

设想一家软件公司正在评估一款可访问内部代码库的 AI 编程助手。它最直接关注的是权限、敏感信息,以及错误操作可能造成的后果。模型开发者的安全披露能提供额外背景,但无法回答该具体部署的所有问题。

客户仍掌握重要决策权。它决定助手可访问哪些代码库、修改是否需要审批,以及员工如何审查生成的工作成果。对上游开发者的监管覆盖不会自动决定这些选择。

这一区分对知识工作者同样重要。模型的前沿安全文档所回答的问题,与其回答是否能准确总结会议或引用文件不同。即使供应商履行了披露义务,这些日常可靠性问题依然重要。

对于维护可搜索知识库的团队而言,供应商文档应与内部决策和部署记录并列保存。将这些材料保持关联,有助于审查者理解某项具体使用所依据的假设。

这是一种可能的运营收益,而非有保障的监管结果。只有当有人能够解读披露内容、将其与要求进行比较并针对差异采取行动时,披露才会发挥作用。

对于较小开发者,也需要比“法律只适用于最大型实验室”更谨慎的理解。一些要求普遍适用于前沿开发者,另一些则专门适用于大型前沿开发者。这些类别会带来不同后果。

这种结构给法务团队以外的人员也带来压力。产品负责人、安全人员和技术评估人员需要对公司实际做法形成共同理解。否则,公开描述可能会逐渐偏离员工实际遵循的流程。

对客户来说,由此产生的问题很具体:供应商的文档是否有助于说明其决策,还是仅仅确认某份文件的存在?答案将决定这些新披露能够提供多少实际价值。

纽约州让开发者为自身安全框架负责

核心变化在于,法律将开发者公开发布的框架与其行为联系起来。

前沿 AI 框架是用于评估和管理灾难性风险的书面制度。纽约州的透明度要求规定,大型开发者必须发布、实施并遵守这一框架。

框架必须说明包括风险评估、防护措施、部署审查、外部评估和内部治理在内的事项,也必须涵盖内部使用模型带来的风险。

开发者必须至少每年审查一次框架。发生重大变更时,须在 30 天内发布修订后的框架及说明。模型透明度信息可以纳入更广泛的模型或系统卡中,即描述模型及其评估的文件。

该法律单独的违规条款进一步明确了问责机制。对于规定的失责行为,州总检察长可追究民事罚款,其中包括大型开发者未遵循其自身框架的情形。该法并未设立私人诉讼权。

这使框架的措辞具有实际后果。企业关于如何评估危险的表述,可能成为审查其行为的参照点。因此,公开的安全表述具有超越声誉层面的意义。

取舍在于,开发者仍须对如何描述其流程承担重大责任。这可以容纳不同技术路径,但也令这些描述的质量变得重要。

充满裁量性语言的框架,可能不如一份解释由谁决策、哪些证据重要以及例外如何处理的文件有价值。反之,极为具体的承诺也可能随着底层技术的变化而难以维持。

细节与灵活性都并非天然更优。真正有用的问题是,外部读者能否理解决策流程,并识别其中具有意义的偏离。

例如,一份假设性的框架可能规定,当评估发现新的危险能力时需进行额外审查。审查者随后便需要了解是什么触发了审查,以及审查结果如何影响最终决定。

仅有一次审查会议的存在,所能证明的远少于一份显示证据如何改变结果的记录。这说明,程序合规与实质判断应当分别受到关注。

同样的区分也适用于文件更新。说明中若能指出发生变化的假设,便可帮助读者评估连续性。没有说明的变更,则会让人不确定底层风险评估究竟是得到改善、被削弱,还是只是被转移到了别处。

在这一模式下,对 OpenAI 的监管将部分取决于这条文档记录。纽约州需要足够的信息,以比较企业的说法与其行动;技术审查人员也需要足够的背景,以评估这些说法本身。

对开发者而言,挑战在于组织一致性。如果团队对术语的理解不同,框架就无法作为准确描述发挥作用。对监管者而言,挑战在于评估一致性,同时不能将一份精致的文件误认为每一项相关决策都遵循了它的证据。

这正是法律承诺与其实际局限相遇之处:可执行的承诺需要解读,而解读需要证据。

Anthropic 支持透明度,但认为其并不足够

支持强制披露,并不能决定披露是否提供了充分保护。

Anthropic 发布的AI 政策重点主张强制公开灾难性风险评估和安全测试摘要。该公司将纽约州 RAISE Act 列为其支持的法律之一。

透明度本身不足以应对最严重的风险。其更广泛的提议包括独立评估,以及持续披露风险评估和安全事件。这些是该公司的政策立场,而非关于其系统的独立结论。

这一立场在讨论中形成了重要区分。开发者可以支持透明度法律,同时主张增加额外监管。支持该法律并不能证明该公司自身的实践满足每一项要求。

这同样不能证明相对安全性。Anthropic 的倡议本身无法证明其模型比 OpenAI 的模型更安全。同样地,将两家公司都纳入监管,并不意味着它们的风险、流程或技术能力完全相同。

对于比较供应商的读者而言,这是一条有用的界限。政策一致性、监管合规与技术安全彼此相关,但关于其中一项的证据并不会自动解答其他问题。

纽约州的做法促使开发者公开其安全工作的一些方面。Anthropic 所表明的立场更进一步,承认可见性无法承担所有保护功能。

支持透明度的最有力论点是务实的。当底层流程始终完全私密时,外部审查就会变得更困难。公开说明让研究人员、客户和官员有了可以具体质询的内容。

最有力的质疑回应同样务实。已发布的摘要或许仍无法回答:评估是否衡量了相关危险、测试条件是否接近实际部署,或保护措施是否持续有效。

这些是分析性问题,并非针对某个特定开发者的指控。它们说明,披露的内容比其篇幅或呈现形式更重要。

独立评估有助于审视这些问题,但独立性本身也需要审查。读者需要了解评估方获得的访问权限、工作范围的限制,以及结果能够支持哪些结论。外部组织的参与具有参考价值,但并非决定性证据。

识别不确定性与消除不确定性之间也存在区别。一项有价值的评估可以表明重要问题仍未解决。若把每一项未解决的问题都视为失败的证据,会抑制坦诚报告。

相反的错误,是将不确定性视为完全避免作出判断的理由。开发者仍然会作出部署决策,客户也仍然会决定哪些系统可以接触具有重大影响的任务。

RAISE Act 的价值将部分取决于能否让这些决策更易于理解。这意味着应审视一次发布背后的推理,而不是把对监管的支持或合规声明视为最终答案。

无论对 OpenAI 还是 Anthropic 而言,新兴标准因此都关乎客户和监管机构能够审查的证据。它们的声誉仍然相关,但声誉无法替代对某项具体决策如何作出的说明。

事件报告为监管机构提供可见性,但公众获取信息仍有限制

报告期限为主管机构提供信息渠道,但并不保证公众能立即获得每一起事件的信息。

该法律的事件报告规则通常要求,在确定发生符合条件的事件后 72 小时内发出通知。当开发者了解到足以支持其合理相信该事件已发生的事实时,时限同样开始计算。

另一项规定要求,当发现的重大事件造成迫在眉睫的死亡或严重伤害风险时,须在 24 小时内向适当主管机构披露。这些触发条件比笼统承诺及时报告问题更为具体。

事件报告和特定内部风险评估受到保密保护。该办公室的年度报告义务自 2028 年 1 月 1 日起生效,其中包括匿名化、汇总后的事件信息。

保密报告与公开透明之间的区别至关重要。主管机构可以获得客户无法立即共享的可见性。公众观察者不能假定未披露案件就意味着不存在报告。

原始报告数量也不应成为安全排名。报告数量增加,可能反映更多事件、更好的发现能力、更广泛的报告实践,或多种因素的结合。解读这一数量需要背景信息。

这是安全系统中反复出现的测量问题。报告流程会改变哪些情况变得可见,因此可能在底层条件改善之前改变表面表现。早期数据最终出现时,这种可能性值得关注。

通知触发机制也强调内部识别的重要性。只有当组织能够识别相关证据,并将其传递给有能力采取行动的人时,时限才有意义。

设想一家假设中的开发者正在调查内部使用期间出现的意外行为。技术人员可能首先需要区分评估伪影与真正的安全问题。此后,报告流程取决于能否保存证据并恰当升级处理该问题。

这一示例并不能证明任何被点名的公司经历过此类事件。它说明了报告义务为何将技术判断与组织责任联系起来。

对客户而言,保密结构限制了供应商比较能够得出的结论。已发布的材料可以描述流程,却不一定披露通过该流程处理的每一起事件。

对监管机构而言,受保护的报告可以提供若广泛公开则可能敏感或危险的信息。随之而来的挑战,是在尊重这些保护措施的同时,证明这些信息确实有助于监管。

因此,公众信心将不止取决于披露数量。对监管方法、汇总发现和机构响应的清晰说明,可以帮助观察者判断该流程是否有效。

罚款同样需要谨慎解读。执法可能揭示一项失误,并表明主管机构已对此作出回应。但这两个结论单独来看,都不能衡量受影响技术的整体安全性。

在执法开始前,同样应保持谨慎。注册是参与行政流程的证据,并非政府认可某个模型适用于所有用途。

保持这些区别的清晰,可以防止该法律沦为产品营销或采购决策中具有误导性的捷径。监管增加了问责性,但读者仍需追问每一个公开信号究竟证明了什么。

关注注册、发布披露以及首批审查迹象

在长期安全结果能够得到衡量之前,未来数月已将提供关于实施情况的可观察证据。

首先,关注一月的注册节点,以及关于哪些主体必须参与的任何官方说明。相关信号在于,实施是否为受覆盖的开发者建立了清晰、可用的流程。

有效运作的注册流程将加强这样一种判断:纽约州已从立法阶段进入行政实施阶段。责任归属混乱、指引未解决,或反复出现程序障碍,都会削弱这一判断。

这一信号的含义有限。成功注册能够证明行政要求取得进展,但不能证明纽约州已审查每一个技术问题,或批准每一个受覆盖系统。

其次,关注要求生效后发布时随附的安全框架和模型披露。有用的比较在于,读者能够从中确定哪些信息。

这些材料是否明确相关模型、解释评估流程,并区分已得出的结论与未解决的问题?客户能否了解不同版本之间发生了什么变化?更新是否说明开发者方法中具有实质意义的改变?

相比文件数量本身,这些是更有力的信息性披露指标。更清晰、更可比较的材料将支持该法律改善外部审查的观点。反复出现的模糊表述则会使这一观点更难成立。

OpenAI 与 Anthropic 之间的比较应保持具体。一家开发者可能更清楚地解释某一流程,但这并不能证明其整体安全性更具优势。证据应决定结论的范围。

第三,关注由负责监管的机构公开记录的审查活动、评估方法和指导意见。重要信号在于,技术审查是否产生可识别的问题或实践变化。

这类联系的公开证据将加强这样一种判断:监管不止于收集文件。鉴于保密规则以及评估所需时间,早期缺乏公开发现的结论性较弱。

这一最终信号需要耐心,但不应放弃审查。新成立的机构无法立即提供成熟的执法记录,但仍可以说明其优先事项、方法,以及其评估能力的边界。

综合来看,这些观察为在一月临近之际跟踪 OpenAI 监管提供了有据可依的方法。它们区分了行政准备度、信息性披露和实质性审查,每一项都支持不同的结论。

对于开发者和企业采购方而言,在将合规措辞视为安全结论之前,应关注这些信号。应将相关框架、模型披露和内部部署决策结合起来,使变化保持可理解性。询问供应商哪些证据支持其主张,以及其文件留下了哪些未解决的问题。比较 OpenAI 与 Anthropic 时,应聚焦具体模型和拟议用途,而非笼统的谨慎声誉。公开的框架可以改善采购对话,但仍需要有人审查其假设。随着纽约州的要求开始生效,应利用这些新信息提出更精确的问题:评估了什么、哪些不确定性仍然存在,以及证据促成了什么决策变化?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page