紐約為大型實驗室訂下 AI 安全期限,OpenAI 監管擴大
隨着紐約開始落實其前沿 AI 安全法例,OpenAI 與 Anthropic 須在 2027 年 1 月 1 日前完成登記。該州於 11 月 10 日啟用登記平台,令監管準備工作轉化為具體的行政程序。OpenAI 監管的擴大突顯了一項核心張力:開發商將須為其自行闡述的安全承諾承擔法律責任。
時機至關重要。紐約在 1 月生效的核心安全、透明度及事故報告規定前,已啟用登記程序。若將整個制度形容為已全面運作,便會混淆合規準備與執行這些實質責任之間的分別。
《負責任 AI 安全與教育法案》(Responsible AI Safety and Education Act,簡稱 RAISE Act)把大型開發商納入共同的問責架構。Anthropic 公開支持此做法,同時認為單靠透明度不足以處理最嚴重的風險。眼前的問題是,紐約能否有效連結已公布的承諾、實際開發做法及外部審查。
OpenAI 監管現設 1 月期限
11 月的公告啟動落實工作;1 月則帶來賦予登記程序意義的核心責任。
根據該州的登記公告,大型前沿開發商必須於 2027 年 1 月 1 日前登記。由 1 月起,它們亦須公布安全框架。更廣泛而言,前沿開發商須符合模型透明度及嚴重事故報告規定。
數碼創新、管治、誠信及信任辦公室(Office of Digital Innovation, Governance, Integrity, and Trust,DIGIT)將在紐約州金融服務部內監督落實工作。隨着規定臨近,其角色為開發商提供明確的政府對接單位。
對於關注 11 月消息的讀者而言,實際分別在於開放的登記程序與既有的執法紀錄。該平台展示行政進展,但並不證明每個受規管開發商均已登記、每個框架均符合法例,或監管已降低風險。
這些結論需要由落實過程中的證據支持。登記公告無法預先提供這些證據。
同一份公告亦啟動位於 Binghamton University 的紐約 AI 責任與研究中心。該州表示,中心將支援獨立評估及協助監管工作,包括審視已公布的安全框架。
這項配套說明了更廣泛的目標。紐約一邊建立蒐集資訊的程序,一邊發展評估資訊的專業能力。兩者能否互相強化,將比僅僅設有提交平台更為重要。
政府可以收到一份完整文件,卻未必能解決其內含的科學問題。相反,研究可以找出弱點,卻未必能即時作出可執行的裁定。要連結這兩類工作,既需要技術判斷,亦需要清晰的制度責任。
對開發商而言,直接後果是有一段明確的準備期。登記、公布及報告涉及不同工作,即使它們服務於同一監管目標。把它們視為可互換,會掩蓋公司在哪些方面真正準備就緒。
對企業客戶而言,公告提供了一個可用來組織問題的日期。買方可分辨為新規定而準備的文件,與為其他目的而制定的舊有材料;亦可詢問相關文件涵蓋哪些模型版本。
因此,期限的重要性不止於行政排程。它建立了一個可觀察的節點,讓外界可將有關準備程度的承諾與可取得的證據比較。這項比較將由已公布材料開始,但不應止於此。
壓力落在模型開發商身上,客戶亦會受影響
法例區分受規管的模型開發商與一般使用其產品的企業。
根據法定的前沿模型定義,規管範圍部分取決於訓練運算量。前沿模型的門檻為超過 10^26 次整數或浮點運算,即在訓練期間所用的計算量。
計算範圍包括指定的後續修改,而非只計算原始訓練運行。另一個大型開發商類別,則以緊接上一個曆年中與聯屬公司合計超過 5 億美元的年度總收入為準。
這些區分避免了一種容易誤導的簡化說法。紐約並非向每間在網站加入聊天機械人的公司施加完全相同的責任。單憑熟悉的品牌名稱,亦不能解決某一模型或活動是否屬於規管範圍的所有問題。
對 OpenAI 與 Anthropic 而言,報道關乎模型開發層面的問責。對客戶而言,影響屬間接但仍然相關:供應商將提供可協助採購及部署決策的資訊。
假設一間軟件公司正評估可存取內部儲存庫的 AI 程式編碼助理。其直接關注包括權限、敏感資訊及錯誤行動的後果。模型開發商的安全披露提供額外背景,但無法回答有關該特定部署的每一個問題。
客戶仍然掌握重要決策權。它選擇助理可存取哪些儲存庫、修改是否須經審批,以及員工如何審核生成的工作。對上游開發商的監管涵蓋,並不會自動決定這些選擇。
這項區分亦與知識工作者有關。模型的前沿安全文件處理的問題,與其能否準確總結會議或引用文件並不相同。即使供應商履行披露責任,這些日常可靠性問題仍然重要。
對維護可搜尋知識庫的團隊而言,供應商文件應與內部決策及部署紀錄一併保存。將這些材料連結起來,有助審核人員理解特定用途所依據的假設。
這是可能帶來的營運效益,而非保證的監管結果。當有人能夠解讀披露內容、與要求比較,並就差異採取行動時,披露才會發揮作用。
對較小型開發商而言,也需要比「法例只適用於最大型實驗室」更審慎的理解。部分規定一般適用於前沿開發商,另一些則專門適用於大型前沿開發商。不同類別帶來不同後果。
這種架構令壓力不只落在法律團隊身上。產品主管、保安人員及技術評估人員都需要共同理解公司實際所做的事。否則,公開描述可能逐漸偏離員工實際遵循的程序。
對客戶而言,隨之而來的問題很具體:供應商文件是否有助說明其決策,還是僅僅確認有一份文件存在?答案將決定新披露能帶來多少實際價值。
紐約要求開發商為其自身安全框架負責
核心改變在於,法例把開發商已公布的框架與其行為連結起來。
前沿 AI 框架是用於評估及管理災難性風險的文件化制度。紐約的透明度規定要求大型開發商公布、實施及遵守該制度。
框架必須說明包括風險評估、防護措施、部署審查、外部評估及內部管治等事項,亦必須處理內部使用模型所帶來的風險。
開發商必須至少每年檢討一次框架。若有重大改動,必須在 30 天內公布修訂後的框架及說明。模型透明度資訊可載於較廣泛的模型或系統卡內,即說明模型及其評估的文件。
問責機制在法例的獨立違規條文中更為清晰。檢察總長可就指明失責行為追討民事罰款,包括大型開發商未有遵循自身框架。法例並不設立私人訴訟權。
這使框架的措辭變得重要。有關公司如何評估危險的陳述,可能成為檢視其行為的參考點。因此,公開的安全表述不僅關乎聲譽。
取捨在於,開發商仍須在相當程度上自行描述其流程。這可容納不同技術方法,但也使這些描述的質素變得重要。
滿佈酌情措辭的框架,所揭示的資訊可能少於一份說明由誰決定、哪些證據重要及例外情況如何處理的文件。反過來說,過於具體的承諾,亦可能隨底層技術變化而難以維持。
細節與彈性皆非必然較佳。真正有用的問題是,外部讀者能否理解決策程序,並辨識當中有意義的偏離。
例如,一份假設框架可能說明,當評估顯示新的危險能力時,須進行額外審查。屆時,審核人員需要理解是甚麼觸發審查,以及其結果如何影響最終決定。
僅有一次審查會議,所能證明的遠少於顯示證據如何改變結果的紀錄。這說明程序合規與實質判斷值得分開看待。
同一區分亦適用於文件更新。一份指出已改變假設的說明,有助讀者評估延續性;未有解釋的改動,則會令人不確定底層風險評估是有所改善、減弱,還是只是轉移到別處。
在這個模式下,OpenAI 監管將部分取決於這條文件紀錄。政府需要足夠資訊,將公司的說法與其行動比較;技術審核人員則需要足夠背景,以評估該說法本身。
對開發商而言,挑戰是組織一致性。若團隊對框架條款有不同理解,框架便無法作為準確描述。對監管機構而言,挑戰是評估一致性時,不要把一份措辭精美的文件誤當成每項相關決策都依循它的證據。
正是在這裏,法例的承諾遇上其實際限制:可執行的承諾需要詮釋,而詮釋需要證據。
Anthropic 支持透明度,但認為透明度並不足夠
支持強制披露,並不等於披露已提供足夠保障。
Anthropic 已公布的AI 政策優先事項主張強制公布災難性風險評估及安全測試摘要。該公司把紐約的 RAISE Act 列為其曾支持的法例之一。
它亦指出,單靠透明度不足以應對最嚴重的風險。其更廣泛的建議包括獨立評估,以及持續披露風險評估和安全事故。這些屬於該公司的政策立場,而非對其系統的獨立研究結果。
這一立場為爭論帶來重要區分。開發商可以支持透明度法例,同時主張加強監管。支持該法例並不表示公司的自身做法已符合所有要求。
這亦不代表其安全性相對較高。Anthropic 的倡議本身不足以證明其模型比 OpenAI 的模型更安全。同樣地,讓兩家公司均受監管,並不表示其風險、流程或技術能力完全相同。
對於比較供應商的讀者而言,這是一條有用的界線。政策一致性、合規性與技術安全彼此相關,但其中一方面的證據,並不能自動解答其他方面的問題。
紐約的做法促使開發商公開其安全工作的一些面向。Anthropic 所表明的立場更進一步,承認可見性無法發揮所有保護功能。
支持透明度最有力的論點在於實際效用。當底層流程完全不公開時,外部審視便會變得更困難。公開說明讓研究人員、客戶和官員有具體內容可供質疑。
最有力的質疑回應同樣基於實際考慮。已發布的摘要可能仍無法解答:評估是否衡量了相關風險、測試條件是否接近實際部署,或保護措施是否持續有效。
這些是分析問題,並非針對任何特定開發商的指控。這也說明,披露內容比其篇幅或呈現方式更重要。
獨立評估可有助檢視這些問題,但獨立性本身亦需要受到審視。讀者需要了解評估者可取得哪些資料、工作有哪些限制,以及結果能支持哪些結論。外部機構的參與具有參考價值,但並非定論。
識別不確定性與消除不確定性之間亦有差別。有用的評估可以顯示重要問題仍未有定論。若把每一項未解決問題都視為失敗的證明,會打擊坦誠披露的意願。
相反的錯誤,則是把不確定性當作完全避免作出判斷的理由。開發商仍須作出部署決定,客戶亦仍須決定哪些系統可獲准處理具重大影響的工作。
RAISE Act 的價值部分取決於能否讓這些決定更易理解。這意味著應檢視發布決定背後的理據,而不是把支持監管或合規聲明視為最終答案。
對 OpenAI 和 Anthropic 而言,新形成的標準因此關乎客戶和監管機構可以檢驗的證據。其聲譽仍然重要,但聲譽不能取代對某項具體決定如何作出的交代。
事故通報為監管機構提供可見性,但公眾可取得的資訊有限
通報期限為當局提供資訊渠道,但不保證公眾可即時查閱每宗事故。
法例的事故通報規則一般要求,在確認合資格事故已發生後 72 小時內作出通知。當開發商得悉足以支持合理相信事故已發生的事實時,計時亦會開始。
另一項條文規定,如發現的嚴重事故構成迫在眉睫的死亡或嚴重受傷風險,須在 24 小時內向適當當局披露。這些觸發條件較籠統地承諾迅速報告問題更具體。
事故報告及指定的內部風險評估均受保密保障。該辦公室的年度報告責任將於 2028 年 1 月 1 日開始,並包括匿名化、匯總的事故資訊。
保密通報與公共透明度之間的區別至關重要。當局可以掌握客戶未必能即時取得的資訊。公眾觀察者不能假定未有披露個案,就代表未有報告。
原始報告數量亦不應成為安全排名。更多報告可能反映更多事故、更佳的偵測能力、更廣泛的報告做法,或多項因素兼而有之。要解讀數量,必須結合背景。
這是安全系統中反覆出現的衡量問題。通報流程會改變哪些事項變得可見,因此在根本情況改善之前,表面表現已可能改變。當早期數據最終出現時,這種可能性值得注意。
通報觸發條件亦著重內部識別能力。期限只有在機構能辨識相關證據,並將其交由能夠採取行動的人處理時才有用。
假設某開發商在內部使用期間調查意外行為。技術人員可能首先需要區分評估產生的假象與真正的安全疑慮。其後的通報流程,取決於能否保存證據並適當升級處理事件。
這個例子並不表示任何具名公司曾發生此類事故。它只是說明,通報責任為何把技術判斷與機構責任聯繫起來。
對客戶而言,保密安排限制了供應商比較所能得出的結論。已發布的材料可以描述某一流程,卻未必披露透過該流程處理的每一宗事件。
對監管機構而言,受保護的通報可提供若廣泛公開便可能敏感或危險的資訊。隨之而來的挑戰,是在尊重這些保障的同時,證明資訊確實有助監管。
因此,公眾信心將取決於不只披露數量。清晰說明監管方法、匯總發現和機構回應,可幫助觀察者評估流程是否有效運作。
罰款同樣需要審慎解讀。執法可揭示失誤,並顯示當局已作出回應。但這兩項結論本身都不能衡量受影響技術的整體安全性。
在執法開始前,同樣應保持審慎。登記是參與行政程序的證據,並非政府認可某模型適合所有用途。
保持這些區分清晰,可避免該法例成為產品營銷或採購決策中的誤導性捷徑。監管帶來問責,但讀者仍須問清楚每一個公開訊號實際證明了甚麼。
留意登記、發布披露,以及監管審視的早期跡象
未來數月將提供可觀察的實施證據,即使長期安全結果尚未能衡量。
首先,留意一月的登記期限,以及任何關於誰必須參與的官方澄清。相關訊號在於,實施是否為受涵蓋開發商建立清晰且可用的流程。
有效運作的登記流程,將加強紐約已由立法進入行政執行階段的論點。若責任不清、指引未解決,或程序障礙反覆出現,則會削弱這項評估。
這項訊號的含義有限。成功完成登記只能證明行政要求取得進展,並不表示州政府已檢視所有技術問題,或已批准每一個受涵蓋系統。
其次,留意在要求生效後隨發布而附帶的安全框架和模型披露。值得比較的是,讀者能從中確定甚麼。
材料是否識別相關模型、解釋評估流程,並區分發現與尚未解決的問題?客戶能否理解不同版本之間有何改變?更新是否說明開發商做法出現了具意義的變化?
這些比單看文件篇幅更能反映披露是否具資訊價值。更清晰、可比較性更高的材料,將支持該法例改善外部審視的論點。反覆出現的含糊之處,則會令該論點更難成立。
OpenAI 與 Anthropic 的比較應保持具體。一間開發商可能更清晰地說明某個流程,但這並不足以證明其整體安全性具有優勢。結論的範圍應由證據決定。
第三,留意負責監管的機構所公開記錄的審查活動、評估方法和指引。重要訊號在於,技術審視是否產生可識別的問題或實務改變。
若有公開證據顯示兩者有所聯繫,將加強監管不止於收集文件的論點。考慮到保密規則和評估所需時間,早期缺乏公開發現的結論性則較低。
這項最後訊號需要耐心,但不能放棄審視。新成立的機構無法立即提供成熟的執法紀錄,但仍可說明其優先事項、方法,以及可評估範圍的界線。
綜合而言,這些觀察提供一種扎實的方法,在一月臨近時追蹤 OpenAI 的監管情況。它們區分行政準備、具資訊價值的披露與實質審查,而每一項均支持不同的結論。
對開發商和企業買家而言,在把合規措辭視為安全判決前,應先追蹤這些訊號。將相關框架、模型披露和內部部署決定一併考慮,讓變化保持可理解。向供應商查詢哪些證據支持其主張,以及其文件留下哪些未解問題。比較 OpenAI 和 Anthropic 時,應聚焦於特定模型和擬議用途,而非籠統的審慎聲譽。已發布的框架可改善採購討論,但仍需要有人檢視其假設。隨著紐約的要求開始生效,應利用新資訊提出更精確的問題:評估了甚麼、哪些地方仍不確定,以及證據令哪項決定有所改變?



