top of page

白宮籲放寬 AI 披露責任

3 日前
讀畢需時 11 分鐘
Illustrative photograph. Photo: James L / Pexels.

白宮在 11 月 12 日會議後敦促各機構放寬對自願披露網絡安全事件的責任,並建議寬免期至少持續 12 個月。白宮 AI 披露建議針對一項棘手誘因:企業掌握有用的安全資訊,但申報問題亦可能暴露其自身失誤。

據 Cybersecurity Dive 11 月 13 日的報道,工作小組建議在合法、可行並符合公共利益的情況下,限制善意申報所涉責任。這是一項建議,而非涵蓋所有 AI 失誤的已立法豁免。

核心矛盾在於披露與問責。官員希望及早收到警示,同時避免打擊申報意欲;客戶則仍需要對不安全行為有具實質意義的後果。現有的 Cybersecurity and Infrastructure Security Agency(CISA)申報框架提供重要參照:收集安全資訊與執行責任彼此相關,但屬不同工作。

白宮 AI 披露建議會帶來甚麼改變

眼前的改變是一項關於申報誘因的政策建議,其實際效力取決於各機構如何落實。

Cybersecurity Dive 報道稱,工作小組尋求限制自願提交漏洞及事故報告的監管責任。漏洞是攻擊者可利用的弱點;事故則是影響安全的事件。報道指建議期至少為 12 個月,並可予延長。

據報,該建議亦保留涉及法定權限、可行性及公共衞生與安全的條件。這些限定應置於報道核心。應把網絡申報建議理解為要求機構採取行動,而非已確立的權利。

機構仍須說明其擬保護的是甚麼。就提交報告提供的保障,可能與就導致安全失誤的根本問題免受處罰大不相同。若政策未釐清這項分別,企業對其風險承擔便難以取得可靠資訊。

透過假設事故,這項差異會更清楚。假設一項 AI 服務發現攻擊者正利用存取控制漏洞,即決定誰可進入特定系統或取得特定資訊的規則。申報這項發現有助防禦者識別相關活動。然而,這本身並不能判定供應商此前是否維持適當保障措施。

有效政策應把這兩個問題分開處理。官員可鼓勵披露,同時保留檢視失誤如何發生的程序。否則,合作承諾便難以與寬恕承諾區分。

時間安排亦帶來另一項未解問題。建議中的期限並不代表保障有一個適用於所有情況的起始日期。讀者不應把會議日期理解為每個機構均可援引的自動豁免開始日期。

因此,白宮申報建議是在改變任何機構責任之前,先改變討論方向。其重要性在於政府承認執法誘因會影響哪些資訊最終傳達至政府。

對企業而言,這項認知構成密切審視後續政策的理由,但不足以假定現有申報責任已經消失。資格、涵蓋行為及落實日期,將決定建議會否改變事故期間的實際決策。

壓力落在最先作出申報的企業身上

最艱難的決定,出現在企業已掌握足夠資訊可警示他人,但尚未完全釐清事故時。

早期報告甚少等同最終調查結果。安全團隊可能在找出成因、完整範圍或受影響客戶之前,已察覺可疑活動。政策挑戰在於,如何鼓勵準確的初步警示,同時不獎勵揣測或選擇性披露。

試想一間 AI 供應商,其服務連接客戶的文件儲存庫。調查人員發現自動化工作流程涉及非預期存取。他們必須確認問題源於模型、其權限、整合環節,還是攻擊者竊取的憑證。

在調查持續期間,客戶需要可採取行動的資訊。一份說明受影響連接及即時遏制措施的報告,可能在調查人員得出最終結論前已有用。等待完全確定,或會延誤其他客戶所需的警示。

然而,供應商亦面對可理解的憂慮。初步報告可能記錄日後受監管機構審視的事實。若迅速申報看來比保持沉默帶來更大風險,申報制度便造成不良誘因。

因此,AI 披露責任某程度上取決於官員如何處理不完整但真誠的資訊。機構需要區分合理的初步評估與誤導性敘述,亦須說明在有新證據出現時,企業應如何修正先前陳述。

壓力不僅落在 AI 開發商身上。企業客戶依賴供應商識別受影響產品、配置及版本。與具體說明哪些連接需要留意相比,只泛稱事故正受調查,會令買家可作選擇較少。

較小型客戶還面對額外實務挑戰:把供應商警示轉化為決策。他們需要知道應否暫停存取、更改憑證、隔離工作流程,或在加強監察下繼續運作。

這使報告質素成為衡量政策成功與否的有用指標。更多提交不一定代表更佳保護。申報計劃亦應產出讓接收者能理解、評估及使用的資訊。

負擔不能完全落在首間發聲的企業身上。政府接收方需要清晰的接收程序,以及可信的敏感資訊處理方式。即使官員承諾給予優惠待遇,申報去向的不確定性仍會打擊合作意欲。

商業層面的含義很直接。買家應區分供應商合作的意願與該合作所產生的證據。一項有用警示會說明發生何事、哪些事項仍未明朗,以及接收者下一步可做甚麼。

放寬申報仍須設有問責界線

寬免在保障真誠合作、又不把披露變成取代負責任安全實務的手段時,最能發揮作用。

鼓勵申報的理據,在披露有助他人防止損害時最有力。供應商識別攻擊模式、分享有用細節,並讓受影響機構有時間回應。更廣泛的好處源自資訊流出最初遇到問題的機構以外。

然而,若企業把申報視為最後一步,這項誘因便較難辯護。機構可以準確披露,卻仍未有充分回應。客戶除了初步通知外,亦需要遏制措施、修復工作及可靠更新。

修復是指糾正導致事故發生的弱點或損害。只聚焦申報行為的政策,可能忽略這些後續工作。相關問題在於,保障是否鼓勵企業既披露亦處理問題。

一項假設比較說明這項區別。一間供應商迅速警示客戶、限制受影響存取,並發布修正指引。另一間則提交報告,卻令客戶不確定有漏洞的功能是否仍在運作。

兩間機構都曾與政府溝通,但其客戶獲得的保護程度截然不同。合理評估應檢視這些差異,而非把每份已提交報告一概而論。

早前的自願 AI 承諾證據亦提醒我們,不應把承諾等同一致行為。研究人員 Jennifer Wang、Kayla Huang、Kevin Klyman 與 Rishi Bommasani,研究企業對其於 2023 年作出承諾的公開披露合規情況。

他們的自願承諾研究發現,各公司之間存在顯著差異。OpenAI 的整體得分最高,為 83%,而公司平均得分為 53%。這些數字衡量的是研究人員以披露為基礎的評分標準,而非直接評估模型安全性或事故應對的排名。

這項比較之所以重要,是因為自願參與與可驗證表現回答的是不同問題。公司可以支持一套框架,卻未有提供足夠證據讓外界評估其行為。反之,有限的公開披露亦不能證明內部發生的一切。

對目前建議而言,教訓是要明確界定合作所需條件。有用準則可涵蓋及時性、準確性、更新、保存相關證據及修正行動。這些是實施政策須處理的問題,而非該建議已確立的條件。

公共問責亦需要納入設計。敏感報告未必總能立即公開,尤其當細節會協助攻擊者時。然而,完全私下運作的制度,會令客戶無法評估反覆出現的問題是否獲得有意義處理。

綜合結果提供了一種可能方法,可在不披露個別調查的情況下評估進展。機構可說明反覆出現的失誤模式、資訊共享成果及未解決的落實問題。此類報告需要審慎定義,才能支持有用比較。

白宮 AI 披露方針最終將面對實際考驗:它會否令企業的行為超越提交報告本身而改變。較早警示最重要的價值,在於帶來更快保護及更少重複失誤。

平行申報制度可造成另一項障礙

企業需要清楚了解哪一條申報途徑適用,尤其當同一事故同時涉及 AI 與傳統網絡安全。

事故不會僅因涉及 AI 產品而在營運上變得獨立。遭入侵帳戶、外洩憑證或有缺陷的權限設定,均可同時影響一般軟件與 AI 工作流程。不同申報標籤未必代表不同事件。

國會已透過 2022 年《關鍵基礎設施網絡事故申報法》(Cyber Incident Reporting for Critical Infrastructure Act,CIRCIA)建立法定框架。該法指示受涵蓋機構根據實施規則,申報符合條件的事故及贖金付款。

法定申報框架規定事故申報時限為 72 小時,贖金付款申報時限為 24 小時。關鍵在於,相關條文會在最終規則訂明的日期生效。這些法定時限不應被描述為目前適用於每家企業的通用期限。

該法律亦處理向另一個聯邦機構提交實質相似報告的情況。這項例外取決於所需的機構協議及資訊共享機制。這說明即使作出減少重複申報的廣泛承諾,仍需要詳細的行政安排。

獨立的 AI 報告渠道需要說明其與這類機制的關係。機構是否須透過不同表格提交相同事實?經由一條途徑發送的更新,會否送達其他接收方?哪個機構會要求補充資料?

這些問題會影響政府所獲資訊的價值。當機構在不同時間更新同一宗事件的不同版本時,便可能難以互相核對。共用參考資料或協調的受理程序,會令申報關係更易理解。

白宮的報告建議亦提出一項制度問題:其 AI 工作與現有網絡安全專業知識的連結有多緊密。這個問題已受到前 CISA 官員及其他安全專家的審視。

在報道 CISA 協調憂慮時,Cybersecurity Dive 引述前機構顧問 Daniel Bardenstein,強調 CISA 與基礎設施營運商已建立的關係。前官員 Matt Altomare 同樣主張,該機構應在事件申報及基礎設施保護方面擔當重要角色。

他們的論點關乎取得營運知識,而非機構品牌。一個報告渠道需要與預期使用它的機構建立關係。這些關係有助官員了解營運商掌握哪些資訊,以及他們需要甚麼協助。

對企業採購方而言,協調亦帶來另一項影響。供應商可能已通知政府,但客戶仍未獲得與其環境相關的指引。即使兩者涉及同一宗底層事件,政府申報與客戶溝通亦應分開評估。

最完善的實施方式,會令這些關係清晰可見。公司應知道向何處報告、更新如何流轉,以及哪些責任仍然互相獨立。缺乏這種清晰度,新增報告渠道可能只會在本已艱難的應對過程中,增添另一個決策環節。

尚未解決的問題是保護實際涵蓋甚麼

建議限制監管風險,並不等於對 AI 相關事件的一切後果提供豁免。

「AI 披露責任」一詞可能掩蓋數個不同問題。保護是否附隨於報告本身?它會否影響機構如何評估相關的底層行為?它涵蓋首次通知、後續更新,還是兩者皆涵蓋?

這些問題需要分開作答,因為它們涉及不同誘因。保護真誠的更正,會鼓勵公司更新紀錄。豁免與此無關的安全失誤,則涉及另一項政策目標,並需要不同理據。

當事件跨越不同機構邊界時,同樣需要這種精確度。AI 開發商可能營運模型,整合商可能配置存取權限,而企業可能控制連接的資料。一名參與方的報告,不能自動說明其他各方的行為。

責任亦可能隨調查發展而改變。表面上的模型問題,可能最終涉及整合缺陷。懷疑是客戶配置錯誤,亦可能揭示供應商具誤導性的預設設定。保護不應取決於把初步解釋視為永久結論。

這在「真誠」方面造成困難的設計問題。官員需要足夠彈性以應對不確定性,同時保留處理隱瞞或重大誤導性陳述的工具。模糊的標準,既無法為申報者提供可預期的判斷基礎,亦無法為受影響客戶提供這種基礎。

該建議亦需要從申報關係以外人士的角度接受審視。資料遭外洩的客戶,與作出自願披露的供應商有不同利益。鼓勵合作不應掩蓋客戶對準確資訊及適當補救的需要。

已報道的建議中,並無任何內容確立對合約責任或私人索償的一概免除。因此,讀者不應把監管彈性視為法律風險的通用答案。適用的政策文本及相關責任,仍須另行檢視。

較早前的政府訊息說明了精確表述為何重要。Axios 於 10 月報道,官員預期 AI 公司會迅速報告事件、與當局合作並補救損害。其對 AI 事件預期的報道,描述了在涉及 Anthropic 系統的事件被報道後,政府採取的強硬公開立場。

較早前的立場與 11 月建議未必互相矛盾。官員可以要求及時報告,同時改變披露如何影響執法。尚未解決的是,這些立場如何轉化為書面且可執行的機構政策。

值得質疑的是,彈性能否帶來原本會被隱藏的資訊。若它主要惠及已根據其他責任作出申報的公司,其額外價值便不太明確。評估這個問題需要關於行為的證據,而非對意圖的保證。

亦有可能衡量了錯誤的結果。報告數量上升,可能代表披露改善、事件增多、參與範圍擴大,或定義有所改變。忽略這些替代解釋的評估,會誇大數字實際證明的內容。

目前,負責任的結論只能是有限的。政府已識別出一個報告誘因問題,但已報道的建議未有解決其實施細節。聲稱公司已獲得全面豁免的說法,超出了目前可得證據所能支持的範圍。

三項發展將顯示該建議是否奏效

下一項有意義的證據,將來自書面機構政策、報告協調,以及參與者實際分享的資訊。

首先,留意界定保護措施的機構文件。重要細節包括資格、涵蓋的披露、例外情況、實施日期及更正的處理方式。公開表示支持,仍會留下這些營運問題未獲解答。

一項有用的政策,會說明報告與底層行為之間的關係。它亦會界定,當公司及時報告後才發現其最初說法並不完整時,會如何處理。這些條文會強化官員正在處理真正報告障礙的理據。

相反,機構之間的用語不一致,會削弱這個理據。若機構無法判斷同一披露在不同監管機構之間是否獲得不同處理,不確定性便依然存在。一項需要大量詮釋的名義保護,在活躍事件期間可能影響有限。

其次,留意任何自願 AI 渠道如何連接現有報告系統。發布新表格只會是第一步。清晰的轉介、更新程序及資訊共享安排,會提供更有力的協調證據。

核心問題是,機構能否只解釋其事件一次,並持續讓相關接收方獲得準確資訊。這並不要求所有責任變得完全相同,但確實需要重疊程序之間具備易於理解的界線。

減少重複工作的證據,會支持該建議的實際理據。相互矛盾的指示,或反覆要求提供實質相似資訊,則會指向相反方向。基礎設施營運商的實際經驗尤其值得關注。

第三,留意披露的質素及後果。有用證據包括報告是否足夠早送達,以協助他人、識別可採取行動的風險,並促成糾正工作。單憑參與情況不能證明這些結果。

政府及業界亦應區分保密合作與公開安撫。供應商表示已報告一宗事件,並不會揭示其報告了甚麼,或客戶是否獲得足夠資訊。在有證據可供取得的情況下,獨立審視仍然必要。

這些訊號應一併評估。有清晰保護但欠缺有用資訊,仍是不完整的結果。有用報告卻伴隨混亂程序,則顯示另一種弱點。目標是建立一種機構能夠使用、受影響各方能夠信任的報告關係。

白宮的 AI 披露建議值得關注,因為它聚焦於私人安全知識成為公共防禦資源的時刻。它能否成功,取決於這項交換的條款。

對追蹤這項政策的讀者而言,應先閱讀首份機構實施文件,而非最廣泛的標題。比較其保護措辭與報告條件,然後尋找披露能否改善應對的證據。將附有日期的聲明與實施變更一併保存在可搜尋知識庫,以免早期建議被誤認為後來的規則。詢問供應商除了向政府報告外,還向客戶傳達甚麼資訊,並區分初步發現與已完成的調查。最重要的是,持續留意已報告的問題是否獲得有文件記錄的糾正行動。最終制度會否令機構更願意揭露失誤,同時讓受影響人士更清楚了解接下來會發生甚麼?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page