top of page

Fireworks AI 入侵事件更新揭示第二次入侵及更廣泛的客戶資料外洩

25 分鐘前
讀畢需時 13 分鐘
Illustrative photograph. Photo: Sora Shimazaki / Pexels.

Fireworks AI 在 11 月 9 日的更新中披露了 10 月發生的第二次入侵,令 Fireworks AI 入侵事件的範圍擴大至最初報告的憑證以外。該公司現表示,外洩資料涉及帳單記錄,且部分客戶的資料集子集及不完整模型權重亦受影響。模型權重是塑造模型行為的數值參數。這項更廣泛的發現,令客戶必須重新評估其 AI 基礎設施實際儲存了甚麼資料。

這是對 10 月活動的更新說明,而非公布 11 月發生的新一輪攻擊。核心問題在於,服務的資料保留政策與相關工作流程中儲存的資訊之間存在差異。客戶在判斷事件對自身的意義前,必須了解兩者。

Notion 提供了最清晰的下游例子。其披露將事件與職場 AI 對話連繫起來,使影響不再局限於管理基礎設施的開發人員。問題現已延伸至企業採購方及知識工作者:他們的資訊存在哪些副本,以及每個副本由哪一道安全邊界保護?

Fireworks AI 入侵事件更新改變了甚麼

修訂後的說明同時擴大了入侵時間線,以及涉及的客戶資訊類別。

Fireworks 的事件範圍更新描述,10 月 23 日發生雲端服務供應商事件,隨後在 10 月 24 日出現對開發機器的未經授權存取。該公司表示,一項未經授權的工作負載造成額外的客戶資料影響,並稱當日已偵測到相關活動。

受影響類別包括資源中繼資料及帳單資訊,例如地址、付款紀錄、結餘及信用額度使用情況。Fireworks 表示不會儲存付款卡號碼,因此有關資料未受影響。對於部分客戶,攻擊者存取了不完整模型權重及資料集的子集。

這些限定條件相當重要。披露內容並未證實每個客戶的模型均遭竊取、完整的生產權重集合遭收集,或付款卡號碼外洩。較狹窄的描述依然嚴重,但不應加入現有證據未能支持的說法。

最初的事件公告聚焦於未經授權取得、用於評估工作的內部憑證及環境變數。環境變數是可存放憑證或其他應用程式設定的配置。評估工作會根據選定任務或準則測試模型行為。

原先的說明指出,調查人員在當時尚未偵測到存取其他幾類更廣泛資料的情況。公告亦要求受影響客戶透過發出憑證的供應商,輪換已識別的第三方憑證。刪除已儲存的憑證,並不會令憑證本身失效。

因此,實際改變不只是時間線上多了一個項目。即使同樣出現在一份事件通知中,不同資訊類別仍需要不同應對措施。

憑證通常可以撤銷及更換。帳單地址在實際意義上則無法以同樣方式輪換。機密資料集則需要評估其內容,以及披露所帶來的後果。

不完整的模型產物亦引入另一個問題。其重要性取決於產物包含甚麼、如何建立,以及是否揭示有用的專有資訊。單憑「不完整」一詞,無法解決這些問題。

因此,客戶不應為每個受影響帳戶套用單一嚴重程度標籤。有效的評估應把每個外洩類別,與其擁有人、敏感程度及可採取的應對措施連繫起來。

事件發生時間亦改變了讀者解讀報道的方式。早期事件通知反映的是發出當刻可取得的證據。後續調查可以擴展這幅圖像。

這並不代表每項早期陳述都明知故犯地誤導他人。但這意味著客戶不應把初步排除事項視為永久結論。

按這個脈絡解釋 Fireworks AI 入侵事件,這是一項範圍不斷擴大的調查。報道應保留這個脈絡,而非把發現、入侵及通知合併為同一日期。

對買方而言,即時含義很直接。在判斷憑證、業務記錄或開發產物是否需要處理時,針對特定帳戶的通知比新聞標題更有用。

Notion 顯示為何客戶影響超出基礎設施範圍

即使職場應用程式表示自身系統未遭入侵,供應商事件仍可能令職場資訊外洩。

Notion 的下游事件時間線表示,被識別為受影響的工作區不足其工作區總數的 1%。這個百分比描述的是工作區,而非用戶、人數、訊息數量或個別對話的敏感程度。

根據時間線,Notion 已於 11 月 3 日中斷與 Fireworks 的連接。Fireworks 隨後於 11 月 6 日通知 Notion,可能存在客戶資料外洩。Notion 表示,於 11 月 8 日收到最終受影響資料集,並在 11 月 9 日聯絡受影響客戶。

Notion 表示,受影響的是與 Insights 相關的文字記錄;Insights 是用於了解 AI 使用情況的功能。該公司亦表示已停用 Insights,並停止透過 Fireworks 提供開放權重模型。開放權重模型根據各自的授權條款公開其已學習的參數。

這產生了一項具體區別:客戶購買服務的公司,與參與處理其資訊的公司,未必相同。使用者看見的應用程式只是這段關係的一部分。

員工可以合理地知道自己開啟了哪一個應用程式,卻未必知道哪個基礎設施供應商處理了某項背景工作。調查期間,這種落差會帶來實際後果。

企業買方於是面對一個轉譯問題。技術發現會以資料集、憑證、內部應用程式及供應商邊界來描述。員工則需要知道,自己的工作對話是否牽涉其中。

安全團隊需要的是另一種答案。他們必須判斷任何外洩資料是否可授予其他系統存取權、識別個人,或揭露機密業務資訊。

採購團隊又需要另一種答案。他們必須了解受影響的處理方式,是否符合機構已核准的用途,以及其對資料保留的預期。

這些需要彼此重疊,但不可互相替代。有關生產服務可用性的安心聲明,不能回答已儲存對話副本的問題。較少工作區受影響,亦不代表敏感程度較低。

因此,壓力不僅落在基礎設施供應商身上,亦落在應用程式供應商身上。客戶期望應用程式供應商以可供採取行動的方式,解釋下游關係。

有效的通知應清楚區分供應商已知的事項,以及客戶必須檢查的事項。它亦應讓受影響記錄可供查閱,而毋須員工自行重組事件經過。

這正是 Fireworks AI 對客戶的影響如何成為職場問題。一宗事件可能需要安全、產品、法務、採購團隊,以及撰寫原始訊息的人士協調處理。

每個群組掌控應對工作的不同部分。員工了解對話的背景。安全團隊了解外洩憑證的後果。業務負責人了解相關項目的敏感程度。

單一百分比無法涵蓋所有這些工作。範圍指標有助描述事件,但資料內容決定了應對措施的大部分。

對 AI 產品買方而言,這改變了採購討論的重點。模型質素及應用程式功能仍然重要,而下游處理的可見性亦成為營運決策的一部分。

「不可歸屬」對話仍可能包含可識別資訊

移除自動附加的身分中繼資料,並不會移除對話本身的識別資訊。

Notion 的受影響文字記錄指引說明,「不可歸屬」是指自動注入的中繼資料。絕大部分受影響文字記錄均缺乏該等身分背景資料。

不過,受影響記錄仍包括用戶訊息及助理輸出內容。用戶文字可能包含姓名、電郵地址或憑證。助理回覆則可能包含參考資料中的片段。

Notion 把這些內容與完整附件及其他底層記錄區分開來。除非會議記錄的內容出現在用戶訊息或助理回覆中,否則不會直接受影響。這項例外對評估實際外洩範圍相當重要。

透過一段假設的職場交流,較容易理解這項區別。一名員工要求助理修改一則發給具名客戶的訊息。提示內容包括聯絡地址,以及尚未解決的項目問題描述。

即使沒有附上工作區識別碼,文字仍可識別該客戶。它亦可揭露該員工所屬機構與該客戶之間的關係。

另一段假設交流不包含個人姓名。相反,助理的答案重複了內部項目名稱及機密交付日期。沒有用戶標籤,並不代表這些細節無害。

這些例子說明了披露內容的含義,並非聲稱調查期間找回了特定對話。

對事件應變而言,這項區別改變了「檢視受影響資料」的含義。只搜尋密碼,可能遺漏機密業務內容。只搜尋姓名,亦可能遺漏可重用的存取憑證。

受影響機構需要檢查用戶訊息及生成的回覆。助理回覆是一段新文字,但它可能重現既有來源中的資訊。

這亦令文件與對話之間常見的界線變得複雜。把完整文件置於外洩資料集之外,並不一定代表文件的每一段內容都沒有出現在其中。

短小摘錄可能已包含敏感部分。反過來說,出現摘錄亦不能證實完整來源已外洩。

兩道邊界都應清楚說明。誇大事件會令調查更困難,而淡化摘錄則可能掩蓋其實際重要性。

同樣的推理亦適用於附件。未受影響的檔案,以及根據該檔案產生而已外洩的回覆,是不同物件。即使兩者涉及相同主題,其安全狀態亦可能不同。

這正是為何事件通知的措辭值得仔細閱讀。「沒有附件受影響」與「沒有源自附件的資訊受影響」,是實質上不同的陳述。

對於建立個人知識庫的組織而言,這是一個相關的邊界問題。原始資料所在的位置,並不會自動界定每一份生成摘要的存放位置。

這一觀察並不能證明任何特定產品具備安全優勢。買家仍需取得關於實際處理及儲存方式的具體證據。

更廣泛的含義是,私隱評估必須追蹤資訊在轉換過程中的流向。對話、摘錄、分類輸入及原始文件,可能包含相關資訊,卻受不同控制措施管轄。

因此,Fireworks AI 客戶所受的影響,部分取決於內容本身,而不僅是是否缺少標籤。受影響的文字記錄值得按可閱讀的商業資訊作出審查。

資料保留承諾面對工作流程邊界考驗

只有當客戶明白保留承諾涵蓋哪項服務、哪個資料集及哪個處理階段時,該承諾才有用。

這宗事件的核心衝突,在於廣泛的客戶期望與具體的技術邊界之間。買家聽到保留承諾時,會將其套用至整個產品體驗;供應商則可能將該承諾界定為只適用於特定服務。

零資料保留一般是指,在處理後不保留指定客戶資料的政策。確切範圍仍取決於服務及其條款。

當一個應用程式就同一段對話執行多項工作時,這個範圍問題會變得更複雜。回答問題與分析助理的使用方式,是兩種不同的活動。

然而,從買家的角度來看,兩者都可能像同一項功能的一部分。介面未必會揭示背後的每個處理階段。

這正是 Fireworks AI 外洩事件所揭示的取捨。額外的 AI 工作流程可以提供有用的產品功能,同時亦會增加需要保護資訊的環節。

關鍵問題並非每個已儲存的資料集是否都不恰當。有些工作流程需要持久保存的資料。問題在於,客戶是否了解這些副本,以及相關控制措施是否符合其敏感程度。

開發資料集尤其值得嚴格檢視,因為「開發」一詞可能令人誤以為風險較低。其環境或許與生產環境分隔,但其內容仍然敏感。

同一原則亦適用於評估資料。以具代表性的資訊測試系統,可能產生重要性近似原始資料的副本。

這是分析上的關注,而非對每個 Fireworks 工作流程的結論。客戶在就自身資料作出結論前,需要取得與帳戶相關的證據。

商業比較同樣需要保持嚴謹。轉用另一個 AI 平台會改變與供應商的關係,但不會自動解答儲存問題。

Wiz 的開發者平台分析將 Fireworks 與涉及 Lightning AI、Railway 及其他開發者服務的事件並列。其研究人員指出,反覆出現的焦點是可授予 AI 存取權限的憑證。

這項比較支持對整個類別作出審視,但不能證明這些公司的成因相同、後果同樣嚴重,或存在共同漏洞。

可信的競爭對手回應應清楚說明邊界,包括客戶內容會在哪裡持續保存、哪些管理系統可存取內容,以及開發環境如何分隔。

含糊地聲稱安全性更佳,能提供的證據較少。買家需要有基礎比較實際工作流程,而非互相競逐的保證。

這亦帶來知識管理方面的後果。如果組織不知道員工將哪些工作交由助理處理,便無法準確評估保留情況。

圍繞原始檔案制定的政策,可能忽略生成摘要;圍繞聊天記錄制定的政策,可能忽略另一份獨立的分析副本。

因此,採購決定不僅是選擇模型供應商,還包括決定哪些資訊可進入哪些工作流程、適用哪些保留條款,以及採用哪些審查機制。

這是一個要求甚高但具體的標準。它以供應商可回答、客戶可核實的問題,取代對是否信任 AI 的抽象爭論。

關於存取、動機與遏止措施,仍有哪些不確定因素

現有證據支持這是一宗嚴重事件,但對外界可作出的結論仍設有重要限制。

Fireworks 表示,調查人員發現跡象顯示,有一個與 LLMJacking 有關、以財務利益為動機的組織參與其中。LLMJacking 是指竊取語言模型服務的存取權,並從未經授權的使用中牟利。

Google Threat Intelligence Group 及 Mandiant 在其LLMJacking 威脅分析中描述了這種商業模式。其研究概述了被盜憑證如何流入彙集並轉售模型存取權的非法服務。

該研究說明了為何 AI 憑證會成為具吸引力的目標,但不能獨立證明 Fireworks 事件中採取的每一項行動。

動機與影響應分開看待。尋求服務存取權的攻擊者可能接觸到機密記錄;以財務為動機的行動,亦可能造成超出未經授權使用範圍的後果。

同樣地,取得模型成品並不能證明攻擊者成功重建可運作的模型。這一結論需要關於取得內容及其使用方式的技術證據。

公開記錄亦不足以證明所有客戶均受影響。類別層面的暴露與帳戶層面的暴露,是不同的發現。

對客戶而言,困難的問題往往是調查是否具備足夠可見性,以支持其排除結論。關於未發現證據的聲明,取決於所檢查的系統及可取得的記錄。

這並不代表初步發現毫無意義,而是其措辭與日期都是含義的一部分。

供應商在調查另一個環境時,可以就某項服務作出合法而有範圍限定的聲明。讀者在比較披露內容時,應保留這些邊界。

同樣的審慎態度亦適用於 Fireworks 與 Notion 通知之間的關係。兩者的描述涉及處理鏈的不同部分。完整說明必須調和這些部分,而不應假設它們描述的是相同系統。

其中一項未解決問題,是受影響記錄如何準確對應至服務及工作流程;另一項則是日後調查會否改變任何範圍結論。

這些問題應由證據解答,而非憑對未具名供應商或假定技術缺陷的猜測。

客戶亦需要區分遏止與補救。遏止是制止已知的未經授權活動;補救則處理導致事件發生的條件,以及已經產生的後果。

供應商可以完成憑證更換,而客戶仍在審查已暴露的資訊。基礎設施回應與商業回應可以按不同時間表進行。

對企業買家而言,最有用的懷疑立場應具體明確:詢問哪些證據支持已述邊界、哪些事項仍在審查,以及什麼情況會觸發另一次通知。

籠統的不信任只會帶來較少可採取行動的答案;籠統的安撫亦然。

因此,要以負責任的方式解釋 Fireworks AI 外洩事件,便需要採取以證據為本的中間立場。擴大的披露值得關注,但其餘缺口亦應保持可見。

調查應決定最終範圍。新聞標題、市場比較及對攻擊者意圖的假設,均不能取代這項工作。

三個訊號將決定下一步發展

下一輪具意義的發展,將是更清晰的範圍結論、下游處置的證據,以及可核實的工作流程控制改變。

第一個訊號,是對受影響系統及資料類別作出更完整交代。客戶需要了解入侵路徑如何與已識別的記錄相連。

清晰的交代將提升對調查期間所述邊界的信心;若範圍擴大,受影響組織便須重新檢視早前的評估。

最有價值的更新,會說明改變了什麼以及原因。只重複遏止聲明,對仍在分類自身暴露情況的客戶幫助較少。

第二個訊號是下游處置。應用程式供應商及受影響組織需要確定,已暴露的資料是否導致進一步存取或披露後果。

撤銷憑證處理了問題的一部分;審查敏感商業文字則處理另一部分。兩項工作均不會自動解決另一項。

證據顯示受影響記錄已獲審查、必要行動已完成,將縮小餘下的不確定性;新發現的憑證或額外受影響工作區,則會擴大不確定性。

這個訊號之所以重要,是因為事件影響到未有直接管理 Fireworks 帳戶的人。他們的回應取決於應用程式供應商能否將上游發現轉化為可用資訊。

第三個訊號,是營運改變是否足夠具體而可供評估。買家應留意開發系統、客戶資料集及管理存取權之間是否有書面記錄的分隔措施。

他們亦應留意次要工作流程是否有更清晰的保留說明。列明例外情況及處理階段的政策,比一個籠統口號更容易評估。

這些改變將加強以下論點:回應措施正處理事件背後的邊界問題。籠統保證則會讓問題懸而未決。

競爭對手將面對相關考驗。若他們利用此事件吸引客戶,其自身說明亦應經得起同樣審視。

有用的比較會說明客戶資訊的實際處理方式。若銷售聲稱避談開發副本、分析資料集或管理存取權,核心問題便仍未獲解答。

對開發者而言,長遠含義在於憑證及已儲存成品的可觸及範圍;對買家而言,則在於供應商鏈的可見性。

對知識工作者而言,則在於看似暫時的對話文字所具有的敏感性。一次與助理的交流,仍可能包含需要審慎保護的資訊。

Fireworks AI 外洩事件令這些憂慮變得具體,但未能證明每個 AI 工作流程都帶有相同暴露風險。下一步發現應決定邊界實際上在哪裡得以維持。

先查閱適用於你的帳戶或工作區的通知,然後審查供應商標示為受影響的記錄。將可重用憑證與機密商業資訊分開處理,因為兩者需要不同回應。詢問是哪個工作流程產生了已暴露的副本,以及哪項保留承諾適用於該副本。若你的組織正在比較供應商,應向每個候選供應商索取相同說明。為初步發現標明日期,並在調查出現變化時重新檢視評估。最有用的問題應具體明確:你的 AI 供應商能否說明你的資訊流向何處、持續保存於何處,以及當該邊界失效時你會如何得悉?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page