top of page

llm 0.37.2 修復兩條將 OpenAI 金鑰傳送至其他供應商的路徑

23 分鐘前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Godfrey Atima / Pexels.

Simon Willison 的 llm 0.37.2 修復了兩項可能將 OpenAI API 金鑰傳送給其他供應商的安全漏洞。11 月 11 日發布的版本,處理了 Daniel de Araujo 回報的特定自訂端點設定問題。當中的核心很直接:選用另一個模型供應商,不應在未察覺下轉移屬於 OpenAI 的憑證。

LLM 是一個用於存取語言模型的命令列應用程式,支援接受 OpenAI 風格請求的服務。這種相容性讓開發人員可在保留熟悉工作流程的同時更換供應商。但請求相容性與獲准接收憑證是兩項不同決定。這些漏洞令前者削弱了後者。

當前最需要關注的是使用自訂端點的開發人員和團隊,即接收其模型請求的伺服器地址。他們的問題比 LLM 整體是否安全更具體:受影響的設定是否曾傳送非預期的金鑰?要作出判斷,必須將已修補的軟件行為與任何過往暴露情況分開看待。

llm 0.37.2 實際改動了甚麼

此版本修復特定自訂端點路徑中的憑證選取問題,而非宣稱所有使用者均受到入侵。

Willison 的安全性發布公告指出,兩項問題均由 de Araujo 發現。其中一項涉及缺少供應商專屬金鑰;另一項則出現在為某一請求介面設定的模型切換至另一介面時。兩者都可能令 OpenAI 憑證被導向原本為其他用途選定的伺服器。

設定情境十分重要。LLM 使用 extra-openai-models.yaml(用於描述額外模型的設定檔)連接 OpenAI 相容服務。這些服務接受外觀近似 OpenAI 介面的請求,但相容不代表它們就是 OpenAI,也不代表它們獲授權接收 OpenAI 帳戶憑證。

Willison 亦提及 llm openai endpoint add,這是版本 0.37 引入、用於管理這些端點的較新方式。這項便利功能說明了目前的產品脈絡,但並不能確定任何一項漏洞何時開始存在;讀者不應將最新的端點指令視為所有受影響路徑的起點。

發布紀錄列出已修補的版本。連結的安全公告則為評估暴露情況提供更有用的界線。版本號可回答哪次更新包含修復;設定細節則可回答某個工作流程是否曾觸及有漏洞的行為。

這個區分可避免兩種誤導性的解讀。第一種將較舊安裝版本的每次請求都視為憑證洩漏;第二種則假定模型看似正常地回應,就代表驗證處理正確。公告並不支持上述任何一項結論。憑證路由需要獨立證據,與生成文字的質素或成功與否無關。

修補亦改變了對設定錯誤的理解。缺少供應商金鑰時,應出現可見的驗證問題,而非暗中動用另一項服務已有的可用憑證。重要改進在於保留目的地與獲准隨行金鑰之間原有的關係。

對評估此版本的開發人員而言,這比一般相容性調整更具影響。受影響的行為跨越了憑證界線,使用者無須刻意分享該憑證即可發生。因此,即使原本的模型工作看似無害,例如透過測試端點生成簡短回應,這項修復仍值得重視。

兩條憑證路徑以不同方式失效

安全公告描述的是不同的失效條件,因此應分別看待其受影響版本與驗證行為。

缺少金鑰的安全公告涵蓋 0.6 至 0.37.2 之前的版本。自訂模型會指定 api_base(即目的地地址)及 api_key_name(即憑證別名)。當指定憑證不存在時,解析程序可能回退至 OPENAI_API_KEY,亦即儲存金鑰的環境變數。

這項失效讓不完整的設定演變成非預期的憑證轉移。公告亦指出,0.6 至 0.7.1 版本存在更廣泛的優先順序行為,並已於 0.8 修正。目前的修補處理餘下的缺少金鑰情況。設定檔中看似正確的別名,並不代表對應的密鑰確實存在。

請求委派安全公告涵蓋 0.32a2 至 0.37.2 之前的版本。它涉及設有 responses: true 的自訂 api_base 模型,該設定會選用 Responses 請求介面。以 -o chat_completions 1 執行時,會切換至另一個請求介面 Chat Completions,並可能恢復使用 OpenAI 的預設憑證。

在公告記錄的該路徑中,憑證可來自環境變數或 LLM 已儲存的 OpenAI 金鑰。已設定並儲存的供應商專屬金鑰,則可避免當中所描述的委派洩漏。兩項公告均將問題列為中等嚴重性,並指明 0.37.2 已修補;這些評級並不能說明有多少安裝環境曾遇上任一情況。

技術上的差異很有用,因為兩類錯誤挑戰的是不同假設。缺少金鑰的情況在問:當設定指定了一項無法找到的密鑰時,會發生甚麼事?委派情況則在問:當執行流程進入另一個內部元件時,驗證規則能否維持不變?其中一條問題的正確答案,不能解決另一條問題。

設想一名開發人員將工作流程移至另一部電腦。模型設定一併帶到新環境,但供應商憑證沒有;環境中仍有可正常使用的 OpenAI 憑證。合理的安全預期是,缺少供應商密鑰應阻止或限制請求,而非改變離開該電腦的帳戶憑證。

再設想另一個為配合伺服器而切換請求介面的工作流程。目的地維持不變,而使用者預期憑證政策亦會保持穩定。內部切換不應悄然將缺少金鑰重新詮釋為可使用另一供應商憑證的授權。

這些例子說明,成功回應並非良好的安全測試。生成輸出主要只告訴使用者某項請求已完成,並不會揭示過程中每一項驗證決定。因此,即使無害的提示詞沒有產生明顯可疑的答案,也可能伴隨憑證路由問題。

供應商彈性帶來另一項安全責任

OpenAI 相容性描述請求如何運作,並不界定伺服器應接收哪些憑證。

更廣泛的衝突,在於方便切換供應商與明確憑證界線之間的矛盾。當應用程式可透過熟悉的請求格式對接多項模型服務時,開發人員可從中受惠;但當便利功能把繼承的預設值帶到不同目的地時,安全負擔便會出現。當可用性取代授權時,一項可取得的密鑰便可能構成風險。

LLM 的自訂模型設定說明了產品如何支援額外模型端點。這種彈性正是今次事件背後的實用功能。若透過縮減產品功能來消除供應商選擇,的確可以避開特定路由問題,但同時亦會放棄使用者選擇此工具所需的工作流程。

Ollama 是一個相關對照例子,因為其OpenAI 相容性文件同樣說明如何將 OpenAI 用戶端連接至另一模型服務。其本機範例提供本機伺服器會忽略的佔位金鑰;直接使用雲端的範例則會選取 Ollama 憑證。相近的請求語法,因此可伴隨不同的驗證預期。

這個對照並不代表 Ollama 存在同等漏洞,而是說明供應商相容性需要獨立作出憑證決定。用戶端可重用請求格式,同時明確選取目的地及其預定密鑰。安全問題在於這些選擇之間的關係,而非哪一項產品提供最多模型。

對開發人員來說,改變伺服器地址往往感覺像傳輸層調整;但對憑證而言,這改變了接收者。這兩種觀點必須在應用程式的行為中交會,否則一項便利設定便可能改變信任關係,表面上卻只是普通的模型選取偏好。

這亦解釋了為何預定接收者的重要性獨立於提示詞。使用者可能願意將一段公開文字傳送至實驗性服務,但這不代表其准許將帳戶憑證傳送至該處。即使內容和憑證會隨同一項請求傳送,內容敏感度與憑證敏感度仍須分開評估。

當目的地屬於使用者的組織時,同樣的推理亦適用。內部擁有權可令某個伺服器成為接收模型流量的合適位置,但不代表每項可用密鑰都適合傳送到那裏。不同團隊、保留做法及營運責任,仍會形成值得保留的界線。

對企業買家而言,有用的評估問題會變得具體:更換供應商時,是否仍可明確控制驗證?展示可交換模型名稱並產生良好答案,無法解答這個問題。買家需要有關特定目的地憑證行為的證據,包括預期設定不完整時會發生甚麼事。

因此,這項架構上的教訓比不信任相容層更狹窄且更可行。供應商彈性仍然有用,但需要隨預定目的地而行、並可在請求處理改變後維持的驗證規則。當缺少決定時仍保持缺少,而非套用寬鬆預設值,便利功能便會更安全。

開發人員必須將更新與暴露檢視分開

安裝修復可處理未來行為;要了解較早前的請求,則須另行檢視受影響的工作流程。

對評估 llm 0.37.2 的使用者而言,首要區分是軟件狀態與過往事件。已修補的安裝環境可避免重現已披露的漏洞,但這並不能證明舊版安裝曾傳送甚麼。反過來說,單憑使用較舊版本,也不能證明有漏洞的設定曾經執行。

合乎比例的檢視,應由相關模型設定及執行環境開始。有用的證據會連繫軟件版本、目的地、憑證來源及所用選項。若沒有這種連繫,團隊便可能將具體披露事項,替換為每台開發人員電腦都經歷同一事件的籠統假設。

當同一工作流程存在於多個位置時,工作便會涉及組織層面。手提電腦、自動化工作及共享開發環境,即使使用類似設定檔,也可能持有不同密鑰。將它們視為可互換,會模糊正在檢視的確切條件。部署環境與模型的顯示名稱同樣重要。

憑證輪換處理的是另一個問題:在懷疑外洩後,現有密鑰是否仍應維持可用。這不能取代修正路由行為。若把替換後的憑證放入未改變的脆弱環境,可能會重現根本問題。補救決策應把軟件修復與先前傳送情況的證據連繫起來。

如審查確認出現非預期披露,使受影響的憑證失效可限制其持續效用。這項行動應與遭濫用的說法分開處理。團隊可以回應已披露的密鑰,而毋須聲稱有其他方曾利用它。清晰的措辭既支持果斷行動,也能保留準確的事件紀錄。

團隊亦應避免把調查變成另一條披露渠道。他們通常需要的證據,是請求選取了哪一個憑證來源,以及它被送往何處。把完整密鑰複製到工單或共享筆記中,會帶來額外的處理責任,卻未必能釐清原來的事件。

一份有用的事件紀錄會說明發現、受影響環境、補救措施及尚未解決的問題。將這些細節保存在可搜尋的工程知識庫中,可幫助同事理解工作流程為何改變。紀錄應保留推理過程及配置背景,而非憑證值。

對內部工具的維護者而言,這次發佈亦提供了超越此套件的審查目標。任何結合可配置目的地與預設憑證的應用程式,都值得在這個邊界接受審視。這是根據已披露失效模式作出的工程推論,並非證明其他應用程式同樣存在這些漏洞。

眼前的優先事項仍然明確:識別受影響的 LLM 工作流程、將其遷移至已修補版本,並評估可信的外洩情況。擴大調查應以證據為依據。一個範圍清晰的安全問題足以支持審慎行動,毋須演變成聲稱每個相容的模型客戶端都必須緊急重建。

披露證實存在錯誤,並不代表大規模利用

可重現的憑證路由缺陷證實了真實的安全失誤,但不會衡量現實世界濫用的規模。

這些披露支持人們關注在已識別條件下出現非預期傳送的風險。它們並未提供受影響用戶的全體統計數字,亦未證實存在協調一致的利用活動。這是不同類型的發現。技術重現可以證明失效存在,卻無法揭示該失效在測試以外實際發生的頻率。

因此,應抱持質疑的問題是範圍。哪些安裝環境持有相關憑證、使用受影響配置,並執行了觸發路徑?公開披露無法為每位用戶回答這個問題。個別環境能提供一般發佈公告無法提供的證據,包括目的地是外部、內部還是本機。

當憑證到達非預期收件者後,仍可能出現多種結果。單純收到憑證,與保留、其後存取或濫用並不相同。每一項進一步的說法都需要支持證據。把這些階段混為一談的報道,會令事件聽來更確定,卻令其實際影響更難評估。

相反的錯誤亦值得注意。沒有公開記錄的濫用事件,並不代表沒有發生非預期傳送。在有人證明出現金錢損失或帳戶活動之前,憑證路由缺陷已可能構成問題。合適的回應取決於已披露的行為及用戶的環境,而不是等待一宗戲劇性的公開事件。

「Moderate」分類同樣需要置於脈絡中理解。嚴重性標籤概括了安全公告的評估;它不會替每個機構決定回應方式。受嚴格控制的測試環境中的範圍有限憑證,與日常自動化中獲廣泛授權的密鑰,後果並不相同。軟件缺陷可以相同,但營運風險程度可以不同。

受影響版本範圍的時間長度也需要審慎處理。它標示了包含該行為的軟件版本,而不是證明整段期間持續受到暴露。安裝了受影響版本、但從未使用相關端點路徑的用戶,其事實情況與反覆使用該路徑的用戶不同。

亦沒有理由預設接收密鑰的供應商存有惡意。非預期收件者可以合法營運,卻仍收到本不應收到的資訊。缺陷涉及客戶端對憑證作出的決定。關於收件者行為的指控需要獨立證據。

披露內容也沒有證實 OpenAI 自身服務遭到入侵。所描述的問題位於客戶端工作流程,該流程將憑證導向自訂目的地。保留這項區分有助讀者識別負責任的軟件邊界,避免把應用程式整合缺陷與供應商基礎設施事件混淆。

對讀者而言,最有力的解讀仍應有清楚界限:缺陷確實存在,受影響路徑具體明確,而修補程式很重要。尚未解決的問題,是特定環境中的歷史外洩情況。這種框架支持採取行動,卻不會把已有記錄的實作失誤誇大成缺乏依據的大規模入侵敘述。

安全修補程式之後應做甚麼

下一批有用的證據,涉及採用情況、憑證邊界測試,以及實際外洩審查的結果。

第一個訊號,是受影響的工作流程是否遷移至已修補的軟件。在未來數月,有意義的採用證據包括已更新的自動化環境及已維護的安裝說明。一名開發者更新個人安裝是有用的進展,但這不代表使用同一工具的每個排程工作也已改變。

有證據顯示受影響環境仍在使用舊版本,將削弱這次發佈所帶來的實際安心感。有證據顯示已識別工作流程均已完成更新,則會加強這份信心。相關的衡量標準,是在觸發條件存在之處完成補救,而不是脫離配置情況的一般下載數字。

第二個訊號,是未來測試如何處理驗證邊界。回歸測試即為捕捉早前錯誤再次出現而設的檢查,除了完成輸出外,亦應審視憑證選取。工程問題在於:當配置不完整或請求處理方式改變時,目的地專屬規則是否仍然穩定。

更有力的證據會顯示,這些邊界能在支援的執行路徑中維持。只檢查提示是否收到回答的測試,所提供的安心感較少。相容性可以維持不變,但驗證機制可能在底層改變;正因如此,安全專屬的預期應在維護工作中佔有明確位置。

第三個訊號,是任何有實質證據支持的歷史外洩記錄。有用的發現應區分非預期傳送與保留或濫用,並描述受影響的條件。這類報告會更清楚界定實際後果。若沒有這類報告,這些後果仍屬不確定,而非證明每項受影響請求均無害。

這些訊號亦應影響團隊的內部溝通方式。狀態更新可以說明受影響安裝已完成修補,同時保留歷史審查仍在進行的事實。它可以報告已確認的憑證傳送,而不聲稱遭到利用。把這些發現分開,可讓後續證據更容易納入,並防止早期假設固化為事件敘事。

對建立供應商切換功能的開發者而言,這次發佈提出了一個持久的設計問題:當預定密鑰不可用時,會發生甚麼?最安全的答案應在行為、文件及測試中清楚可見。靜默替代很難讓用戶察覺,因為他們的主要工作仍可能看來一切如常。

評估 AI 工作流程的買家,即使不檢視實作細節,也可以提出同一問題。哪些憑證屬於哪些目的地?當請求採取另一條受支援路徑時,會有甚麼改變?應用程式如何傳達驗證配置不完整的情況?具體答案比泛泛的相容性承諾更有價值。

應把 llm 0.37.2 視為檢視供應商選取與憑證選取之間邊界的理由。若你的工作流程使用自訂端點,請將其配置及執行選項與安全公告比較。確認運行的是哪個版本,以及有哪些憑證來源可用。將受影響環境遷移至已修補軟件,然後把歷史外洩審查與完成更新分開處理。在證據確認出現非預期披露之處,應同時處理憑證及應用程式。把發現保存在同事毋須重現密鑰亦能理解的文件中。有用的結果,是清楚交代哪些事情改變了、發生過甚麼,以及仍有哪些未知之處。你的團隊能否解釋,為何每個模型目的地只會收到其預定憑證?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page