top of page

ChatGPT 桌面版 GovCloud 部署將 AWS 控制置於核心

2 小時前
讀畢需時 12 分鐘

AWS 已發布 ChatGPT 桌面版 GovCloud 部署指南,透過政府雲端基礎設施路由模型請求,同時限制周邊的桌面工作流程。10 月 30 日的公告介紹在 AWS GovCloud US-West 中,採用 AWS 託管模型服務 Amazon Bedrock 的受控本機設定。此改變為機構提供可供評估的部署途徑,同時將工作負載審批權留給其安全團隊。

核心取捨在於控制權所在的位置。熟悉的桌面介面並不代表適用熟悉的帳戶管理方式。AWS 所描述的設定受工作站政策及 AWS 身份權限管理,而非 ChatGPT 工作區角色。對於在既有安全邊界下評估程式編碼協助的組織而言,這項分別十分重要。

相關比較在於已連接的助理與刻意受限的本機部署。OpenAI 的託管服務及由 Bedrock 支援的推論,代表不同的運作安排。對買方而言,問題是這項受限安排是否能支援實用工作、產生足夠證據,以及在試行結束後是否仍易於管理。

ChatGPT 桌面版 GovCloud 部署帶來的改變

AWS 已記錄一條部署途徑,讓安全團隊可在向更廣泛群組延伸存取權前先作檢查。

這份 GovCloud 部署指南由 AWS 作者 Virgil Ennes 及 Sean Phuphanich 撰寫。內容描述本機桌面使用方式,當中的推論即產生模型回應的處理程序,會導向 us-gov-west-1 的 Bedrock Mantle。

AWS 將 Work 及 Codex 視為桌面體驗的組成部分。Work 處理較廣泛的任務,Codex 則處理軟件開發。技術指南聚焦於設定 Codex 及驗證其請求路徑。

其驗證安排採用 API 模式登入、由管理員管理的裝置政策、具名 AWS 設定檔,以及網絡限制。AWS 設定檔是選取驗證設定的具名配置。指南中的示例使用 codex-il5。

該文章確立了一項可供檢視的具體設定,但並不代表某個機構已批准特定模型、儲存庫、裝置或任務。AWS 明確將該項授權決定交由客戶組織作出。

這項分別改變了該公告應如何進入採購討論。產品可用性回答的是,組織是否有可供研究的方案。授權回答的是,組織是否在既定條件下接受某項具體用途。將兩項決定混為一談,會掩蓋從安裝到營運採用之間所需的工作。

對安全團隊而言,有用的起點是描述建議的工作流程。辨識提交任務的人員、本機可用的檔案,以及接收模型請求的目的地。然後辨識助理收到回應後可作出的變更。這些問題可在任何人討論更廣泛採用前,形成可供審查的建議。

設想某個機構維護團隊正在檢視內部應用程式。其首次試行可要求助理解釋一個示例模組並提出修補建議。團隊會在允許變更前審閱該建議。這個例子說明一項有界限的評估;AWS 的公告並未報告任何機構已取得這些結果的部署。

這項分別亦有助傳訊團隊準確描述此次發布。「透過 Bedrock 的桌面存取」表達的是部署選項。若聲稱每項 ChatGPT 功能現已在 GovCloud 內運作,則需要各項功能及其相依項目的獨立證據。

因此,該公告的實際意義相當具體。它為技術審查人員提供共同起點,以檢視本機客戶端、AWS 推論目的地及可強制執行的限制。這個組合是否符合某個特定組織的要求,仍是需要證據支持的獨立決定。

安全團隊承接營運決策

將推論移至獲批准的 AWS 環境,會改變審查流程,但不會免除桌面端責任。

直接壓力落在負責端點、身份及軟件交付的人員身上。一項有效試行需要他們的決定相互一致。桌面管理員可以限制應用程式,同時身份管理員卻授予過多存取權;範圍狹窄的身份亦可與過度寬鬆的工作站並存。

任何一方團隊都無法單獨解決整個部署。因此,審批建議應列明客戶端設定、AWS 權限、網絡政策及事故應變的負責人。即使原有的試行工程師不再可用,這些職責仍應保持清晰。

最重要的早期問題,是組織希望助理完成甚麼工作。審閱本機函式所需的權限,與安裝相依套件或發布版本所需的權限並不相同。將這些活動一概視為「程式編碼」的同一類別,會令審查不夠精確。

試行亦應區分讀取資訊的權限與據此採取行動的權限。助理可能需要原始碼檔案來解釋錯誤,但這並不自動證明其有理由更改建置指令碼、編輯驗證設定或推送分支。有用的存取權可以比開發人員的完整權限更為狹窄。

憑證值得特別關注,因為它們把工作站行為與雲端權限連繫起來。審查人員應確認任務實際使用哪個身份、該身份如何更新憑證,以及由誰撤銷存取權。獲批准的設定檔名稱只是其中一部分證據。

設定審查應檢視誰可修改用於選取或取得憑證的檔案。若自動化任務可重寫負責選取其身份的機制,政策的說服力便會降低。保護該機制應成為建議營運安排的一部分。

營運負擔亦包括故障排除。團隊需要方法分辨憑證過期、缺少模型存取權、目的地被封鎖或客戶端行為不受支援。否則,日常故障可能引發廣泛例外,削弱原有設計。

對企業買方而言,這比單純比較介面功能提供更有用的評估。候選部署應展示管理員如何識別其有效設定、調查故障,以及還原先前獲批准的配置。這些能力會影響試行能否成為可維護的服務。

文件應記錄決策,而不只是螢幕截圖。設定圖片可支援審查,但無法解釋某項權限為何存在,或在其失效時會如何處理。應記錄預期行為、觀察結果,以及負責處理差異的人員。

這正是 ChatGPT Bedrock 設定成為組織工作之處。技術設定可以簡潔,但營運協議仍可能並不完整。成功的審查應產生一項具明確邊界的服務,讓另一位管理員亦能理解及維護。

短期後果是在推出前需要更多協調。長遠好處則是,若試行成功,當使用者、模型及客戶端版本改變時,部署的職責仍然明確。

本機實用性與更廣泛連接能力競爭

部署的價值取決於實用工作能否在令其資料流更易審查的限制下得以完成。

OpenAI 的 GovCloud 設定指南區分由管理員強制執行的要求與可設定的預設值,亦區分應用程式流量與代理指令產生的網絡流量。

示例使用 requirements.toml 管理限制,以及使用 config.toml 管理供應商設定。其限制性基準會停用瀏覽器控制、電腦控制、應用程式、外掛程式及其他可選功能。OpenAI 表示,應用程式網絡設定不能取代裝置防火牆。

這些分別十分重要,因為模型存取權及任務連接能力有不同用途。模型可以回傳建議的程式碼變更,而無須授予相關指令連接外部服務的權限。審查人員應獨立評估這些路徑。

有用的評估應從可在建議邊界內完成的工作開始。解釋既有程式碼、識別不一致的錯誤處理方式,以及針對預先準備的測試資料擬定變更,都是合理的測試例子。其實用性應透過觀察結果衡量,而非從模型可用性推定。

接下來,審查人員應辨識一般工作在哪些地方遇上缺少的相依項目。測試可能需要下載套件;建置可能預期內部服務;建議的工作流程可能依賴本機無法取得的文件。每種情況都揭示一項值得獨立決定的具體要求。

錯誤的回應,是把每項受阻行動都視為部署需要不受限制連接能力的證明。部分任務可使用獲批准的本機材料;另一些則需要範圍狹窄而獲批准的目的地;亦有部分工作應留在試行範圍外,因為其相依項目會削弱試行目的。

這形成了與廣泛連接助理的實際比較。更廣泛的連接能力可在較少準備下支援研究及整合;受限制的連接能力則提供較少可供探索的外部路徑。買方應根據實際工作比較這些安排,而非將任何一方視為普遍較佳。

OpenAI 的 Bedrock API 相容性文件亦區分 Bedrock 功能與其託管 API。文件指出支援工具及傳輸功能的差異,同時將區域可用性及部署營運交由 AWS 負責。

這項比較可避免一項重要採購錯誤。相近的模型名稱或熟悉的介面元素,並不代表工作流程相等。客戶端、端點、已啟用工具及獲准目的地,都會影響使用者可完成甚麼工作。

就 ChatGPT 桌面版 GovCloud 部署而言,一項具參考價值的試行應記錄任務在無例外情況下何處成功,也應記錄限制在何處改變結果。這些觀察可顯示部署是否符合組織的預期工作。

輸出品質亦應納入同一評估。即使建議的修補程式留在網絡邊界內,仍可能誤解應用程式。審查人員應評估其正確性、可維護性及對本機要求的遵循程度。安全證據不能取代工程審查。

反過來亦然。出色的修補程式不代表其請求遵循了預定路徑。組織需要分別取得實用輸出及可接受處理方式的證據。

由此產生的取捨,在準確說明後是可管理的。部署應透過已證實的需要來取得額外能力,而非僅因不受限制的產品在其他地方提供該能力,便累積連接性。

區域推論並不能解決保留問題

位置、對話儲存及濫用監察需要分別作答,團隊才可將其部署描述為零資料保留。

資料駐留關注處理或儲存發生的位置。資料保留則關注資訊會否持續存在,以及在甚麼條件下持續存在。區域端點有助回答位置問題,卻不能解決所有儲存問題。

AWS 的 Responses API storage 文件說明了已儲存的對話狀態,讓後續請求可參照較早前的回應。文件指出 store=true 為預設值,並說明已儲存回應的保留期為 30 天。

此設定值得留意,但並非審查的全部。團隊應把對話延續性與服務可能保留內容的其他原因分開處理。否則,停用一種儲存機制,可能造成證據未能支持的更廣泛聲稱。

AWS 的 data retention controls 說明,有效政策由專案設定、區域帳戶設定及模型預設值共同決定。可用的保留模式及資格,可能取決於所選模型及帳戶。

直接含意是,審查者應檢查預定部署的有效政策。對 Bedrock 的概括陳述,不能確立每個帳戶、專案及模型組合的行為。審查應保留政策證據,並與模型及端點選擇一併記錄。

AWS 的 abuse detection policy 進一步提出另一項區別。當中指出,對於涵蓋的 OpenAI 模型,經分類器標記的流量可保留最多 30 天。合資格客戶可透過其 AWS 帳戶團隊申請完整的零資料保留。

這些文件限制了對「支援零資料保留」的廣泛理解。支援某種模式,並不代表特定部署正在使用該模式。恰當的聲稱取決於有效設定、模型條件及適用例外情況。

因此,安全審查應使用準確措辭。若團隊已驗證區域推論,但尚未完成資料保留審查,其記錄應如實說明。若資料保留安排需要額外批准,部署建議應列明尚未解決的相依項目。

同樣的紀律亦適用於本機資訊。雲端資料保留設定不能回答哪些資料仍留在工作站、儲存庫或組織記錄中。團隊應分別審查這些位置,而不應從推論服務推斷其行為。

以假設的原始碼試點為例,這意味著要追蹤提交的樣本經過整個已批准的工作流程。識別本機輸入、請求目的地、適用的服務政策及產生的檔案。每個元素都應納入處理說明。

此分析並未證實某個特定機構帳戶存在不合適的資料保留安排。它說明了為何僅憑公告不足以解決這個問題。買方在作出更強的聲稱前,需要帳戶專屬的證據。

因此,GovCloud 推論控制應與資料保留控制一併納入審查,並設有獨立負責人及驗收準則。將兩者合併於籠統的「安全 AI」標籤下,會令未解決的問題更難察覺。

商業上的後果很直接。部署可符合位置要求,同時仍需處理儲存條件。買方應在試點開始處理受該等要求規管的資訊前,釐清這項區別。

可信的試點會測試被拒絕的操作

成功的回應證實基本功能;受控部署亦需要證據顯示,被禁止的行為仍然受到阻擋。

第一項有用的測試,是確認已批准的工作流程能否以樣本資料運作。下一項則是確認在相依服務失效時,同一工作流程的行為是否仍可接受。兩項結果都應納入驗收記錄。

憑證失效是尤其具參考價值的情況。審查者應按已批准的程序測試過期或無效的憑證。理想觀察結果是出現清晰的失敗,同時保留原定的邊界。若在未能解釋的驗證變更後出現回應,便須調查。

路由失效亦應獲得同樣處理。若已批准的推論目的地變得不可用,團隊應觀察客戶端接著嘗試甚麼操作。在該行為符合組織要求前,部署不應獲得更廣泛批准。

測試亦應檢查使用者能否透過一般設定覆寫受管理的限制。審查需要來自正在運行的應用程式的證據,而非僅憑設定檔便抱有信心。預定限制與有效限制是不同的聲稱。

試點可使用無害的測試素材來測試檔案邊界。將樣本材料放在工作流程獲准存取的位置,並把範圍以外的材料分開。要求審查者觀察行為,毋須引入敏感的生產資訊。這會令失敗情況更容易調查。

網絡測試應區分客戶端的模型請求,與任務期間啟動的指令。允許一個推論目的地,並不代表默許每個由任務產生的連線。驗收記錄應說明每項觀察涵蓋哪一類活動。

工作流程亦應包括一般工程審查。模型可能提出通過狹窄測試的變更,卻造成維護問題。應詢問修補是否遵循專案慣例、保留預期行為,以及是否為另一位開發人員留下清晰說明。

這些檢查應產生可重用的證據,而非不斷增加的截圖集合。記錄已批准的設定、測試輸入、預期結果、觀察結果及未解決問題。另一位審查者應能理解試點確立了甚麼。

回復原狀需要獨立的驗收演練。在擴大使用前,應識別管理員如何還原較早前的設定,以及移除臨時存取權。只存在於原工程師記憶中的回復程序,在事故期間難以令人信任。

試點亦應保留有用的負面結果。若任務無法在已批准的限制下完成,便可識別所提議服務的邊界。這些資訊有助買方決定應縮窄使用情境,還是審查額外能力。

隨附於此處所審閱證據的,並沒有經驗證的客戶採用數字或獨立效能結果。公告支持評估一條部署路徑,但並未證實某個機構能完成多少工作,或能節省多少審查工作。

對於 ChatGPT desktop GovCloud 部署而言,這種不確定性最適合透過具代表性的任務及可重現的觀察來解決。廣泛的生產力承諾對決策幫助不大;關於允許的工作、被拒絕的操作及復原的清晰證據,則更有價值。

擴大採用前應留意甚麼

下一批有用訊號關乎相容性、可強制執行的政策,以及在已批准邊界內可重複進行的工作。

首先,留意已安裝客戶端、所選模型及 GovCloud 端點之間是否具備文件化的相容性。部署記錄應識別實際測試的組合。其後的產品版本發布,應觸發針對該組合相關變更的重點審查。

清晰的相容性文件,會加強團隊可維持該部署的信心。文件化設定與已安裝行為之間無法解釋的差異,則會削弱信心。買方應將版本專屬證據視為營運的一部分,而非只在初始設定時收集。

其次,留意是否有可重現的證據顯示,受管理的限制在日常變更後仍然有效。重新啟動應用程式、更新憑證或套用已批准的更新後,不應令政策變得不確定。這些事件提供了實際機會,以重複進行重要檢查。

一致的結果可支持更廣泛採用,因為它們顯示該安排能在日常管理下維持。反覆進行人手修復,則意味著部署需要更多營運工作。相關訊號是在組織自身條件下可預測的行為。

第三,留意具代表性的任務能否在不擴大原有目的以外權限的情況下,仍然保持實用。一個能以有限例外完成已批准工作的試點,比起依賴廣泛存取權的出色示範,理據更強。

此訊號亦應包括審查負擔。追蹤人員在哪些地方必須修正輸出、準備缺少的背景資料,或調查被阻擋的相依項目。這些觀察有助判斷助理是改善工作流程,還是把工作轉移給另一個團隊。

這些是評估訊號,而非已公布的未來版本或承諾的里程碑。所審閱的來源並未確立更廣泛能力、獨立安全發現或機構採用的時間表。買方應避免把可用設定轉化為必然部署的預測。

更廣泛的啟示關乎組織如何評估 AI 協助。模型存取只是其中一項輸入。營運安排決定哪些資訊進入工作流程、哪些操作仍然可行,以及誰可在事後解釋結果。

記錄這項安排的團隊,可參考既有的 knowledge management 實務。清晰的決策記錄有助未來審查者了解某項限制為何存在,以及有哪些證據支持它。任何用於保存這些記錄的工具,都需要其自身的處理審查。

先從狹窄的任務、已批准的樣本資訊,以及預定請求路徑的書面說明開始。在擴大試點前,要求安全團隊界定可接受的身分識別、連接性、資料保留及復原行為。然後將這些要求與觀察結果比較。失敗應與成功示範一樣仔細保留,因為它們揭示了所提議邊界需要改善之處。當客戶端、模型、憑證或已啟用能力改變時,應重新檢視記錄。當每項聲稱都有支持證據、每個未解決問題都有負責人時,ChatGPT desktop GovCloud 部署便更容易評估。你的團隊可先在該邊界內驗證哪一項有用的工作流程?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page