top of page

Netskope 製造業 AI 報告:83% 數字衡量的是政策違規

1 小時前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Sora Shimazaki / Pexels.

Netskope 於 11 月 10 日發表製造業 AI 報告,發現上游資料政策違規佔所觀察到的 AI 相關違規個案 83%。這項發現關乎進入 AI 系統的資訊,而非經核實的安全事故或成功入侵數目。Netskope 製造業 AI 報告提出了一個更聚焦、也更實用的問題:批准使用一個 AI 應用程式,是否真的能管控員工傳送到當中的資訊?

這個區別會改變管理層的應對方式。政策警示需要調查資料、權限和執行措施;已確認的入侵則需要有未經授權披露或存取的證據。若將這些類別視為可以互換,可能會扭曲威脅評估,以及現有防禦措施表面上的成效。

核心矛盾在於已獲批准的應用程式與已獲批准的資料流之間。Microsoft 的安全指引提供了有用參考:保護 AI 工作流程,除了選用可信任的應用程式外,亦需要圍繞資訊與操作設置管控措施。對製造業買家而言,問題在於獲批准的助理是否在與任務相符的界限內運作。

Netskope 製造業 AI 報告實際衡量甚麼

83% 這項發現描述的是所觀察到違規個案的構成,而不是遭遇 AI 入侵的製造商比例。

相關的製造業 AI 發現來自 Netskope 平台的匿名遙測資料,涵蓋部分製造業客戶。觀察期由 2025 年 6 月 1 日至 2026 年 8 月 31 日。公開的方法論並未披露確切客戶數目。

因此,這是一個觀察性的供應商資料集,而非業界普查或僱員調查。它的價值在於呈現已部署管控措施所能看見的活動,卻無法確定每一家製造商面對每一項 AI 風險的普遍程度。

上游違規是指資料進入 AI 工作流程;下游違規則指資訊透過生成內容或後續使用離開該工作流程。單憑任何一個標籤,都無法確定是否有人成功竊取資訊。

設想一個示例:僱員嘗試上載一份機密供應商文件。安全控制偵測到該文件並阻止傳輸。由此產生的警示,既證明有人嘗試採取被禁止的行動,也顯示控制措施已介入。

再比較一宗成功上載、其後才收到警示的情況。調查人員必須確定有甚麼跨越了界限、哪個帳戶收到資料,以及目的地保留了甚麼。相似的政策標籤,可能掩蓋實質上截然不同的結果。

當高層詢問警示增加是否代表安全狀況惡化時,這個區別尤其重要。更多警示可能反映更多高風險活動、更廣泛的監察、更嚴格的規則,或更佳的偵測能力。若沒有輔助的營運證據,警示總數無法釐清這些可能性。

同樣的審慎原則亦適用於數字下降。較少警示可能代表行為更安全,也可能是檢查變弱、規則被停用,或活動轉移至監察未能覆蓋的渠道所致。

因此,對製造業安全主管而言,有用的後續問題是營運層面的:哪些傳輸被阻止、哪些獲准許,以及哪些仍未解決?這些類別比一個醒目的百分比更能揭示保護成效。

報告的發表日期亦與其量度窗口不同。11 月的讀者看到的是截至 8 月為止活動的分析。將這些發現與公司的現時部署或近期引入的控制措施比較時,這個時間差十分重要。

合適的解讀是把它視為暴露訊號。該資料集將注意力引向商業資訊與 AI 處理交匯的入口點,卻不能用作估算已確認損失、受影響工廠或生產受干擾機率的捷徑。

已批准的 AI 仍令安全團隊面對資料決策

批准應用程式只決定誰提供工具;並不決定哪些業務紀錄應納入每項任務。

Netskope 指出,由組織管理的 AI 使用率由 35% 升至 70%,而個人帳戶使用率則由 75% 降至 55%。這些數字描述的是重疊的使用模式,而非互斥的群組。它們顯示使用正轉向組織監督,但未能證明個人使用已經消失。

對製造業 AI 管治而言,這帶來一個實際的權責問題。採購部門可以批准供應商,技術團隊可以部署應用程式,但仍需要有人有權決定該部署應包括哪些文件、識別資料和業務流程。

一個示例的採購助理正好顯示這道落差。總結公開的供應商宣傳冊,與總結機密談判紀錄,涉及的是不同的資訊決策。兩項要求都可以在同一個已批准介面內發生。

除非另有控制措施區分其內容,否則廣泛的應用程式許可清單會以相同方式處理這些要求。可作辯護的部署需要規則,將目的地、帳戶、資訊類別和目的連結起來。批准必須能經受實際工作的考驗。

這同時對多個群組構成壓力。安全團隊需要可執行的界限;業務擁有人需要可用的工作流程;法務及私隱團隊需要與僱員實際提交資訊相對應的處理條款。

眼前的挑戰是協調,而非決定哪一個群組應擁有每一項決策。文件擁有人了解業務敏感度;應用程式管理員了解配置;安全人員了解偵測及回應。有效的決策需要讓這些觀點交會。

已批准帳戶亦需要清晰的身分界限。僱員應了解自己是在組織工作區內操作,還是在個人工作階段中操作。一個易於辨認的產品標誌無法回答這個問題。

營運問題不僅限於刻意上載。工作流程可能透過附加文件、已連接的儲存庫,或為要求自動組裝的材料收集資訊。每一條路徑都值得就存取權和目的地作出明確決策。

這正是「使用已批准 AI」的培訓可能令僱員無所適從的原因。指示辨識了應用程式,卻未有解決資訊判斷問題。員工仍需要與其職責相關的具體指引。

例如,公司可以區分已批准的公開文件與受限制的客戶通訊。確切類別取決於業務。管治原則是,僱員不應在每項日常任務中都需要解讀抽象的安全政策。

因此,Netskope 製造業 AI 報告對「部署成功」的定義施加壓力。分配帳戶是採用里程碑;證明這些帳戶只處理合適資訊,則是另一個安全里程碑。

對企業買家而言,商業含義直接可見。部署建議書應說明誰負責資料決策、例外情況如何處理,以及管理員可以檢視甚麼證據。功能清單無法回答這些問題。

界限貫穿文件、權限與輸出

最具影響力的控制點,是工作流程內的資訊界限,不論該界限在哪裏出現。

Netskope AI 資料安全發現促使人們轉變評估準則。買家不應只問助理是否已獲批准,還應檢視具代表性任務的完整路徑。這條路徑早在模型生成答案前已經開始。

一名示例品質分析員可能要求助理總結供應商投訴。來源資料包可能包含客戶姓名、合約細節、內部評論和技術規格,當中或只有部分資訊是總結所必需。

安全決策既關乎敏感度,亦關乎必要性。若任務只需要缺陷描述,便不一定需要整段客戶通訊紀錄。減少不必要的內容,可在不妨礙底層工作的情況下減低暴露風險。

OWASP 關於敏感資訊披露的指引,將機密商業資訊和憑證列為相關風險,並強調存取限制,亦警告基於提示的限制可能被繞過。

這項指引為評估採購聲稱提供了有用測試。供應商表示其助理會遵從指示,描述的是模型行為;系統阻止存取未經授權文件,則是在執行另一道界限。

這些機制應彼此互補。指示可以塑造答案,而存取控制決定哪些材料可供使用。不應假定任何一項功能可取代另一項。

Microsoft 對間接提示注入的討論提供了一個比較。這種攻擊會將惡意指示置於助理處理的內容中,例如文件或網頁。

Microsoft 描述了分層防禦,包括將不受信任內容與指示分隔,以及偵測可疑輸入。其方法說明一個更廣泛的安全論點:即使助理功能強大,仍需要防護其所讀取的材料。

這並不證明 Microsoft、Netskope 或其他供應商已解決所有相關問題。它顯示不同控制層正在處理不同的失效模式。資料檢查與惡意指示偵測回答的是相關但不同的問題,並各有不同的證據要求。

當助理讀取外部供應商文件時,這個區別便變得具體。組織必須決定該文件是否包含助理可處理的資訊,同時亦必須防止嵌入文字成為執行無關操作的授權。

輸出亦構成另一道界限。一份摘要可能包含適合內部調查的資訊,卻不適合用於回覆外部供應商。助理合法讀取文件,並不授權其後作出任何披露。

因此,製造業 AI 管治需要以任務層面的角度看待權限。讀取、總結、分享和採取行動代表不同決策。當組織能夠獨立說明每項決策時,部署便更容易評估。

對知識工作者而言,同一個區別亦適用於AI 知識庫。令資訊可搜尋,以及決定誰可使用資訊,是相連的設計問題。更佳的檢索能力不會消除界定受眾的需要。

Agent 連接令界限更難看清

能夠檢索資訊及調用工具的助理,需要對話視窗以外的控制措施。

Netskope 報告指出,連接至遠端 MCP 伺服器的非人類實體增長了 490%,相關事件亦增加了 600%。這些是使用量指標,並非攻擊增長數字。它們不能證明新增連線具有惡意。

Model Context Protocol(MCP)是一項把 AI 應用程式連接至工具與資料來源的標準。其在此的相關性,涉及請求與用於完成該請求的系統之間的路徑。

在簡單的聊天互動中,員工選取材料並提交。在已連接的工作流程中,助理可透過已設定的工具擷取額外背景資料。員工可見的請求,或許只描述最終資訊流的一部分。

以一個說明反覆出現設備故障的示範維修助理為例。它可能擷取已獲批准的手冊及過往維修紀錄。連接程度更高的部署,亦可能存取採購紀錄或外部支援服務。

業務價值取決於這些連接,權限問題亦然。助理不應只因未來的請求可能受惠於額外背景資料,便獲得廣泛存取權。

該協定的 MCP 安全實務 處理多項實作風險,包括授權失敗、工作階段劫持,以及不安全地處理存取權杖。權杖是讓軟件存取受保護服務的憑證。

這些實作層面的疑慮,與生成答案的準確性不同。一個回應即使在技術上正確,仍可能依賴過多權限。一個實用的助理,仍可透過控制不善的連接令機構面臨風險。

對買方而言,這改變了整合示範的意義。展示助理可擷取一份紀錄,只能證明連通性,不能證明該存取權在不同用戶、工作及文件類別之間仍然恰當。

更具參考價值的示範,應展示合法請求成功,而未獲授權的請求失敗。它亦應說明所使用的帳戶、套用的權限,以及可供覆核的證據紀錄。

服務擁有權同樣重要。沒有具名擁有人的連接器,可能在原有業務目的改變後仍然啟用。機構需要有方法了解存取權存在的原因,以及誰可撤銷該權限。

當供應商關係結束,或員工職責改變時,撤銷尤其重要。權限模型應支援移除存取權,而不應依賴助理記住書面指示。

更廣泛的製造業 AI 管治問題,在於委派工作中的可見性。當軟件代表某人行事,責任不能止於該人的初始提示。它必須延伸至執行請求的系統。

這些增長數字足以令此類別值得關注,同時仍無法確定其絕對規模。它們支持就已連接的工作流程提出更好的問題,但不足以宣稱成功攻擊也出現同等幅度的激增。

數據集無法證明甚麼

當讀者把觀察到的警報轉化為已確認損害的主張時,一個有用的風險訊號便會變得誤導。

Netskope 的製造業 AI 報告,是有關其所觀察環境內活動的證據。它未能證明每宗政策事件與最終安全損失之間存在因果關係。任何詮釋都應清楚保留這個落差。

未披露客戶數目,限制了對代表性的判斷。讀者無法單憑標題數字,重建樣本按機構規模、地理位置或安全成熟度的分布。

以平台為本的數據集,亦反映平台本身的可見性。在受監察路徑以外的活動,可能獲得不同處理,或根本未被觀察到。這是量度方法的限制,而非證明未被看見的類別必然較大。

政策帶來另一個變異來源。一家規則嚴格的公司,可能會就另一家公司容許的傳輸產生警報。若只比較總數而不比較規則,便有可能把執行選擇與實際風險暴露混為一談。

警報嚴重程度亦很重要。涉及受限制客戶紀錄的被禁止傳輸,與低可信度分類比對,需要完全不同的調查。一個類別百分比不能取代對這些個案的檢視。

成功預防亦令詮釋更複雜。若系統阻止不當上載,產生的事件既可反映高風險行為,也可反映保護措施正在運作。把每宗此類事件都稱為資料外洩,會抹去兩者之間的分別。

相反的錯誤,是因為部分警報已被攔截,便把所有警報視為無害。重複嘗試可揭示政策不清晰、工作流程設計不佳,或持續有人希望使用不合適的目的地。預防並不會消除潛在的業務問題。

Netskope 亦銷售與其所描述風險相關的安全產品。這個商業背景不會使其觀察失效,但代表買方應把問題本身的證據,與有關特定補救方案的主張分開看待。

獨立指引有助維持這種區分。NIST 的 生成式 AI 概況 把風險考慮因素放進 AI 系統的設計、開發、使用及評估各個環節。這個框架超越任何單一產品採購。

恰當的做法,是根據公司自身的工作與資訊測試控制措施。相關評估應包括獲准活動、被禁止活動、含糊內容及營運例外情況。否則,精心製作的示範可能掩蓋尚未解決的界線問題。

單憑上游百分比,不能自動得出有關工廠停工的結論。要證明營運後果,必須有證據把特定事件與受影響系統及業務影響連繫起來。報告的核心統計數字未有提供這條證據鏈。

最有力的解讀仍應聚焦於:進入 AI 工作流程的資料值得審視。較弱的解讀,則把政策觀察數據集轉化為全行業事故統計。買方保留較狹窄的主張,反而可獲得更多價值。

買方應在 2027 年初前留意甚麼

下一項有用證據,將顯示機構能否在擴大 AI 使用的同時,令資料存取更具問責性。

第一個訊號是更完善地匯報執行結果。買方應尋找被攔截傳輸、獲准傳輸、已調查個案及已確認披露之間的區分。這些類別把監察活動與決策及後果連繫起來。

有關已阻止傳輸及已記錄處置的證據,會加強控制措施有效的論據。只有更大的警報儀表板而沒有結果資訊,則仍無法解決這個問題。有價值的發展是更清晰的交代,而非原始數字朝某個偏好方向變動。

機構亦可要求內部報告提供同樣清晰度。行政摘要應識別監察系統觀察到甚麼,以及調查人員其後確認了甚麼。把這些階段合併成單一事故數字,會令機構更難評估。

第二個訊號,是受管理的部署能否減少不同帳戶類型之間的不當流動。買方應尋找證據,證明獲批准的工作流程能滿足員工需要,同時維持所需界線。

這並不代表每次個人帳戶互動都是違規。重要問題是受限制的業務資訊是否到達不合適的目的地。帳戶背景很重要,因為同一應用程式可支援不同合約及管理安排。

若部署提供可用且獲授權的途徑,將加強管治可支援採用的論點。若變通做法持續存在,則會削弱為企業帳戶分配已解決問題的說法。

第三個訊號,是對已連接代理與工具更強的問責。買方應尋找具名擁有人、有限權限、可覆核活動及實際可行的撤銷機制。當這些能力在實際部署中出現,產品公告便更具意義。

單有連接器清單,仍不足以提供完整答案。機構亦需知道哪些工作可合理支持存取權,以及權限是否仍然恰當。若有證據顯示存取權會隨職責改變,將加強管治論據。

相反,廣泛的長期權限會令核心問題原封不動。助理可能變得更有用,但機構會失去對其可及範圍的清晰了解。因此,在部署檢討中,採用與控制應作為兩項獨立指標。

對開發者而言,這些訊號使授權及事件紀錄成為產品質素的一部分。對業務領導者而言,它們使工作流程設計成為安全監督的一部分。對員工而言,它們應轉化為更清晰的日常資訊使用決定。

Netskope 的 AI 資料安全觀察,在引導人們取得這些可驗證成果時最有用。若只作為把嘗試、警報、預防及已確認損害混為單一駭人類別的標題,其價值則較低。

在擴大助理存取權之前,應把具代表性的業務工作帶到部署檢討中。識別它所需的資訊、所使用的目的地,以及應執行的動作。要求系統擁有人示範獲准的路徑,並說明不當請求會在哪裡被阻止。然後檢視支持該說明的紀錄。Netskope 製造業 AI 報告讓買方有理由要求這些證據,而不是把應用程式批准視為管治的終點。相關決定在於,機構能否解釋並控制自身資訊的流動。檢討下一次 AI 推出時,應以此作為標準。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page