top of page

IFS Industrial AI Harness 將控制置於自主性之前

4 小時前
讀畢需時 12 分鐘

IFS 推出 IFS Industrial AI Harness,設有六層控制機制,在自主代理與運行實體營運的系統之間建立管治屏障。該平台會在代理採取行動前,套用既有的身分、權限、審批及審計規則。這項設計作出明確押注:只有能夠約束代理式 AI,工業企業才會採用它。

這個 harness 於 10 月 13 日在奧蘭多舉行的 IFS Unleashed 上公布,構成 IFS Intelligence 之下的營運基礎。相關產品連接營運數據、對話式分析,以及可執行獲批任務的數碼工作者。IFS 表示,這個 harness 可讓該等工作者在客戶各系統既有的界限內運作。

推出時機反映了採用與信任之間存在棘手落差。IFS 表示,43% 受訪前線團隊在過去一年引入了代理式數碼工作者。然而,只有 11% 驗證 AI 輸出是否適用於安全、品質或關鍵任務流程。IFS 的 AI 管治策略正針對這個落差,但成效仍將取決於實際部署的證據。

IFS Industrial AI Harness 將代理連接至既有控制機制

IFS 將管治視為執行層,而非部署後才檢視的政策文件。

Industrial AI Harness 位於 IFS Intelligence 之下,管治其數碼工作者如何與企業系統互動。IFS 將數碼工作者描述為可完成既定營運工作流程的代理,包括橫跨多個應用程式的任務。

這個 harness 包含六個組件。規劃及編排會將目標分拆為步驟,再協調所需的代理及工具。技能及連接器決定代理可使用哪些系統。記憶及情境會保留相關任務資訊,而不會暴露所有可用紀錄。

防護欄及權限會執行身分規則、審批要求,以及對較高風險行動的限制。驗證及升級處理會按政策檢查工作,並將不確定個案轉交人員處理。可觀察性及可審計性會記錄決策及行動,以供日後檢視。

這些組件十分重要,因為工業代理不只是生成文字。它可以提出生產變更、準備工作指令、聯絡供應商,或調整服務排程。每項行動均可能影響設備可用性、交付承諾、員工安全或受監管數據。

IFS 表示,這個 harness 會繼承已連接系統的權限,並以 IFS Cloud 作為基礎來源。已登入的使用者不應獲取超出其既有授權範圍的資訊或行動權限。公司亦表示,原始數據會保留在記錄系統中,而非傳送至外部 AI 供應商。

這些說法需要審慎解讀。將原始紀錄保留於系統內,並不會消除所有數據風險。視乎實施方式,提示詞、擷取的情境、元數據、工具回應及生成輸出,仍可能造成資料暴露。買方在將「沒有原始數據」視為完整安全保證前,需要取得精確的架構文件。

這個 harness 亦設計為支援不同 AI 模型及服務。這種具模型彈性的方法可減少對單一供應商的依賴,同時亦讓 IFS 負責在底層模型、連接器及部署環境變動時維持一致的控制機制。

分階段自主性是設計的最後部分。數碼工作者可以先作為助手,再進展至提出建議,最終執行獲授權的行動。不確定個案應觸發升級處理,而不是無聲地執行。

這個進程為企業提供實際的部署路徑,同時亦建立本文的核心張力。平台承諾逐步提升自主性,但每增加一項權限,錯誤計劃、遭入侵的連接器或不正確驗證結果所帶來的後果亦會增加。

為何 IFS AI 管治此刻推出

工業 AI 的採用速度,正快過評估其行動所需的控制機制。

這次推出伴隨 IFS 對 14 個國家、2,275 名高管及前線員工進行的調查。受訪者任職於僱員超過 500 人、年收入可觀的機構。所涵蓋行業包括製造、航空航天及國防、公用事業、建造、運輸及電訊。

根據 Industrial Index,43% 受訪者表示,前線團隊在過去 12 個月已培訓及引入代理式數碼工作者。另外 37% 表示曾提升同事使用工業 AI 工具的技能。

控制相關數字則低得多。只有 11% 表示,其機構已就安全、品質或關鍵任務流程驗證 AI 輸出。同一比例的機構設有控制機制,規管 AI 處理敏感或受出口管制的數據。只有 4% 表示,AI 輔助決策必須有人類監督或審批。

這些結果來自 IFS 贊助的研究,因此不應視為整個工業市場的獨立衡量。抽樣標準亦聚焦於較大型機構。儘管如此,所報告的落差指出一個可信問題:在中央管治跟上之前,營運實驗可先行擴散。

IFS 引述的另一項 Futurum 研究發現,66% 企業計劃在 12 個月內投資數碼工作者。只有 5.7% 信任 AI 可完全自主行動。這個差距顯示,買方希望獲得自動化,卻不願放棄審核、存取管理或問責機制。

工業環境令薄弱的控制機制代價尤其高昂。一份不準確的辦公室摘要只會浪費時間;錯誤的維修建議可延誤修復;一次排程行動則可影響人手、存貨、下游訂單及合約責任。

這亦解釋了 IFS 為何強調繼承而非取代。harness 不要求客戶為 AI 建立一套獨立權限模型,而是使用已嵌入營運系統的身分、審批及業務規則。只要既有控制機制準確且獲一致維護,這可縮短管治設計時間。

這項依賴關係十分重要。繼承的權限會同時複製來源環境的優點與弱點。過度存取、被遺棄帳戶、不一致的審批路徑,或分類不當的數據,不會因為 AI 代理遵循它們便變得安全。

因此,企業面對兩個互相關連的項目:既要管治代理,也要修復代理所繼承的營運控制架構。harness 可以執行一條界線,但客戶仍必須決定該界線應設於何處。

監管亦為現時採取行動增添另一個理由。歐盟的 AI Act framework 按照 AI 系統的用途及風險施加不同責任。在不同地區營運的工業機構,亦面對行業規則、出口管制、私隱要求及合約審計責任。

IFS AI 管治進入這個市場時,企業需要的是技術執行,而非另一份原則文件。尚待解答的問題是,其驗證、證據及部署控制能否承受營運層面的嚴格檢驗。

真正的競爭是受管治的執行與獨立代理之爭

IFS 正與一種觀念競爭:企業可將通用代理接駁至營運系統,之後才加以管治。

這是路線與路線之間的競爭,而不僅是軟件供應商之間的比較。其中一條路線先由功能強大的模型開始,再在其周圍加入工具、權限及防護措施;另一條則先由企業控制機制開始,只容許模型透過受管治的介面採取行動。

IFS 選擇了第二條路線。其優勢源於接近工作指令、排程、資產、服務承諾及供應決策已存在的系統。這些系統同時包含營運情境及既有授權架構。

通用代理平台提供更廣泛的模型選擇及更快的實驗速度。它們可連接許多應用程式,並支援單一企業套裝系統以外的工作流程。然而,每個連接器均可能擴大攻擊面,並就身分、數據範圍或審批狀態引入另一種詮釋。

IFS Intelligence 透過以營運紀錄及精選工具為代理提供基礎,收窄了這個問題。公司表示,這可避免代理面對數以萬計、未經區分的應用程式介面。精選能力可減少代理在採取行動前必須評估的路徑數目。

這個機制比對話式存取更重要。聊天介面可讓工業數據更易查詢,但單靠擷取並不能彌合洞見與執行之間的落差。當 harness 能夠將請求轉換為一連串受控制的系統行動時,才會體現其價值。

試想一名生產經理發現一張大型訂單面臨風險。解決問題可能需要存貨數據、廠房產能、供應商承諾、物流限制,以及延誤帶來的財務影響。IFS 表示,其系統可整合這些情境、建議回應方案,並將行動送交審批。

IFS Intelligence launch 描述了三種模式。Cowork 支援提問、分析及獲批行動。Loops 將既定工作流程委派予背景數碼工作者。Runway 協助客戶透過自然語言需求設定及擴展 IFS。

這個架構由協助走向委派,卻不會將自主性呈現為單一開關。買方可將較高風險行動保留於建議模式,同時讓例行工作以較少中斷的方式運行。

競爭對手亦正邁向中央化代理管理、可觀察性及政策執行。大型雲端及企業軟件供應商,早已掌握身分、工作流程引擎、應用程式紀錄或安全遙測。IFS 不能只靠管治術語來建立持久的差異化。

其較強的定位在於工業情境。製造、公用事業、航空航天、現場服務及基建營運涉及專門資產及緊密相連的流程。理解這些關係的供應商,可比通用編排層更精確地約束代理。

不過,領域情境不會自動帶來正確行動。設備歷史可能不完整,工作指令類別可能不一致,不同地點的維修程序亦可能互相衝突。即使有基礎資料支持的代理,仍可能根據不準確或過時的紀錄作出推理。

因此,市場將按 IFS 的執行質素,而非介面質素作出評價。買方需要知道,harness 是否能拒絕不安全的計劃、保留審批鏈,並產生讓調查人員可重建的審計證據。

控制架構仍須證明甚麼

受管治的代理比不受約束的代理更安全,但管治控制機制不會令其決策本質上變得正確。

首個未解決的問題是驗證。IFS 表示,該 harness 會檢查工作是否正確及符合政策,並在需要時升級處理。這是兩項不同的測試。擬議行動即使符合權限要求,技術上仍可能錯誤,或造成營運損害。

例如,某個代理可能獲授權重新安排維護工作。所要求的變更或許通過存取控制及審批規則,但若模型誤解設備狀況、人手限制,或與另一項資產的依賴關係,仍可能帶來不可接受的風險。

買家需要了解每類輸出由甚麼機制驗證。確定性規則可以驗證資料格式、授權、開支門檻或強制審批,但較不適合判斷模糊的診斷結果,或根據不完整記錄制訂的計劃。

第二個問題是審計深度。記錄每項行動固然有價值,但附有時間戳的紀錄未必能解釋代理為何選擇該行動。有用的證據應涵蓋輸入來源、擷取的背景資料、模型及政策版本、工具呼叫、審批、被否決的替代方案,以及最終系統變更。

NIST AI RMF 強調在設計、開發、部署及使用期間管理風險。這種生命週期觀點對工業代理尤其重要,因為其環境持續變化。模型會更新、連接器會變更、權限會調整,而營運資料亦會呈現新的模式。

第三個問題是控制繼承。現有角色通常是為人類使用者而設,他們會在行動前作出判斷。自動化工作者可以更快、更一致及以更大規模運作。對一個人而言可接受的權限,當代理反覆行使時,可能造成過高風險。

因此,速率限制、交易邊界、變更時段及累積影響檢查,可能與身分識別同樣重要。代理不應只因其人類贊助者可執行同一行動一次,便獲得不受限制的營運處理量。

第四個問題是分階段自主性。從建議轉向執行,需要證據證明系統能在既定範圍內可靠運作。IFS 尚未公開提供新 harness 的詳細錯誤率、升級處理率或獨立安全評估。

這種缺失在推出初期並不罕見,但限制了買家可得出的結論。公司的公告描述了架構及預期行為,卻無法獨立證明控制措施在對抗性提示、遭入侵的連接器、不完整資料或意外營運狀況下的表現。

第五個問題是問責。可追溯的決策仍需要一名負責人。企業必須界定誰審批代理的範圍、誰檢視例外情況、誰回應事故,以及誰可暫停跨多個系統的自動化工作。

IFS 引述 Eight Group CIO Mo Dawood 指出,其現場服務公司拒絕自行建立代理,因為治理及技術要求的發展速度太快。這觀點反映了真實的採購動機。外判平台可減少開發工作,但不會轉移商業決策的責任。

客戶亦需要退出及可攜性計劃。可靈活選擇模型的 harness 可減少某一類鎖定風險,但工作流程、技能、政策及審計記錄仍可能與 IFS 緊密綁定。買家應測試哪些內容可匯出,並可在平台以外重建。

IFS Industrial AI Harness 為控制問題提供了連貫的答案。它更困難的任務,是證明當營運、模型及對手的行為偏離既定工作流程時,這些控制措施仍然有效。

IFS Intelligence 將治理轉化為產品決策

對企業買家而言,關鍵問題不在於平台是否設有防護欄,而在於這些防護欄是否配合每項營運後果。

根據公司說法,IFS Intelligence 以企業全域授權形式提供,涵蓋合資格的 IFS 軟件。客戶獲分配 AI 執行額度,而非透過功能閘門劃分存取權限。IFS 未有在公告中披露商業條款。

這種授權方式支援廣泛部署,但廣泛存取亦提高治理要求。僅供維護規劃團隊使用的系統有一種風險狀況;橫跨財務、供應鏈、生產、現場服務及人力資源的同一系統,則會帶來相互關連的後果。

買家應先按任務分類,而非選擇一個通用自主性級別。唯讀資產查詢所需的控制措施,與更新工作訂單不同。草擬供應商訊息有別於更改生產排程;批准採購則涉及財務權限。

每項任務均應有指定負責人、獲准資料來源、授權工具、審批條件及回復程序。機構亦需要訂立驗收準則,以決定何時可從協助轉向建議,再轉向執行。

一項務實的試點可測試具可量度成果的有限流程。供應商跟進、服務排程或維護分流,可提供重複性工作流程,同時毋須立即授予對安全關鍵設備的控制權。

評估應涵蓋失敗案例,而不僅是成功示範。團隊可提供互相矛盾的記錄、在任務進行期間撤銷存取權、更改已連接應用程式,或要求代理超出其既定範圍。之後應檢視行為及審計軌跡。

保安團隊應測試間接提示注入,即惡意指令出現在代理讀取的資料之中。服務備註、文件或供應商訊息都可能嘗試改變代理的方向。權限控制可減低潛在損害,但不代表毋須偵測被操控的背景資料。

營運主管亦應監察人員行為。若審批出現得過於頻繁,審核者可能未經檢查便接受請求。若升級規則過於敏感,員工可能會把工作轉移到系統以外。當治理控制鼓勵繞過程序時,治理便會失效。

知識質素成為另一項限制因素。工業機構經常把關鍵背景資料分散儲存在手冊、工作訂單、電郵、本機文件及員工經驗之中。建立一個可搜尋知識庫可改善擷取能力,但營運行動仍需要經驗證的系統資料。

這種區分對 IFS Intelligence 很重要。對話式存取可把零散資訊整合起來,而 harness 則控制接下來會發生甚麼。客戶應在用於了解情況的證據,與可受信任用於執行的記錄之間,維持清晰界線。

最可信的採用路徑是由小範圍開始。機構可允許代理收集背景資料、產出附有引用的建議,並準備交易。一名人員可在系統提交任何變更前審閱證據。

當表現可被量度後,客戶可自動化既定的低風險步驟。後果較重大的決策應保留明確審批或獨立的技術連鎖機制。正確的終點不是最高自主性,而是有證據、可逆性及營運影響所支持的自主性程度。

三個訊號將顯示 Harness 是否兌現承諾

下一項測試,是 IFS 能否把架構承諾轉化為可量度、可重複的控制成果。

第一個訊號是生產環境證據。IFS 已描述客戶情境,並納入早期使用者的正面評論。市場現時需要詳細的部署資料,顯示任務量、升級處理頻率、失敗率、節省時間,以及由人員撤銷的行動百分比。

這些指標將釐清分階段自主性是否能超越受控示範。高升級率可能代表安全審慎,但亦可能令自動化不具經濟效益。低比率可能反映強勁表現,亦可能代表偵測不足。背景因素將很重要。

第二個訊號是獨立控制驗證。買家應留意第三方保安評估、技術保證報告,以及涵蓋模型變更、連接器權限、審計保留及事故應對的文件。

證據應涵蓋整條執行鏈。若只測試語言模型,便會忽略身分系統、編排、工具選擇、擷取資料或下游應用程式中的失敗。Harness 正正聲稱因協調這些層面而具價值。

獨立分析亦應測試對抗性狀況。有用的情境包括提示注入、受污染的營運記錄、互相衝突的指令、過多權限及不可用系統。強勁的結果將強化 IFS 的說法:治理是營運基礎,而非展示層。

第三個訊號是競爭反應。企業軟件及雲端供應商正建立自己的代理控制平面、目錄、監察系統及工作流程治理機制。他們下一輪發佈將揭示 IFS 的工業專業化能否創造持久優勢。

若競爭對手在提供更廣泛應用程式覆蓋的同時,配備相當的控制架構,IFS 便需要憑更優秀的工業成果突圍而出。若通用平台難以應對領域特定限制,公司的精選工具及營運資料定位便會顯得更有價值。

監管審查將塑造全部三個訊號。隨着 AI 義務在不同司法管轄區變得可強制執行,客戶將要求能向審計師及監管機構提交的證據。產品日誌必須把技術行為與組織問責連結起來。

IFS Industrial AI Harness 的出發點合理:在關鍵營運中行動的代理,需要的不只是模型層面的安全設定。它們需要身分、權限、經驗證工具、審批、升級處理路徑及可重建的記錄。

然而,平台應按這些機制意見不一或失效時的表現來評價。它能否阻止獲授權但不安全的行動?調查人員能否重現該決策?管理員能否在不中斷必要營運的情況下暫停代理?

對技術主管而言,眼前行動是界定一項有限工作流程,以及在擴大自主性前所需的證據。要求 IFS 在真實權限、不完整資料、已撤銷存取權及一次嘗試違反政策的情況下示範該流程,然後檢視所得的審計軌跡。

這項測試所揭示的,將遠多於一場精緻的對話式示範。若 harness 能在壓力下執行限制,IFS 將為工業代理奠定可信基礎;若未能做到,控制層便會成為另一種營運尚未贏得的信心來源。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page