TCS AI 代理控制讓企業自主運作接受更嚴密監管

隨着客戶要求自動化，同時不願放棄對業務系統的控制權，TCS 正為企業 AI 代理建立監管機制。TCS AI 代理控制針對一項日益嚴重的營運問題：代表員工行事的軟件，同樣需要可執行的限制。AI 代理是一種為達成目標而選擇並執行行動的軟件，與只會回答問題的聊天機械人帶來不同風險。

當中的張力在於授權與可執行監管之間。企業希望代理可跨應用程式完成工作，但每增加一項權限，出錯所帶來的後果便會擴大。TCS、HCLSoftware 和 Tech Mahindra 正透過不同組合的管治軟件、營運監察及企業架構處理這個問題。

這些工作亦改變了採購決策。客戶必須判斷，擬議的控制層能否管治跨系統行動，而非只顯示活動紀錄。10 月發表的報道顯示市場存在商業興趣及產品開發活動，但未能證明這些方法已消除與代理相關的安全事故。

TCS AI 代理控制超越個別應用程式

TCS 表示，正與一家全球保險公司合作建立企業 AI 平台，並監督內部及第三方代理。《The New Indian Express》於 10 月 30 日報道這項合作，並引用該公司的季度評論。該報道對 AI 代理控制 的描述，將存取權限、監察、支出及政策執行放在同一營運討論之中。

真正的轉變在於，監管本身正成為企業實施工作的一部分。 客戶正採購一套可管理代理的方法，並與執行業務工作的代理同步運作。這為熟悉應用程式、權限及業務流程如何連接的服務供應商帶來角色。

控制平面即制定政策並監督執行的管理層，提供了組織這項工作的核心概念。其價值取決於能否影響代理所接觸的各個系統中的行為。顯示已完成行動的畫面可提供資訊，但執行政策需要對下一項行動具備權限。

10 月另一篇報道為 TCS AI 管治提供更多背景。該公司營運總監 Aarthi Subramanian 談及管理跨企業應用程式的代理，包括 SAP、ServiceNow 和 Oracle。《Financial Express》於 10 月 12 日、較後來的業界綜述更早，概述了該項 企業管治層。

這些應用程式名稱說明，問題不止於選擇模型。即使軟件元件仍在同一家公司內，企業流程仍可跨越組織界線。每個應用程式可各自套用規則，但業務方期望整體流程遵循一致的審批政策。

以一個假設的保險工作流程為例：它收集文件、要求補充缺失資料，並準備建議。閱讀文件、聯絡客戶及更改保單紀錄涉及不同程度的權限。若部署方式以相同標準處理這些工作，便是將便利性置於令監管具意義的區別之上。

報道所述的保險公司合作提供了具體客戶情境，但本文檢視的報道仍未披露重要實施細節。相關報道沒有識別客戶身分，也沒有提供經獨立驗證的安全成果。因此，它支持的是關於需求及交付範圍的說法，而非已證實的成效。

解讀標題時，這項區別相當重要。TCS AI 代理控制描述的是一項正在發展的企業能力，而非獲普遍驗證的安全標準。買方仍需確定哪些代理納入控制範圍，以及哪些行動仍在其控制能力之外。

TCS 的機會正源於這項整合負擔。一個業務流程可橫跨向不同供應商採購、由不同團隊維護的工具。要連接各自的規則，所需工作不止於安裝模型或啟用助理。客戶能否獲得一致執行，取決於實施方式，而非「控制平面」這個標籤。

安全團隊已在延遲 AI 部署

Cognizant 於 10 月 22 日發布的網絡安全調查，更清楚呈現這些措施所面對的壓力。其 AI 安全調查結果 訪問了 201 名美國企業高級網絡安全主管。受訪者中，83% 表示在此前 24 個月曾發生與 AI 相關的安全事故。

同一調查發現，82% 受訪者在過去一年曾因安全疑慮暫停 AI 部署。只有 38% 表示可完全掌握其環境中的 AI 狀況。這些是受訪機構自行申報的結果，並非涵蓋所有企業的測量數據。

安全疑慮已經影響部署決策，因此監管成為業務交付問題。 一項被暫停的計劃，會中斷自動化方案與其預期營運效益之間的連結。這對業務贊助人、安全主管及出售實施服務的供應商構成壓力。

這項調查需要審慎解讀。與 AI 相關的事故涵蓋範圍，比自主代理遭入侵更廣。調查結果無法證明代理導致了所報告的事故，也不能顯示代理控制平面本可防止這些事故。它們反映樣本中的憂慮及曝險情況，但因果問題仍未有定論。

對企業買方而言，實際問題是責任歸屬。業務團隊通常界定希望透過自動化達成的成果。安全團隊評估存取權限及威脅，應用程式擁有人則了解更改特定紀錄的後果。部署代理會迫使這些責任在同一項決策中整合。

當代理跨越應用程式時，協調工作會更困難。一項在支援系統內看似合理的權限，若結合存取員工紀錄的能力，可能構成不同風險。逐一評估每項連接，可能忽略其組合所形成的權力。

因此，企業代理安全改變了專案在推出前必須確認的事項。成功的示範可顯示代理能在指定條件下完成任務。營運審查還必須判定，當資訊互相矛盾、缺少必要批准，或連接的服務出現意外行為時，系統會如何處理。

這些問題亦令開發人員承受壓力。團隊需要足夠精確、可供實施的界線，但業務贊助人往往以廣泛用語描述目標。「處理該請求」若包括閱讀、提出建議、溝通及修改業務資料，便留下大量模糊空間。

服務供應商亦面對相關的商業挑戰。承諾更快執行，比界定每個涉事系統的責任容易得多。一份可信的方案需要說明哪些決策仍由客戶負責、供應商維護哪些控制措施，以及事故如何上報至負責任的營運人員。

這創造了另一種衡量準備程度的方式。關鍵問題是，機構能否有信心地授權及監督一個流程。模型質素仍然重要，但能力再強的模型也無法解決權責不清或應用程式權限互相矛盾的問題。

TCS AI 管治正處於這種採購環境之中。市場需要的是一套可管理的營運安排，以支援自動化。尋求快速部署的客戶，仍須在這種速度產生價值之前，就權限、證據及介入方式達成共識。

自主運作只會在可執行界線內創造價值

核心取捨在於更廣泛的代理權限，以及監督該等權限所需的工作。 限制代理可能降低其效用；擴大其權限，則可能令原本並非為代員工作出彈性決策的軟件而設計的系統承受風險。

相關界線涉及的是行動，而不只是生成的文字。系統可以提供合理解釋，卻同時要求作出不恰當的更改。反過來說，它亦可能誤解請求，但因權限阻止其執行具重大後果的操作，所造成的損害有限。這些結果取決於周邊控制措施。

HCLSoftware 的文件提供了一個可與較廣泛 TCS 方法比較的具體例子。其針對 BigFix AEX v13 的 代理管治功能 說明了存取限制、執行可見度、防護措施及終止開關。終止開關是一種在必須介入時停止代理運作的機制。

這些是供應商記載的功能，並非安全表現的獨立證明。其重要性在於細節層面：權限、可追溯性及停止執行均帶來具體的實施問題。買方可比起籠統的負責任 AI 承諾，更直接調查這些功能。

Tech Mahindra 則從代理底層系統的角度處理同一張力。其於 9 月 9 日公布的 受管治電訊架構 強調傳統環境碎片化及業務定義不一致的問題。該公司建議，電訊營運商在擴展自主營運前，先建立共享且受管治的基礎。

這些方法在不同層面處理相關問題。HCLSoftware 描述代理平台內的控制措施，Tech Mahindra 則強調代理所依賴的架構及業務語義；TCS 描述跨企業代理及應用程式的監督。它們並非可直接比較效能結果的可互換產品。

其共同前提是，自主運作取決於環境是否容許。若不同系統對同一企業規則有不同詮釋，代理便無法可靠地遵守該規則。更強的推理能力不會自動解決哪個定義具權威性，或哪個應用程式擁有最終決策權。

假設的電訊服務變更便能說明當中差異。代理可能需要協調客戶紀錄、服務可用性及營運系統。若這些系統對客戶權益存在分歧，單靠監察無法確立正確答案。企業必須解決底層規則，並在實際作出變更的位置執行該規則。

同樣的問題亦會出現在知識工作中。檢索到的文件可以提供有用背景，卻不代表獲授權執行其中內容。在可搜尋知識庫中整理技術資料的團隊，仍須區分參考資訊與已批准的操作指示。當檢索到的文字能影響行動時，這項區分便格外重要。

企業代理安全正是在這裡與資料管理交會。控制層需要具備足夠的背景資訊來評估請求，但分發更多資訊可能擴大存取範圍。設計必須在有用的背景資訊與底層紀錄所附帶的限制之間取得平衡。

監督亦會消耗營運資源。審批步驟需要審核人員，日誌需要解讀，例外情況需要負責人處理。供應商集中管理介面，並不會令這些責任消失。商業理據應計及維持控制措施有效所需的工作。

由此產生的架構，通常會在同一工作流程中授予不同程度的自主權。代理可獲得廣泛的資訊蒐集權限，但修改紀錄的權限則較為有限。在後果足夠重大時，可以要求人手審批，前提是審批者獲得足夠背景資訊以作決定。

這種安排會限制某些自動化形式，卻令另一些更容易獲得授權。只有當邊界反映業務流程時，這項取捨才值得。劃一限制可能阻礙日常工作，而劃一放權則可能令權限超出組織原本的意圖。

控制平面並不能證明代理安全

最重要而尚未解決的問題，是集中監督能否在複雜的企業環境中轉化為可強制執行的全面覆蓋。 整合清單和產品說明有助界定方案，但無法證明每項具重要後果的行動，都會通過所宣稱的控制措施。

管理層可以知道某個代理存在，卻未必控制其所有連接。它亦可能在底層系統已提交變更後才收到活動紀錄。買家需要區分發現、觀察、防止和復原，因為每一項支援的應對方式不同。

這項區分在故障期間尤其重要。可見的警告可支援調查，但本身無法撤銷行動。停止代理亦會留下問題：已完成的工作、已傳送的請求，以及正在另一系統等待處理的變更，應如何處理。

這些是評估問題，並非有關所列產品存在缺陷的證據。本文審閱的公開資料未有就這些行為提供共同測試標準。僅根據供應商公告來按安全效能為各供應商排名，仍屬言之過早。

BCG 在 8 月的分析支持企業控制平面的更廣泛理據。該分析指出，跨代理平台的碎片化管治，會帶來身分、政策、可視性及成本方面的問題。這屬顧問觀點，並非對本文所述實作的獨立驗證。

集中化本身亦值得審視。一個擁有跨業務系統權限的管理層，會成為需要保護及清晰管理的重要基礎設施。客戶必須了解誰能變更其政策，以及這些變更如何在整個環境中生效。

亦有可能把活動紀錄誤當成有用證據。日誌可記錄某項行動已發生，卻未必保留系統為何准許該行動。調查人員需要足夠背景資訊，才能重建請求、所套用的權限，以及最終產生的業務影響。

同樣的審慎原則亦適用於人手審批。若僱員收到未有說明的請求，單靠按下批准按鈕，便無法提供有意義的監督。真正的價值在於以可供當事人評估的方式，呈現相關證據、後果及替代方案。

控制措施亦可能與其原本要支援的業務目標衝突。過於廣泛的審批要求可造成排隊，並鼓勵繞過程序。寬鬆的例外處理流程則可能逐漸削弱原本政策。有效監督需要持續有人負責這些變更。

因此，對於比較 TCS AI agent controls 與其他方案的買家而言，欠缺的證據相當具體。他們需要在自身實際的應用程式組合中，看到遭拒絕的行動、被中斷的工作流程、政策變更及事故調查的示範。成功完成任務的示範，只回答了其中部分問題。

安全主張亦應與業務成果分開看待。一項部署可以節省員工時間，卻仍留下重要控制缺口。另一項部署可以套用嚴格控制，卻未能提供有用的自動化。兩種結果本身都不足以證明整體安排符合客戶需要。

商業層面的含意是，管治需要持續服務，而不只是安裝。應用程式會改變，員工角色會調整，業務規則亦會演變。在推出時符合環境需要的控制安排，之後亦需要有方法持續保持一致。

這項持續責任為印度 IT 公司帶來機會，但亦提高了其承諾的標準。客戶應能辨識誰負責維持覆蓋、誰處理例外情況，以及監督失效時誰作出回應。這些答案比泛泛而談的信任保證，更能令方案得到評估。

留意客戶證據、跨系統強制執行與部署決策

下一批有用證據將來自營運成果、覆蓋範圍細節及客戶的部署決策。 在未來數月，這些訊號可釐清 10 月所描述的控制層工作，是否正成為可重複運用的企業基礎設施。它們比另一項泛泛的負責任 AI 承諾更重要。

第一個訊號是更有力的客戶證據。在可披露的情況下，具名部署有助買家了解實作背後的情況。有用的案例應說明工作流程、授予代理的權限，以及由人員保留的責任。

就所報道的保險公司合作項目而言，更多交付範圍的細節將有助加強商業進展的圖像。生產環境運作的證據，回答的是與合作公告不同的問題。經獨立評估的成果，則可提供超越兩者披露的另一層支持。

讀者亦應審視客戶證據遺漏了甚麼。關於處理速度加快的故事，未必解釋例外情況如何處理。沒有界定測試範圍的安全主張，可能難以解讀。具體邊界令正面結果更可信，亦更容易移植至其他情境。

第二個訊號，是跨系統的實證強制執行。供應商可透過展示代理如何遇到被拒絕的請求、審批要求或被撤銷的權限，來強化其論點。重要細節在於，當這些情況出現時，已連接的應用程式實際會如何運作。

跨系統示範亦應揭示覆蓋範圍的限制。可信的架構可以說明它觀察哪些行動、防止哪些行動，以及哪些行動需要獨立的應用程式控制。清晰的限制為客戶提供設計決策依據，並減少事故期間的不確定性。

這個訊號將有助區分市場上的不同方案。平台層控制、企業整合及受管治的資料基礎，各自帶來不同貢獻。展示它們如何協同運作的證據，會比把它們視為所有風險的競爭答案更有用。

第三個訊號，是監督是否改變部署決策。Cognizant 的研究結果令暫停的項目值得關注，但該調查無法預測哪些項目會恢復。把明確控制改善與特定部署決策連繫起來的客戶案例，將提供更直接的證據。

該等證據亦應包括餘下的人手工作量。在把大量工作轉移至審批流程的同時恢復自動化，可能改變預期效益。買家需要了解完整的營運安排，包括審核、維護及事故處理。

更廣泛的業務問題是，供應商能否令這項工作可重複進行。高度客製化的合作項目可以解決某位客戶的問題，卻可能難以延伸至其他地方。可重用的控制措施仍須配合不同的應用程式、責任分工，以及對具重要後果行動的不同容忍程度。

TCS AI agent controls 屬於這場討論的一部分，因為它將企業監督與企業自動化並列。迄今證據支持市場對監督的需求，以及多種不同的實作方案；但仍不足以支持任何關於哪一家供應商提供最安全或最有效結果的普遍結論。

在你下一份代理方案中，要求團隊追蹤一項具重要後果的行動，從請求到執行的整個過程。識別誰授權、哪個系統強制執行邊界，以及事後留下哪些證據。然後以同等審慎程度檢視失效路徑：被撤銷的權限、互相衝突的資訊，或無法聯絡的審批者。這些情境會揭示成功示範可能隱藏的責任。請將評估繫於你的組織實際希望授權的工作流程。當討論由廣泛保證轉為可觀察行為時，TCS AI agent controls 與競爭方案便更容易判斷。在擴大代理權限前，應要求清楚說明誰可介入，以及該介入能達成甚麼。