JPMorgan AI Agent 限制揭示銀行授權缺口
JPMorgan 對 AI agent 的限制突顯銀行業的一項矛盾:客戶希望軟件代為行事,銀行則需要其獲授權的證據。BankInfoSecurity 於 10 月 30 日報道,金融機構正限制未獲授權的 agent,或只准其閱覽資訊。AI agent 是會為達成目標而選擇及執行行動的軟件,所引發的問題並非成功登入便能解決。
眼前的爭議在於權限。客戶或許歡迎助手存取帳戶,但銀行可能禁止該種存取方式。即使各方都能識別該軟件,仍須就客戶授權了哪些行動達成共識。閱覽交易、修改帳戶設定及轉移資金,需要作出不同決定。
Microsoft 與 Visa 正在開發 agent 身份識別方案,而 National Institute of Standards and Technology 正研究實施做法。這些工作提供了有用的背景,但不足以證明銀行已解決消費者授權代理的問題。核心取捨仍是存取與問責之間的平衡:實用的自動化需要操作空間,但金融機構亦需要可執行的行動界線。
JPMorgan AI agent 限制實際確立了甚麼
據報的限制針對的是存取條件,並非否定 AI 在銀行業的所有用途。
BankInfoSecurity 的報道指出,JPMorgan、Morgan Stanley、Bank of America 及 Wells Fargo 等機構正面對未獲授權的 agent 存取問題。報道提及限制措施及唯讀替代方案,即只可閱覽資訊而不可作出修改的存取方式。因此,銀行存取限制反映的是一系列應對方法,而非劃一禁令。
這項分別改變了讀者解讀標題的方式。限制外部助手,並不代表銀行已停止開發內部自動化方案;同樣亦不代表所有涉及軟件的連接都違反該機構規則。
相關界線在於獲認可的存取,以及經由不受支援途徑發起的活動之間。Agent 即使能成功連接帳戶,也未必具有銀行接受的關係。技術能力與機構許可,仍是兩個不同問題。
公開紀錄亦包含一項重要保留。Morgan Stanley 向 Axios 表示,該行未曾發現「流氓 AI agents 存取我們的平台」,這為外界對據報未獲授權帳戶存取的解讀降溫。
因此,讀者不應把這宗事件演繹為已獲證實的自主金融不當行為。限制措施顯示機構有所憂慮,並正回應風險暴露;但單憑這些措施,並不足以證實已有損失、欺詐轉帳,或被點名機構普遍出現技術故障。
報道亦未釐清政策細節。它沒有提供每家機構已批准的 agent、受限制功能、執行日期或例外情況的完整可比清單。對於嘗試確認某項產品是否仍可使用的人而言,這些缺漏相當重要。
對企業買家而言,這種不確定性令金融自動化承諾變得複雜。示範可以顯示助手如何瀏覽網站,但無法證明網站營運者准許其持續存取,或接受助手對客戶指示的詮釋。
對消費者而言,這項分別同樣實際。要求助手整理財務資訊,與授權它更改財務安排並不相同。模糊這些權限的產品,會令客戶不清楚自己實際批准了甚麼。
這正是 JPMorgan AI agent 限制值得在登入被阻之外受到關注的原因。這場爭議揭示了客戶、agent 營運商及持有帳戶的機構之間欠缺協議。每個參與方都需要一致理解該軟件可以做甚麼。
可行的連接必須在產生重大後果的行動前回答這個問題。否則,銀行面對的活動紀錄只顯示有人存取,卻未必能說明背後的授權。
客戶希望獲得協助;銀行需要可歸責的行動
壓力落在必須分辨客戶目標與軟件所選步驟的機構身上。
設想一名假設中的客戶要求助手編製每月財務摘要。這項要求看似狹窄,但軟件仍須決定檢視哪些帳戶及文件,也必須決定把完成的摘要放在哪裏。
現在再設想同一名客戶要求它改善現金狀況。這項指示表達了一個目標,卻沒有指明可接受的行動。提出建議、作出轉帳及修改定期付款,代表了實質不同的詮釋。
這些例子說明授權問題;它們並非描述被點名銀行已確認發生的事件。其重要性在於對話式要求與可執行權限之間的差異。金融系統需要的是後者。
授權是決定已識別行動者可獲准執行哪些操作。認證則是核實誰或甚麼正在請求存取,所處理的是另一個問題。銀行可以識別一名行動者,同時拒絕其特定請求。
這種區分為 agent 開發商帶來壓力。圍繞廣泛對話式目標設計的助手,需要把這些目標轉化為有限且可審核的操作。它對意圖的說明,不能取代機構的權限檢查。
這同樣為銀行產品團隊帶來壓力。一刀切的限制提供清晰界線,卻令客戶缺乏可取得其他合理協助的認可途徑。認可途徑則需要就資訊存取、修改、監督及撤回同意作出決定。
這項挑戰亦延伸至客戶支援。若助手執行了客戶不希望的操作,機構需要對事件作出有用交代。一份寫着客戶想要協助的對話紀錄,未必能解決有關具體操作的爭議。
充分的紀錄應區分客戶的要求、獲授予的權限,以及軟件嘗試執行的操作;亦應顯示機構是否批准該操作。這些是建議的問責標準,而非已確認在本報道所述各銀行普遍具備的能力。
經濟上的張力隨之而來。當助手能跨服務完成工作時,便會更有用;而每項服務都要在自身管控下,決定接受哪些請求。
這種安排削弱了一項假設:更強大的模型自然會造就更強大的金融產品。存取取決於機構是否願意認可該連接;單靠更好的推理能力無法取得這種認可。
知識工作提供了一個有用比較。個人知識庫關乎收集及擷取資訊,而交易權限則引入額外的權限界線。產品說明應清楚交代其提供的是哪一類協助。
對買家而言,這項分別應在評估初期便受到重視。關鍵問題是產品在真實帳戶條件下,可透過認可途徑執行哪些操作。一個具說服力的示範應讓這些界線清晰可見。
身份產品處理的是問題的不同部分
Agent 身份基礎設施提供建構模件,但不同產品管理的是不同關係。
Microsoft 將 Entra Agent ID描述為用於建立、管理及管治 agent 身份的框架。其文件提及身份範本、存取控制及活動紀錄。Microsoft 亦表示,該平台支援在其自身產品系列以外建立的 agents。
這種做法處理的是企業管理問題:在機構系統內賦予軟件可識別身份。它提供了一種把 agents 視為受管理行動者的方式,但並不代表外部銀行會接受某家企業的 agent。
Visa 的 Trusted Agent Protocol則處理另一種關係,即獲批准 agents 與商戶之間的關係。Visa 描述了商戶可驗證的已簽署請求,並附設消費者識別及付款的額外規定。數碼簽署為訊息的來源及完整性提供加密證據。
這項區別十分重要,因為購物存取與銀行存取涉及不同決定。識別獲批准的購物 agent,並不會自動授權其在其他地方進行帳戶維護或資金轉移。每項接收服務仍需要適合自身操作的規則。
這些方法不應被視為在同一份清單上競爭的可互換方案。Microsoft 著重企業身份管理;Visa 則著重在商業活動中可識別的 agent 請求。它們是否相關,取決於擬議工作流程在哪裏跨越組織邊界。
就 JPMorgan AI agent 限制而言,實際問題是外部助手能否提出機構認可的授權證明。Agent 在另一家公司平台內的身份,本身並不足夠。銀行必須理解該身份代表甚麼。
一個假設中的助手說明了這個缺口。它的僱主或許能識別它、記錄其活動,並限制其存取內部文件;但這些管控並不能告訴銀行它代表哪個客戶帳戶。
即使已建立獲認可的客戶關係,仍有更多問題需要解答。機構需要決定允許哪些操作,以及該權限是否仍然有效;當客戶撤回該權限時,亦需要作出回應。
這為相互競爭的科技供應商帶來協調問題。產品可以妥善管理自身身份,卻仍然令外部機構難以評估。本地保證與共同接納,是兩種不同成就。
因此,買家應仔細審視身份聲稱的範圍。「該 agent 擁有身份」只描述一個起始條件,並未說明哪些機構接受該身份,或允許它採取哪些行動。
互通性的聲稱亦然,即不同供應商的系統能夠協同運作。成功連接只證明可以通訊;可靠的金融工作流程還需要相容的權限規則,以及在出錯時可理解的紀錄。
因此,最可能帶來差異化的來源是操作層面的具體說明。供應商需要交代行動者、所代表的客戶、獲允許的操作,以及接收機構是否接受。泛泛而談可信任 agents,仍留下太多未解決問題。
那是根據不同產品範圍得出的分析結論。文件並未確立普遍的贏家,亦未顯示業界已達成共識。
認識代理程式並不代表交易已獲授權
可識別的代理程式仍可能在客戶原意授權範圍以外請求操作。
NIST 於 8 月 27 日討論代理程式身分基礎時,警告不要共用憑證、授予過多權限,以及依賴重複的人手批准。該機構指出,現有身分管理做法提供了基礎,但消費者代理程式帶來額外難題。NIST 亦區分了受管理的企業部署,以及機構無法控制的外來代理程式。
其分析支持對身分產品作出審慎解讀。為軟件提供獨立身分,可提升識別行為者的能力;但這並不能解決該行為者應採取甚麼行動的所有問題。
當任務在執行期間發生變化時,未解決的問題便會變得清晰。一個正在準備報告的助理可能發現資料缺失,並嘗試尋求另一項連接。原本目標維持不變,但所要求的存取權限已擴大。
合理的控制界線應明確評估這種擴展,而不應假設完成目標的許可涵蓋達成該目標的每一種途徑。當某項行動造成超出資料擷取範圍的後果時,這點尤其重要。
人手審核同樣需要仔細解讀。確認畫面可以記錄批准,但其作用取決於客戶實際理解了甚麼。對「繼續」的含糊要求,遠不及解釋擬議操作來得清晰。
這並不表示客戶批准毫無意義,而是指批准需要有明確對象:帳戶、行動及相關後果。否則,介面可能只是在收集同意,卻未有消除不確定性。
同樣的推理適用於持續存在的權限。客戶可能批准某項即時任務的存取權,卻無意建立無限期的關係。產品設計必須區分工作流程的持續時間與其授權的持續時間。
撤銷,即撤回既有權限,帶來另一條界線。停止日後存取,不能自動撤回已完成的操作;亦不能保證此前交付的資料已從每一個目的地消失。
因此,唯讀存取可降低某一類風險,卻不能消除所有曝露。查閱財務資料仍會引發處理、保留及後續分享的問題。機構准許查閱的決定,不應被解讀為對每一種下游用途的一概認可。
這些區分說明,核心衝突不僅是偵測機械人。銀行可以識別自動化流量,卻仍缺乏令人滿意的依據去接受其指令。偵測識別的是一種狀況;授權則需要作出決定。
它們亦說明,聲稱提供完整解決方案的說法值得審視。供應商可能展示識別能力、有限存取,或一個批准介面;但單靠任何一項展示,均不能證明整個工作流程保留了客戶原意。
合適的標準應是與擬議操作相關的證據。即使代理程式行為正確,這個標準依然嚴格。銀行需要一套程序,能如同解釋成功示範般清楚地解釋失敗與爭議。
證據未能確立一項普遍的銀行政策
已報道的限制具有意義,但現有證據不支持將每間銀行或每個代理程式視為等同。
來源報道結合了機構回應、專家關注及對客戶需求的預期。這些類別帶有不同的證據分量。已報道的政策決定,與專家對採用方向的預測並不相同。
在 BankInfoSecurity 的報道中,Domino Data Lab 安全主管 Chris Talevi 強調問責,而 Uptiq AI 創辦人 Snehal Fulzele 則警告客戶可能感到挫折。Fulzele 亦呼籲採取人手監督。他們的立場反映真實的取捨,但兩者均不能證實一致的客戶行為或已驗證的實施方式。
這個分別對評估商業預測至關重要。客戶希望獲得協助,並不能告訴我們他們會接受哪一種存取模式;也不能證實不受限制的助理比範圍較窄、獲機構批准的工作流程表現更佳。
同樣地,機構的審慎態度亦不能證實所有外部自動化均不安全。限制可能反映對身分、權限、合約或支援責任的不確定性。公開證據未有為每間機構分離出單一解釋。
因此,JPMorgan AI 代理程式限制不應成為已定論的業界裁決的簡稱。較可辯護的結論關乎存取關係。金融機構正面對一些助理,其權限不能僅從客戶能夠登入推斷出來。
證據亦留下了一個競爭問題。獲機構批准的助理可能提供較清晰的界線,但要求客戶使用分開的體驗。外部助理承諾可跨服務維持連貫性,卻必須在每個界線爭取接受。
兩條路線均不會自動解決客戶的問題。一組彼此分開的助理可能令任務變得零散;一個廣泛連接的助理,若其權限仍不清楚,便可能難以監督。
有意義的比較是已完成的工作流程。客戶能否理解其範圍、從錯誤中復原,以及停止進一步行動?機構能否區分獲准的協助與不受支援的行為?
這些問題避免假設自主性本身就是產品質素的衡量標準。對某項特定財務任務而言,一個以清晰授權完成較少操作的系統,可能更可靠。這是設計判斷,而非對具名產品的結論。
證據亦不足以預先分配財務責任。責任取決於具體情況及適用安排。關於代理程式存取的新聞標題,無法解決假設性爭議的結果。
對讀者而言,有用的懷疑態度應精確而非一概否定。應問清楚哪些說法描述已觀察到的行為、哪些描述機構政策,以及哪些描述供應商預期提供的能力。將這些類別分開,能令報道更具資訊價值。
這亦保留了進展的可能性。限制可與範圍較窄、獲批准的存取並存。重要問題是,機構與供應商是否把這些途徑說明得足夠清楚,讓人可以使用及評估。
留意獲批准的存取、跨供應商測試與實務標準
下一批有意義的訊號將顯示,機構能否在可於真實工作流程中維持的界線下,容許有用的行動。
第一個訊號是金融機構提供更清晰的獲批准存取。在未來數月,留意公開說明是否列明支援的連接及允許的操作。歡迎 AI 的籠統聲明,比不上對可用存取方式的具體描述所提供的證據。
最具資訊價值的披露會區分查閱資料與改變帳戶狀態,亦會解釋客戶如何授予及撤回權限。這類細節會加強一項論據:限制正讓位予受控參與。
持續含糊會削弱這項評估。客戶與開發者無法可靠地圍繞未有記錄、或只依賴一次示範成功的權限進行建設。可用性需要不只是偶爾的技術成功。
第二個訊號是跨供應商測試,展示授權如何在整個工作流程中持續有效。留意涉及外部代理程式及接收機構的示範,且後者有獨立執行的限制。相關結果是,被禁止的操作是否仍然被封鎖。
有用的測試亦應揭示失敗行為。當同意到期、要求的操作改變,或連接停止運作時,會發生甚麼?可預測的失敗證據,比一連串經精心修飾的成功步驟更能告訴買家實情。
對 Microsoft、Visa 及其他參與者而言,問題在於其各自的方法如何連接到獲接受的操作。單靠擴充產品並不能證明這種連接。對接收方接受程度作出清晰說明,將提供更有力的證據。
第三個訊號是標準機構的實務實施工作。NIST 於 9 月 29 日發布的身分項目更新指出,其安全軟件開發項目將提供首個實施用例。這為測試代理程式識別、驗證及授權確立了具體方向。
所選場景相當重要。軟件開發的證據可闡明實施問題,但不應被呈現為已完成對消費者銀行服務的驗證。要轉移至另一個場景,必須檢視該場景的操作及責任。
未來數月,有用的成果應明確列出假設與執行界線。實際例子會加強人們對既有身分基礎可支援代理程式工作流程的信心。沒有可檢視實施方式的廣泛承諾,將令目前的不確定性大致維持不變。
這些訊號均不需要戲劇性地宣布不受限制的自主性。進展可以呈現為客戶理解、且機構持續支援的較窄連接。這種結果比另一項泛稱代理程式具備能力的說法,更直接處理核心存取問題。
在採用財務助理前,應要求其供應商指出獲批准的存取途徑,並描述每項支援操作背後的授權。詢問當指令變得含糊、權限終止,或機構拒絕請求時會發生甚麼事。在依賴某個工作流程前,應將 JPMorgan AI 代理程式限制視為要求取得這些答案的理由。至於相關的知識工作,應把資料組織與作出具後果改動的權限分開。評估在有文件記錄的條件下實際可用的協助,包括其失敗行為。然後留意獲機構批准的存取及獨立實施證據。供應商能否證明,助理的權限從客戶的請求到最終行動仍然清晰易懂?



