Resemble AI Agent Detection 鎖定偽裝成人類的代理程式

Resemble AI 於 10 月 29 日推出 Agent Detection，目標是那些使用網站時看似人類訪客的 AI 代理程式。Resemble AI Agent Detection 處理一項棘手的區分：自動化訪客可代表合法客戶，卻隱藏該客戶帳戶的運作方式。識別自動化活動可協助網站理解這類行為，但不能判定該活動是否應獲准許。

這種張力令這項公告有別於一般的封鎖機械人產品發布。AI 代理程式是為達成目標而選擇行動的軟件，可替他人瀏覽產品、填寫表格及嘗試購買。網站必須決定是否歡迎這種委託、限制特定行動，還是拒絕該工作階段。

Cloudflare 及 HUMAN Security 已提供識別或量度代理程式流量的方法，令 Resemble 面對既有競爭對手，同時也有互補技術。Resemble 的具體主張針對偽裝自動化的代理程式。其公開結果值得關注，但其披露在人類流量上的錯誤同樣應獲重視。

Resemble AI Agent Detection 在封鎖決定前加入標籤

產品帶來的即時改變，是讓人看見自動化訪問，而非自動決定拒絕其存取。

Resemble 在其發布分析中表示，內部測試至少識別出 98.8% 的偽裝代理程式訪問。該公司稱，六款比較工具在這類別中的識別率介乎 3.1% 至 14.8%。

這些數字描述的是由供應商自行進行的基準測試，並非已獨立證實、適用於整個網絡的表現。比較包括 Cloudflare Turnstile、BotD、F5、Google reCAPTCHA、Akamai 及 Vercel BotID。Resemble 表示，當自動化留下可辨認痕跡時，所有工具均表現良好。

這個區分很重要，因為該公司最強的結果針對隱藏的自動化，而非所有類型的自動化流量。已能捕捉明顯腳本的網站，需要證據證明額外的偵測器可發現其現有控制措施漏掉的重要活動。

同一公告亦報告，在預設設定下，誤報率約為 5% 至 6%，即人類訪問被錯誤標記為代理程式。其僅針對代理程式的比較並未量度這種錯誤。Resemble 對基準測試範圍的描述亦不一致，同時提及 12 個及八個網站技術堆疊。

這些披露收窄了讀者可得出的結論。這次發布支持研究一種特定的偵測方法，但未能證明網站應信任每項回傳的分類，或取代現有防禦措施。

對企業而言，純觀察式部署可將這些問題分開處理。偵測器可標記訪問，而網站繼續如常運作。員工其後可檢視疑似代理程式是否遵循可辨識的客戶旅程，或是否與已確認的濫用行為相關。

這項工作亦會揭示系統之間的分歧。現有安全服務或會接受一個被新偵測器標記為自動化的工作階段。單憑任何一項判斷，都不能解釋訪客是打算購買、擷取資訊，還是濫用帳戶。

因此，有用的改變是為網站理解流量的方式增加一個類別。即使由軟件執行，原本可接受的活動仍可維持可接受。原本可疑的活動仍須調查，無論看似是否有人類操控瀏覽器。

Resemble 的公告把這個區分置於其商業主張的核心。偵測代理程式會產生網站可使用的資訊；其價值取決於營運者能否從中負責任地作出推斷。

客戶存取權令偵測成為商業決策

承受壓力的團隊，是同時負責防止濫用及讓客戶完成工作的團隊。

設想一個具說明性的結帳工作階段：客戶要求助理尋找替代辦公室顯示器，並在獲批限額內完成訂單。產生的瀏覽器活動是自動化的，但該購買仍可代表真實需求。

現在再考慮攻擊者利用自動化測試被盜帳戶憑證。兩個工作階段都可能涉及瀏覽、輸入，以及與常見表格的重複互動。即使偵測器為兩者賦予相同的廣泛代理程式標籤，它們的商業意義仍然不同。

這正是 AI 代理程式識別成為政策問題之處。安全人員需要有關可疑行為的證據；商務團隊需要客戶完成交易；支援人員則需要在有人報告助理遇到意外限制時提供解釋。

一概拒絕的規則，透過犧牲合法自動化存取權來解決分類問題。毫無限制地接受，則在保留存取權的同時，令敏感行動暴露於風險中。兩種回應都未有非常審慎地運用額外資訊。

較能站得住腳的區分，在於工作階段嘗試執行甚麼行動。閱讀公開產品描述，與更改帳戶復原地址所帶來的後果不同。同一訪客在這些行動中遇到不同要求，亦屬合理。

這項分析亦適用於零售以外的場景。工作場所助理可能收集參考資料、提交服務請求，或更新共享記錄。即使委託工作的人維持不變，每項行動都有其自身後果。

對知識工作者而言，實際關注點是連續性。能成功收集資訊卻無法完成提交的助理，會留下未完成的工作流程。用戶需要知道哪些行動已發生，以及哪些仍需他們留意。

這令可追溯性與偵測同樣有用。維護可搜尋知識庫的團隊，可在檢視中斷的工作流程時保留來源資料及決策。這些記錄的用途，與決定誰控制瀏覽器不同。

因此，企業買家應把流量分類與交易問責分開看待。偵測器可為自動化提供證據，但單靠分類，不能確定客戶指示的範圍，亦不能釐清錯誤行動的責任。

組織上的挑戰是為回應措施分配擁有權。若安全團隊更改存取規則，商務及支援團隊便需要了解其後果。否則，技術上成功的偵測可能造成無人準備處理的客戶問題。

Resemble 的機會在於令這種討論更具體。經量度的代理程式類別，讓團隊有事情可調查；同時也迫使他們說明，實際上打算支援哪些自動化客戶活動。

瀏覽器身分不足時，行為可提供證據

Resemble 的技術主張是，即使瀏覽器呈現一般身分，互動模式仍能揭示自動化。

產品背後的模型 RAD-S1 結合行為分析及額外瀏覽器訊號。根據 Resemble 的技術說明，其行為偵測模型會檢視移動、點擊、捲動及輸入模式。

該公司描述一段約 25 KB 的收集腳本，每 1.2 秒傳送一批資料。初步檢查會在約五次行動或 50 次指標移動後進行。評分則在 Resemble 的伺服器上執行。

Resemble 表示，伺服器檢查的中位回應時間約為 120 毫秒，而 95% 可在 200 毫秒內回應。這些數字針對證據收集後的個別檢查，不應理解為由頁面載入至取得可用分類的總時間。

這種時間差異對具後果的行動很重要。網站不能假設訪客提交表格前，證據總會及時到達。其存取政策須顧及分類仍不可用的期間。

RAD-S1 偵測亦改變了網站對訪客所作聲稱的性質。瀏覽器身分描述客戶端自稱是甚麼；行為分類則估計看似正在操作它的是哪一類行為者。

兩個類別都不能確定意圖。類人行為可伴隨濫用工作階段，而明顯自動化的行為亦可伴隨合法購買。當網站把這些問題分開處理時，便有更強基礎進行調查。

獨立研究支持調查多種訊號，但未有驗證 Resemble 的具體結果。Iliana Fayolle 及其同事在 6 月的一份預印本中，研究了六個網絡代理程式所產生的網絡、請求及瀏覽器證據。他們的多層指紋辨識研究發現，部分代理程式可繞過受評估的防禦措施，但透過組合訊號仍可辨別。

研究人員亦發現，匿蹤技術有時反而提高可偵測性。這項發現令「偽裝瀏覽器會變得無法被常規檢查發現」這種簡單說法變得複雜。隱藏可移除一項常見線索，同時引入另一項。

這讓買家有理由在自己的流量上比較不同方法。相關問題是，行為證據是否在既有訊號以外帶來有用資訊。高的獨立偵測分數無法回答這個增量問題。

同樣的推理亦限制了對整個競爭對手平台的結論。針對指定挑戰或偵測產品的基準測試，只評估所測試的配置；並不自動描述該供應商在其他地方提供的每項能力。

對開發人員而言，這個機制令證據收集與受保護行動之間形成依賴關係。被動瀏覽留有時間觀察訪客；工作階段初期出現的敏感行動則帶來不同問題。

更廣泛的含意是，瀏覽器外觀已不足以作為決定存取權的完整依據。Resemble 提出另一個證據來源；買家仍須確定該證據何時到達、幫助是否一致，以及可支援哪些決定。

已聲明身分與行為偵測解決不同問題

競爭上的分野，在於網站如何建立身分及權限，而非它們是否歡迎自動化。

Cloudflare 文件介紹Web Bot Auth，這是一種以加密簽名驗證自動化請求的方法。加密簽名可提供可驗證證據，證明請求來自持有特定簽署金鑰的一方。

這種方法處理的是已聲明的自動化。它讓合作客戶端能以比可編輯瀏覽器描述更強的證據表明身分。行為偵測則處理另一種情況：訪客並未提供可信的身分識別。

這些方法可以互相配合。網站可驗證已聲明代理的來源，同時另行檢查該工作階段的行為是否在可接受範圍內。它亦可調查未提供已驗證身分的自動化活動。

認證後仍有權限問題。知道請求來自哪項服務，並不代表客戶已授權其執行所有要求的操作。網站必須另行決定該已認證服務可在帳戶中進行甚麼操作。

這正是 AI 代理識別的核心限制。來源、自動化、客戶同意及獲准操作描述的是相互關聯但不同的事實。將它們歸併為單一的可信或不可信標籤，會掩蓋決策實際所需的證據。

HUMAN Security 透過代理可視性切入市場，強調分類及量度代理歷程。其資料描述如何區分人類、機械人及代理互動，包括自動化歷程在哪些環節轉換或停止。

這一定位與 Resemble 為理解流量提出的商業理據有所重疊。它亦顯示，代理可視性早已超越單純的封鎖類別。供應商正競逐如何讓網站解讀自動化客戶活動。

現有產品描述不足以建立這些公司之間中立的效能排名。它們所聲稱的能力、部署情境及評估方法各有不同。買方需要相符的證據，才可把一家供應商的說法視為對另一家的定論。

因此，企業比較應從尚未解決的任務開始。難以識別互相協作代理的網站，面對的缺口不同於正在調查隱藏自動化的網站。嘗試量度輔助購買行為的網站，則面對另一種問題。

這項區別亦影響成功的定義。更佳的身分驗證可減少對操作者的不確定性。更佳的行為偵測可揭示隱藏控制。更佳的歷程量度可解釋為何合法的自動化客戶會放棄任務。

Resemble 以一項特定的行為主張進入這個市場，而非宣稱擁有整個代理存取問題的解決方案。其機會在於，這類證據填補可觀察到的缺口。現有身分及權限系統，對後續決策仍然重要。

對客戶而言，理想結果是可預測的委派。助理應在支援的情況下表明身分，獲得易於理解的限制，並清楚交代已發生的事情。當偵測有助帶來這種可預測的體驗時，才會發揮作用。

誤報與最終判定界定限制

偵測器是否有用，取決於其錯誤所帶來的後果，包括不屬於主要基準測試範圍的錯誤。

Resemble 的整合文件描述人類、代理及審查判定。文件亦指出，互動不足的造訪可能在沒有判定的情況下結束。因此，缺乏證據應與證明訪客是人類的證據明確區分。

文件指出，判定一經作出即為最終結果，並會停止收集該次造訪的資料。這引出一個有關控制權其後轉移的工作階段評估問題。買方應詢問產品的工作階段邊界及最終分類，如何與人類轉交予代理的情況互動。

這個問題並不代表存在漏洞，亦不會否定該公司的測試。它指出，在網站於重要客戶歷程中依賴早期分類前，有關行為值得獲得清晰解釋。

Resemble 亦警告，有決心的攻擊者可偽造由瀏覽器提供的訊號。其文件將系統描述為提供參考意見。這項保留為把回傳分類解讀為確鑿證據劃出明確界線。

私隱帶來另一項界線。Resemble 表示，它記錄關鍵類別而非輸入文字、在儲存前雜湊訪客 IP 位址，並保留選定的事件串流。這些是公司對收集做法的描述，並非獨立的私隱評估。

買方仍需了解部署的目的及保留資料的選擇。行為數據不會僅因排除訊息內容而與私隱無關。機構應評估自己收集甚麼，以及為何需要收集。

已披露的人類錯誤率，在面向客戶的決策中尤其值得注意。錯誤的分析標籤可能扭曲報告。同一錯誤標籤若觸發自動帳戶限制，則可能令某人無法完成必要工作。

這正是評估精確率的重要原因。精確率量度被標記的工作階段中，有多少實際屬於所標記的類別。它有別於召回率；後者量度偵測器捕捉到多少實際代理工作階段。

代理流量的比例會影響這些指標的關係。當人類造訪遠多於代理造訪時，對人類的錯誤可主導審查佇列。偵測器即使能捕捉大部分代理，仍可能產生需要大量覆核的標籤。

這項觀察不會自動得出任何部署估算。買方需要自身的流量分布，以及獨立確立的標籤。重點是，單憑高代理捕捉率，無法預測執行措施的工作量或對客戶造成的影響。

覆蓋範圍亦很重要。只分類高互動工作階段的偵測器，與評估大多數造訪的偵測器，留下的缺口並不相同。報告應讓未分類流量清晰可見，而非默默將其排除於分母之外。

無障礙使用亦值得刻意評估。買方應測試支援的輸入方式及客戶行為的一般差異。經審閱的來源未能證實存在特定無障礙問題，但亦未能確定在這些情況下的效能。

這些問題令 RAD-S1 偵測成為一項營運評估，而非單一百分比的競賽。有用的門檻取決於所採取的行動、可取得的佐證，以及錯誤決策的代價。

關注驗證、客戶結果及委派存取

下一步證據應顯示，Resemble 的標籤是否能在真實客戶情況下改善決策。

首個值得關注的訊號，是一項同時涵蓋人類及代理的可重現評估。它應披露測試配置、錯誤率、未分類造訪，以及對此前未見自動化活動的效能。可比較的條件比更高的宣傳分數更重要。

若優勢能在相符測試中維持，這類評估將加強這次發布的競爭主張。若在新情況下出現顯著下跌，該主張便會收窄至模型已展示有用成果的環境。

獨立測試亦應區分偵測速度與決策覆蓋範圍。在有足夠活動後迅速回應，並不保證在每項敏感操作前都會完成分類。買方需要與其實際工作流程時間安排相符的證據。

第二個訊號是客戶結果報告。有用的部署應展示，為代理流量加上標籤是否有助操作人員理解已完成的任務、中斷、支援聯絡及已確認的濫用。單靠偵測數量不足以證明商業價值。

僅觀察的推出方式，提供了一種在引入限制前研究這些關係的方法。操作人員可檢視分歧、覆核懷疑錯誤，並識別哪些操作需要額外證據以改善判斷。所得結果應決定是否擴大執行措施。

若證據顯示有害交易減少，同時沒有不必要地中斷客戶，便會加強採用的理由。即使底層偵測器持續捕捉代理，支援投訴上升或無法解釋的放棄行為，仍會挑戰所選的回應政策。

第三個訊號，是網站與代理供應商之間更清晰的委派存取機制。已驗證來源解決問題的一部分。明確而有限的客戶授權則解決另一部分。進展需要網站傳達已識別代理獲准進行甚麼操作。

這並不要求每個網站採用相同的商業安排。它要求更清楚區分助理的身分與其權限。客戶要求研究某件商品，不應意味著可不受限制地存取帳戶。

若協作有所改善，較少合法代理需要偽裝成一般人類流量，才能完成獲支援的任務。行為偵測仍會在調查未聲明或具欺騙性的活動中發揮作用。其角色將更具體，也更容易評估。

Resemble AI Agent Detection 透過把隱藏的瀏覽器自動化視為可量度類別，為這場討論作出具體貢獻。現有證據支持審視這種方法，同時須留意其基準限制及已披露的人類錯誤。

在擴大代理對你的帳戶或業務工作流程的存取權前，應先問清楚網站實際識別到甚麼。它知道操作者、客戶的許可，還是只知道互動看似自動化？保留所要求任務的紀錄，並核對助理已完成的事項。正評估這次發布的買方，應要求提供與自身流量相似的證據，包括人類錯誤及未作決定的造訪。有用的結果是更清晰的存取決策，並有與後果相符的證據支持。在機構已委派予軟件的工作流程中，這項決策哪一部分仍未解決？下一項限制生效前，誰會覆核它？