top of page

NEAR AI RED 向安全團隊開放,提供私密、無審查模型

1 小時前
讀畢需時 12 分鐘

NEAR AI RED 正接受安全團隊加入一項圍繞私密、無審查 AI 建立的計劃,同時明確指出,存取模型並不需要加入該計劃。這項區別相當重要:該計劃提供的是與 NEAR AI 更緊密的合作關係,而非使用其網絡安全模型的專屬許可。

10 月 30 日流傳的公告,聚焦 AI 安全領域一項實際矛盾。防禦方希望模型能審視敏感弱點,而不會拒絕正當工作;供應商同時亦必須處理可能協助攻擊者執行類似工作的能力。

NEAR 的做法與 Anthropic 的經核實存取計劃形成對比,後者會按機構的工作性質調整存取權限及保障措施。兩種做法均不會免除買方的責任。安全團隊仍須取得證據,證明協助確實有用、機密處理如所述般運作,以及測試維持在獲授權的範圍內。

NEAR AI RED 圍繞已可使用的模型推出團隊計劃

即時改變是面向安全團隊的合作計劃,而非底層模型的專屬開放。

NEAR 的網絡安全模型頁面指出,所有 NEAR AI Cloud 帳戶均可使用這些模型。RED 面向紅隊、審計人員及內部應用程式安全團隊。紅隊會進行獲授權的對抗測試,在真正的攻擊者加以利用前找出弱點。

這項區別避免人們輕易誤解標題。團隊毋須先獲准加入 RED,便可評估所宣傳的模型;相反,加入計劃會帶來提早存取模型、工作坊、社群參與及聯合市場推廣等機會。

這些權益列於官方的安全團隊申請表。表格亦要求申請者只就自己擁有或已獲書面許可測試的系統進行合法研究或獲授權測試,並要求申請者確認,無審查模型可能產生有害或不正確的輸出。

這項確認應與產品定位一併審視。移除拒答行為,改變的是模型會嘗試回應甚麼問題;這並不表示其答案能識別真正的漏洞、保留相關脈絡,或提出合適的修正建議。

因此,對買方而言,這項開放帶來的是評估機會,而非一套已完成的採購論據。可存取的模型可按既有工作流程測試;會員計劃可協助團隊與供應商討論問題。若沒有結果,兩者均無法證明營運價值。

產品存取與機構採用之間亦存在重要差異。個別研究員或可立即建立帳戶,但公司仍須就計劃提交的資訊及進行的活動取得批准。

考慮加入該計劃的安全經理,必須把這些決定連結起來。技術團隊希望獲得有用的回應;採購部門希望有清晰的承諾;法務及安全管理層則需要就測試及資料處理的範圍達成共識。

本文審閱的推出資料,並未證實其在漏洞偵測方面具比較優勢,亦未提供獨立證據證明 RED 會員能更快解決安全問題。這些仍是有待評估的問題,而非由開放申請所支持的結論。

這使新聞的涵義比「AI 將取代安全工作」這類一般說法更具體。NEAR 正圍繞一個明確的買方問題建立服務:在不造成不必要拒答或資料暴露的情況下,進行敏感的防禦性分析。其意義取決於這項主張在實際安全工作中的表現。

安全領導層必須一併評估存取與問責

更容易的存取,令採購決策更偏向內部授權、證據質素,以及對相關工作結果的責任。

對安全領導層而言,這種吸引力不難理解。願意處理棘手問題的模型,可協助研究員調查可疑弱點;反覆拒絕相關分析的模型,則可能中斷這個過程。

然而,願意回答只是初步條件。回應可以詳盡、看似合理,卻在技術上錯誤;它亦可能識別出真正問題,但誤解利用該問題所需的條件。

設想一個假設情境:應用程式安全團隊在內部服務推出前進行審查,並希望協助解讀一段可疑的程式碼路徑。對團隊而言,有用的結果是一項工程師可驗證及處理、可重現的發現。

單憑一段自信的解釋,並不符合這個標準。研究員仍須確認該行為是否存在、攻擊者是否能觸及,以及現有控制措施是否改變其重要性。

同樣的區別亦適用於負面結果。模型沒有發現問題,並不代表服務已獲認證為安全;其沉默可能反映脈絡有限、理解不完整,或弱點存在於其未審閱的資料之外。

這些是評估考量,而非關於 NEAR 模型的已報道發現。它們說明存取公告為何對買方重要,但並未證明產品的成效。安全團隊必須衡量答案送達後實際完成的工作。

壓力尤其會落在負責管理有限審查資源的經理身上。只有當研究員能有效評估額外發現時,產生更多發現才有幫助;大量缺乏支持的主張,反而可能耗盡原本希望由助手節省的資源。

因此,有用的比較應同時檢視獲接納的發現及審查人力。團隊亦應區分新發現的問題與既有工具已識別的問題,否則表面上的生產力可能只是重複報告。

授權亦構成另一條界線。獲准審閱原始碼,並不自動授權測試正在運行的客戶環境;獲准進行受控測試,亦未必涵蓋每項相連服務。

即使模型本身不會執行這些界線,私密安全 AI 仍須配合它們。使用該模型的機構,仍須為其工作範圍負責;供應商提供的存取權,不能取代系統擁有者的許可。

這項責任亦延伸至產生的證據。發現需要具備足夠脈絡,讓另一位審查者理解其依據;敏感細節則需要在研究員、開發人員與經理之間交接時仍能維持的處理規則。

可搜尋知識庫可支援獲批准的技術文件及過往決策,但其權限及保留規則仍須配合資料的敏感程度。

更廣泛的含義在於組織層面。更容易存取模型,可縮短好奇心與實驗之間的距離;安全領導層必須確保,實驗與可問責使用之間的距離同樣清晰。

開放存取與經核實存取提供不同答案

核心競爭差異在於供應商把存取控制放在哪裡,而非防禦方是否應使用 AI。

Anthropic 於 10 月 6 日擴展其網絡驗證計劃,提供另一種做法。它透過不同存取類別,向合資格安全專業人士提供進階能力及較少的攔截限制。

該計劃區分防禦性工作、獲授權的對抗測試,以及特別敏感的系統;驗證要求及控制措施會按範圍而異。Anthropic 亦表示,其普遍可用的模型支援多項活動,包括程式碼審查、修補,以及在自有原始碼中尋找漏洞。

這個背景限制了任何「主流模型一概拒絕安全工作」的籠統說法。供應商早已區分不同活動、用戶及部署條件;爭議在於這些區分的準確性、摩擦及後果。

NEAR AI 的網絡安全定位,強調模型可在沒有拒答行為下處理安全問題;RED 會員資格與這項存取安排並列。Anthropic 的計劃則將驗證納入其框架下取得更廣泛能力的過程。

這些選擇以不同方式分配責任。廣泛可用性讓團隊毋須加入專門計劃便可開始評估服務;經核實存取則引入外部審查,可塑造供應商容許進行甚麼工作。

兩種設計均不會自動預示特定模型的質素。存取政策與技術能力是不同維度;寬鬆的模型在獲授權任務上,可能不及受限制的競爭對手。

受限制的模型亦可能造成中斷,削弱其實際效用。買方需要同時評估完成工作質素及取得該工作的摩擦程度;單獨衡量其中一個維度,只會得出不完整的比較。

自託管,即在由機構控制的基礎設施上運行模型,是另一個參考點。它可讓團隊更直接控制配置,但亦將基礎設施營運及維護責任交予該機構。

這項選擇應納入採購討論,但不應成為主要焦點。團隊可能偏好營運控制、託管服務,或因應不同資訊採用不同安排;相關問題是其實際能管理哪些責任。

比較亦不應把「無審查」視為完整產品規格。這個標籤描述的是拒答行為的改變,並未說明模型的推理質素、支援的脈絡、可靠性,或其與既有審查流程的契合度。

同樣地,「經核實存取」並不代表所有任務都有單一體驗。重要的是特定工作流程可獲授予的許可;買方應評估自己實際可取得的安排,而非供應商宣傳的最廣泛能力。

對小型研究團隊而言,申請摩擦可能十分重要;對大型機構而言,有文件記錄的存取限制可能更符合既有審批流程。這是不同的營運要求,並非證明任何一方買方誤解安全問題。

因此,競爭壓力相當具體。NEAR 需要證明其存取方式能支援有用的防禦性工作;經核實存取供應商則需要證明,其控制措施能區分正當工作,而不會不必要地阻礙它。

當供應商提供可比較的證據時,安全團隊便能從這種競爭中受益;若把所有拒答等同失敗,或把所有無限制回應等同進步,則幫助不大。

機密處理有一條買方需要檢視的界線

私密執行環境處理的是處理期間的資料暴露問題;它並不能證明最終建議的正確性或安全性。

NEAR 表示,其託管的網絡安全模型會在安全飛地內運行,這些由硬件隔離的環境旨在於運算期間保護資訊。這項承諾回應了一個敏感時刻:處理可能揭示未公開弱點的材料。

遠端證明(attestation)是有關執行環境的密碼學證據,亦是公司驗證機制的一部分。NEAR 對私密推理驗證的說明,描述了對閘道、模型環境、連線及回應的檢查,亦明確指出當中的限制。

根據該說明,遠端證明並不能證明軟件不存在任何錯誤。這些保護措施依賴底層硬件及其驗證系統。與其將驗證視為無限的安全保證,這是一項較為狹義但更有用的主張。

這個區別很重要,因為採購方須面對幾個不同問題:敏感資訊在哪裡變得可讀?由哪個環境處理?有甚麼證據可將該環境,與應用程式實際發出的請求連結起來?

另一個問題關乎回應本身:模型有否正確理解材料?還有後續使用的問題:研究人員有否在依賴答案前驗證它?

處理環境的證據無法回答所有這些問題。採購方不應將它們壓縮成對服務是否「安全」的單一判斷。一項控制措施即使只處理整體問題的一部分,仍可能具價值。

公司針對特定路徑的條款加入了另一項重要限定。條款指出,私隱、處理、保留及驗證特性可因路徑而異。關於其中一條路徑的陳述,並不會自動適用於另一條路徑。

路徑是指請求所採用的處理途徑。這項區別表示,採購方應檢查實際服務配置及適用文件。單憑熟悉的模型名稱,並不足以證明某個特定請求受到哪些保護。

這對建立可重用整合的團隊尤其相關。獲批准用於某項工作流程的配置,不應在未經察覺下變成所有可用模型或處理路徑的一概批准。任何變更都應按原有要求重新審視。

周邊應用程式同樣重要。試想一個假設的研究工具,會在自身診斷日誌中記錄請求內容。即使保護了遠端推理,也不會消除這種本地行為所建立的副本。

同樣地,研究人員可能將敏感回應貼到不受限制的協作頻道。推理環境無法控制這類後續披露。這些例子說明的是工作流程的邊界,而非 NEAR 服務已有記錄的故障。

因此,採購團隊應要求完整說明預期的處理路徑。審查應涵蓋應用程式行為、供應商處理、驗證及下游儲存。每個組件均須有負責人。

機密處理的實際好處在於,它提供了一項可供評估的具體控制措施。採購方可以檢視其假設和限制,然後決定它是否處理了先前令某個工作流程無法推行的風險暴露。

錯誤在於將這項控制措施延伸為它本來沒有作出的主張。私密安全 AI 仍需要具備能力的研究人員、適當授權,以及謹慎處理研究發現。機密執行可支援這些責任,但不能取代它們。

較少拒絕仍須有更佳安全工作的證據

最有力的測試,是團隊能否在可接受的審核負擔下,產生更多經驗證的安全改進。

未經審查的模型可以回應其他模型會拒絕的請求。這為合法研究帶來機會,同時亦令團隊須負責區分有用分析與自信但純屬推測的內容。

公平的評估應由團隊的預期工作開始。原始碼審查、事件調查及對抗測試涉及不同輸入和決策。一項活動的結果,不應變成對另一項活動缺乏依據的主張。

團隊可在獲授權使用的材料上比較工具。在可行情況下,他們應保留相同的相關背景。審核人員其後須按發現本身的價值作評估,而非按模型表達是否流暢。

可重現性很重要,因為安全發現必須經得起審視。另一位研究人員應能理解觀察到甚麼,以及其重要性何在。無法與證據連結的有說服力解釋,仍只是一條調查線索。

修復品質同樣重要。助手可能建議一項可處理即時症狀的改動,卻引入另一個問題。工程師須按照應用程式的實際要求審查建議修復方案。

評估亦應計及被放棄的工作。模型在經過大量修正後才產生有用答案,與直接得出答案相比,帶來的是不同負擔。審核人員的時間也屬於評估的一部分。

對拒絕的處理同樣應仔細。不必要的拒絕可能阻礙合法工作;涉及未獲授權目標的拒絕,則不應被視為損失了防禦性生產力。

這個區別避免評估只獎勵輸出量,而不考慮範圍。目標是在獲批准的工作委託內完成有用工作,而不是取得最多不受限制的答案。

支援和工作坊可影響這個結果,但單靠參與並不能證明成效。採購方須了解協助是否能解決反覆出現的問題,並改善自身流程。市場推廣活動衡量的是另一回事。

同樣的謹慎亦適用於推薦證言。從業員的正面經驗可顯示某個值得研究的工作流程,但不能證明另一支使用不同程式碼和控制措施的團隊會有何表現。

如果獨立評估披露足夠方法論,以便解讀其結果,將可加強這次推出的論據。讀者需要知道測試了甚麼、甚麼算是成功,以及如何驗證發現。

缺乏這些細節時,再吸引的示範仍只是有限證據。它可以顯示模型完成了一次特定互動,卻不能證明它在各類安全工作上普遍具備優勢。

對 NEAR 而言,機會在於將容易接觸的實驗轉化為有記錄的成果。對採購方而言,機會在於按他們已理解的問題評估服務。當結果同時包括限制及成功例子,雙方都會受益。

這正是公告的實際意義將會浮現之處。該計劃可讓供應商與要求嚴格的用戶建立接觸。這種接觸會否改善安全工作,仍是一個實證問題。

下一個訊號是經驗證的發現、可核實的部署,以及重複使用

最具參考價值的後續發展,將把技術證據與獲授權工作流程中的持續使用連結起來。

首個值得關注的訊號,是附有清晰驗證流程的公開防禦性工作。一份有用的說明應解釋任務、模型的貢獻,以及研究人員的確認方式,亦應區分模型協助與獨立確立的發現。

這類證據將加強 NEAR AI 網絡安全產品能解決反覆問題的論據。若報告大多是缺乏支持的發現或需大量修正的內容,則會削弱該論據。文件質素比圍繞它的熱度更重要。

第二個訊號是部署證據,將保密性主張與實際客戶配置連結起來。採購方應尋找對處理路徑及驗證步驟的說明,亦應檢視哪些部分仍在受保護環境以外。

可信的說明會指出邊界,而不是暗示安全工作流程的每一部分都獲得相同保護。這會令私隱主張更易評估。不清晰的路由或未解釋的例外情況,會令重要的採購問題仍然懸而未決。

第三個訊號,是首次實驗後的重複使用。持續使用可顯示團隊認為其價值值得整合到工作之中。計劃公告或充滿熱情的試用,並不能證明這種模式已形成。

重複使用仍須放在脈絡中理解。團隊可能保留某項服務作狹窄的專門用途,而非廣泛部署。只要範圍和好處獲準確描述,這仍可是一項有意義的結果。

讀者亦應留意競爭性存取計劃如何回應合法用戶的摩擦。更精確的權限安排或更少不必要的封鎖,將影響 NEAR 的競爭論點。持續的障礙則會加強市場對替代安排的需求。

這些發展應按實際工作流程評估。當政策改變能改變合資格團隊可完成的工作時,它才具重要性;當更廣的目錄中的模型能改善相關結果時,它才有意義。

目前而言,NEAR AI RED 為安全團隊提供了一項明確計劃,可與公開提供的模型存取方式一併研究。官方材料支持這個較狹義的結論,但並未證明普遍優越性、獨立驗證,或可取代專業判斷。

正考慮這項服務的安全主管,應由一項獲授權的工作負載和具體成功標準開始。記錄模型作出的貢獻、審核人員必須修正的內容,以及哪些發現可經獨立核查而成立。在提交敏感材料前,確認處理路徑。評估範圍應保持足夠狹窄,讓失敗原因仍可理解,結果亦保持可比較。

其後再檢視該服務是否值得持續採用。它有否移除某個具體障礙、改善經驗證的發現,或減少作出可辯護決策所需的工作量?其保密模型是否符合該工作負載的要求?以這些答案判斷 NEAR AI RED,並對每個競爭供應商要求同樣的證據。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page