top of page

NEAR AI RED 面向安全团队开放,提供私有、无审查模型

49分钟前
讀畢需時 12 分鐘

NEAR AI RED 正在接纳安全团队加入一项围绕私有、无审查 AI 构建的计划,同时明确表示,使用其模型并不以加入该计划为前提。这一区别很重要:该计划提供的是与 NEAR AI 更紧密的合作关系,而非使用其网络安全模型的专属许可。

10 月 30 日流传的公告将关注点引向 AI 安全领域的一项实际矛盾。防御方希望模型能够审查敏感弱点,而不会拒绝正当工作。供应商也必须应对这样一种能力:它同样可能帮助攻击者执行类似任务。

NEAR 的做法与 Anthropic 的验证访问计划形成对比,后者会根据组织的工作内容调整访问权限和保障措施。两种方式都不能免除采购方的责任。安全团队仍需要证据证明,相关协助确有价值、保密处理如所述运行,以及测试始终处于已获授权的范围内。

NEAR AI RED 围绕已可用模型推出团队计划

眼下的变化是一项面向安全团队的合作计划,并非底层模型的独家开放。

NEAR 的网络安全模型页面表示,这些模型对每个 NEAR AI Cloud 账户均可用。RED 面向红队、审计人员和内部应用安全团队。红队通过已获授权的对抗性测试,在真实攻击者加以利用前识别弱点。

这一区别避免人们轻易误读标题。团队无需先获准加入 RED,便可评估宣传中的模型。加入该计划则可获得提前使用模型、参与研讨会、社区参与及联合营销等机会。

这些权益列在官方安全团队申请页面中。表单还要求申请者进行合法研究,或仅在自己拥有、或已获得书面测试许可的系统上开展授权测试。它要求申请者确认,无审查模型可能生成有害或不正确的输出。

这一确认应与产品定位一同受到重视。移除拒答行为会改变模型愿意尝试回答的内容。但这并不能证明其回答能够识别真实漏洞、保留相关上下文,或提出恰当的修复建议。

因此,对采购方而言,此次开放创造的是评估机会,而不是已经完成的采购论证。可访问的模型可以针对既有工作流进行测试。会员计划可以帮助团队与供应商讨论问题。没有结果,二者都无法证明实际运营价值。

产品访问与组织采用之间也存在重要差异。个人研究人员可能可以立即创建账户。企业仍需要就其计划提交的信息和拟开展的活动获得批准。

考虑加入该计划的安全经理必须将这些决策联系起来。技术团队希望得到有用的响应。采购部门希望获得明确承诺。法务与安全管理层则需要就测试和数据处理范围达成一致。

本文审阅的发布材料并未证明其在漏洞检测方面具有比较优势,也未提供独立证据表明 RED 成员能更快解决安全问题。这些仍是评估问题,而非申请开放所能支持的结论。

这使得该消息比“AI 将取代安全工作”之类的笼统说法更具体。NEAR 正围绕一个明确的采购方问题组织产品:在避免不必要拒答或信息暴露的情况下,进行敏感的防御性分析。其重要性取决于这一主张在实际安全项目中的表现。

安全负责人必须同时评估访问权限与责任归属

更便捷的访问会使采购决策转向内部授权、证据质量以及对最终工作成果的责任。

对安全负责人而言,其中的吸引力不难理解。能够回应棘手问题的模型,可以帮助研究人员调查疑似弱点。反复拒绝相关分析的模型,则可能打断这一过程。

然而,愿意回答只是初始条件。回答可以很详细、看似合理,却在技术上是错误的。它也可能识别出真实问题,却误解利用该问题所需的条件。

设想一个应用安全团队在内部服务发布前进行审查。团队希望获得协助,以解读一条可疑代码路径。其有价值的结果应是工程师可以验证并处理的、可复现的发现。

仅有一段自信的解释并不符合这一标准。研究人员需要确认该行为是否存在、攻击者能否触达它,以及现有控制措施是否会改变其重要性。

同样的区别也适用于否定性结果。未发现任何问题的模型,并未证明该服务安全。它的沉默可能源于上下文有限、理解不完整,或弱点存在于其未审阅的材料之外。

这些是评估方面的考量,而非关于 NEAR 模型的已报道发现。它们说明了访问公告为何对采购方重要,却并未证明产品有效性。安全团队必须衡量答案到来之后实际完成的工作。

压力尤其落在负责稀缺审查资源的管理者身上。只有当研究人员能够高效评估额外发现时,生成更多发现才有帮助。大量缺乏支持的主张,可能消耗原本希望通过助手节省的能力。

因此,有用的比较应同时考察被接受的发现与审查人员投入的工作量。团队还应区分新发现的问题与既有工具已识别的问题。否则,表面上的生产力可能只是重复报告。

授权也构成另一条边界。获准审查源代码,并不自动意味着获准测试正在运行的客户环境。获准开展受控项目,也未必涵盖每一项关联服务。

即使模型本身不强制执行这些边界,私有安全 AI 也需要契合这些边界。使用它的组织仍须对其项目范围负责。供应商提供的访问权限不能替代系统所有者的许可。

该责任还延伸至最终证据。发现需要包含足够的上下文,以便另一位审查者理解其依据。敏感细节需要适用的处理规则,并能经受研究人员、开发人员和管理者之间的交接。

一个可搜索知识库可以支持经批准的技术文档和既往决策。其权限和保留规则仍需要与材料的敏感程度相匹配。

更广泛的含义在于组织层面。更便捷的模型访问可以缩短好奇心与实验之间的距离。安全管理层必须确保,实验与可问责使用之间的距离同样清晰。

开放访问与验证访问提供不同答案

核心竞争差异在于供应商将访问控制置于何处,而非防御方是否应使用 AI。

Anthropic 于 10 月 6 日扩展其网络验证计划,提供了一种对比鲜明的方法。该计划通过不同的访问类别,为符合条件的安全专业人员提供高级能力与更少的阻断。

其计划区分防御性工作、授权对抗性测试以及特别敏感的系统。验证要求和控制措施会随该范围而变化。Anthropic 还表示,其普遍可用的模型支持包括代码审查、修补以及在自有源代码中寻找漏洞等活动。

这一背景限定了“主流模型只是拒绝安全工作”这类宽泛说法。供应商已经在活动、用户和部署条件之间作出区分。分歧在于这些区分的准确性、摩擦成本及其后果。

NEAR AI 的网络安全定位强调,其模型会处理安全问题,而不会表现出拒答行为。RED 会员资格与这一访问权限并列。Anthropic 的计划则将验证作为在其框架下获得更广泛能力的一部分。

这些选择以不同方式分配责任。广泛可用性使团队无需加入专业计划即可开始评估服务。验证访问引入外部审查,它可能塑造供应商允许开展的工作。

任何一种设计都不会自动预测某个特定模型的质量。访问政策与技术能力是两个独立维度。宽松的模型在获授权任务上的表现,可能不如受限的竞争产品。

受限模型也可能造成中断,从而降低其实际效用。采购方需要同时评估已完成工作的质量,以及获得这些工作成果所涉及的摩擦。只衡量其中一个维度,会得出不完整的比较。

自托管,即在组织控制的基础设施上运行模型,提供了另一个参照点。它可以让团队对配置拥有更直接的控制权,同时也将基础设施运行和维护责任交给该组织。

这一选项应纳入采购讨论,但不应成为主要叙事。团队可能更偏好运营控制、托管服务,或针对不同信息采用不同安排。相关问题是其实际能够管理哪些责任。

比较还应避免将“无审查”视为完整的产品规格。该标签描述的是拒答行为的变化。它并未解释模型的推理质量、支持的上下文、可靠性,或其与现有审查流程的契合度。

同样,“验证访问”也并不代表所有任务中一致的体验。重要的是特定工作流获得的许可。采购方应评估自己能够获得的安排,而非供应商宣传中最广泛的能力。

对于小型研究团队,申请摩擦可能占据重要权重。对于较大型组织,有文档记录的访问限制可能更符合现有审批流程。这些是不同的运营要求,并不表明任何一方采购者误解了安全问题。

因此,竞争压力是具体的。NEAR 需要证明其访问方式能够支持有用的防御性工作。提供验证访问的供应商则需要证明,其控制措施能够区分正当工作,而不会不必要地阻碍它。

当供应商提供可比较的证据时,安全团队会从这种竞争中受益。当人们将所有拒答等同于失败,或将所有不受限制的响应等同于进步时,他们获得的益处则较少。

保密处理存在采购方需要审查的边界

私有执行环境可应对处理期间的数据暴露;它并不能证明由此产生的建议正确或安全。

NEAR 表示,其托管的网络安全模型运行在安全飞地内,即旨在保护计算过程中信息的硬件隔离环境中。这一承诺回应了一个敏感场景:处理可能暴露尚未公开漏洞的材料。

证明(attestation)是关于执行环境的加密证据,构成该公司验证机制的一部分。NEAR 对私有推理验证的说明描述了对网关、模型环境、连接和响应的检查,也明确指出了其局限性。

根据这份说明,证明并不能证明软件不存在任何漏洞。相关保护依赖于底层硬件及其验证系统。这一说法更为有限,但也更有用;它并未将验证视为毫无限制的安全保证。

这一区别很重要,因为采购方需要面对多个不同问题。敏感信息会在何处变得可读?由哪个环境处理?有哪些证据能将该环境与应用实际发送的请求关联起来?

另一个问题涉及响应本身:模型是否正确理解了材料?还有一个问题涉及后续使用:研究人员是否在依赖答案前对其进行了验证?

有关处理环境的证据无法回答所有这些问题。采购方不应将它们压缩为对服务是否“安全”的单一判断。一项控制措施即使只能解决整体问题的一部分,也依然可能很有价值。

该公司的特定路由条款还增加了另一项重要限定。其中指出,不同路由在隐私、处理、保留和验证属性方面可能存在差异。针对某一路由的表述并不会自动适用于其他路由。

路由是请求所采用的处理路径。这一区别意味着,采购方应检查实际服务配置及适用文档。仅凭熟悉的模型名称,无法证明某项具体请求受到哪些保护。

当团队构建可复用集成时,这一点尤其相关。获准用于某一工作流程的配置,不应在不经审查的情况下变成对所有可用模型或处理路径的一揽子批准。任何变更都应根据原始要求接受审查。

周边应用同样重要。设想一款假设中的研究工具,会在自身诊断日志中记录请求内容。保护远程推理并不能消除这种本地行为所创建的副本。

同样,研究人员可能会将敏感响应粘贴到不受限制的协作频道中。推理环境无法控制这种后续披露。这些示例说明的是工作流程边界,而非 NEAR 服务已有文档记录的故障。

因此,采购团队应要求获得对预期路径的完整说明。审查应将应用行为、提供商处理、验证和下游存储关联起来。每个组件都需要明确负责人。

机密处理的实际价值在于,它提供了一项可供评估的具体控制措施。采购方可以审查其假设和限制,继而判断它是否解决了此前阻碍某一工作流程的暴露风险。

错误在于将这一控制措施扩展为它并未作出的主张。私有安全 AI 仍需要称职的研究人员、适当的授权,以及对发现结果的谨慎处理。机密执行支持这些责任,但不能取代它们。

更少的拒绝仍需证明安全工作有所改善

最有力的检验标准,是团队是否能以可接受的审查负担,产出更多经过验证的安全改进。

未审查模型能够处理其他模型会拒绝的请求。这为合法研究创造了机会,也意味着团队仍须负责区分有帮助的分析与看似自信的推测。

公平的评估应从团队的预期工作开始。源代码审查、事件调查和对抗性测试涉及不同的输入和决策。一项活动的结果不应被延伸为对另一项活动缺乏依据的主张。

团队可以使用自己获授权使用的材料来比较工具。在可行情况下,应保留相同的相关上下文。随后,审查人员需要根据发现本身的价值进行评估,而不是依据模型表达是否流畅。

可复现性之所以重要,是因为安全发现必须经得起审查。另一位研究人员应能理解观察到了什么,以及其为何重要。无法与证据建立联系的有说服力解释,仍然只是调查线索。

修复质量同样重要。助手可能提出一种能解决即时症状、却引入其他问题的改动。工程师需要根据应用的实际要求审查所建议的修复方案。

评估还应考虑被放弃的工作。一个需要经过大量纠正才能产出有用答案的模型,与一个能直接得出该答案的模型,带来的负担不同。审查人员的时间也应纳入评估。

对拒绝行为也应同样谨慎处理。不必要的拒绝可能阻碍合法工作;而涉及未经授权目标的拒绝,不应被视为防御性生产力的损失。

这一区别可避免评估在不考虑范围的情况下奖励输出数量。目标是在获批的参与范围内完成有用工作,而不是获得数量最多、不受限制的答案。

支持服务和研讨会可能影响这一结果,但仅凭参与本身并不能证明其有效性。采购方需要了解,这类协助是否解决了反复出现的问题,并改进了自身流程。营销活动衡量的是另一回事。

同样的谨慎也适用于推荐证言。一位从业者的积极体验可以表明某种工作流程值得考察,但无法证明使用不同代码和控制措施的另一支团队会取得何种表现。

如果独立评估披露了足够的方法论细节,使读者能够解读结果,那么它们将增强发布信息的可信度。读者需要知道测试了什么、何为成功,以及发现结果如何得到验证。

缺少这些细节时,再吸引人的演示也仍只是有限证据。它可以表明模型完成了一次特定交互,却无法证明其在各类安全工作中具有普遍优势。

对 NEAR 而言,机会在于将易于开展的实验转化为有记录的成果。对采购方而言,机会在于根据自己已理解的问题来评估服务。当结果同时呈现局限性和成功案例时,双方都会受益。

公告的实际意义将在这里显现。该计划可以让提供商与要求严苛的用户建立联系。这样的联系是否能改善安全工作,仍是一个需要实证回答的问题。

接下来应关注经过验证的发现、可核验的部署和重复使用

最具参考价值的后续信息,将把技术证据与获授权工作流程中的持续使用联系起来。

第一个值得关注的信号,是具有清晰验证流程的已发布防御性工作。一份有价值的说明应解释任务、模型的贡献以及研究人员的确认过程,还应区分辅助作用与独立确立的发现。

这类证据将增强 NEAR AI 网络安全产品能够解决反复出现问题的论据。若报告主要充斥缺乏支撑的发现或大量纠正,则会削弱这一论据。文档质量比围绕它的热度更重要。

第二个信号,是将保密性主张与实际客户配置相连的部署证据。采购方应寻找有关处理路径和验证步骤的说明,也应审查哪些部分仍位于受保护环境之外。

可信的说明会指出边界,而不是暗示安全工作流程的每个部分都继承了相同的保护。这会使隐私主张更易于评估。不明确的路由或未解释的例外情况,将使重要的采购问题悬而未决。

第三个信号,是在初步实验之后的重复使用。持续使用可能表明团队发现了值得纳入工作流程的价值。项目公告或热情的试用并不能证明这种模式已经形成。

重复使用仍需要上下文。团队可能只是为狭窄的专业用途保留某项服务,而非广泛部署。如果范围和收益得到准确描述,这也可能是有意义的结果。

读者还应关注竞争性访问计划如何回应合法用户遇到的摩擦。更精确的权限设置或更少不必要的阻碍,会影响 NEAR 的竞争论点;持续存在的障碍则会强化对替代安排的需求。

这些发展应根据实际工作流程进行评估。一项政策变化,只有在改变合格团队能够完成的工作时才有意义;更大的目录,只有在其中的模型改善相关结果时才有意义。

目前,NEAR AI RED 为安全团队提供了一项可与公开可用模型访问方式一同考察的明确计划。官方材料支持这一较为有限的结论。它们并未证明普遍优越性、独立验证,或可取代专业判断。

考虑采用该服务的安全负责人,应从一项获授权的工作负载和明确的成功标准开始。记录模型带来了什么贡献、审查人员必须纠正什么,以及哪些发现经得起独立核查。在提交敏感材料前确认处理路径。将评估范围控制得足够明确,以便失败仍可理解、结果仍可比较。

随后,再审查该服务是否值得持续采用。它是否消除了某个具体障碍、改善了经过验证的发现,或减少了形成可辩护决策所需的工作量?其保密性模型是否满足该工作负载的要求?用这些答案评判 NEAR AI RED,并要求所有竞争提供商提供同样的证据。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page