top of page

llm 0.37.2 修复两条将 OpenAI 密钥发送至其他提供商的路径

16分钟前
讀畢需時 12 分鐘
Illustrative photograph. Photo: Godfrey Atima / Pexels.

Simon Willison 发布的 llm 0.37.2 修复了两项可能将 OpenAI API 密钥发送给其他提供商的安全缺陷。11 月 11 日发布的版本解决了 Daniel de Araujo 报告的特定自定义端点配置问题。核心问题很直接:选择另一家模型提供商,不应在未被察觉的情况下转移属于 OpenAI 的凭据。

LLM 是一款用于访问语言模型的命令行应用,支持接受 OpenAI 风格请求的服务。这种兼容性让开发者能在保留熟悉工作流的同时切换提供商。但请求兼容性与接收凭据的授权是两项不同的决定。这些漏洞让前者削弱了后者。

直接受影响的是使用自定义端点的开发者和团队,即接收模型请求的服务器地址。他们要回答的问题比“LLM 是否整体安全”更具体:受影响的配置是否发送了非预期的密钥?要回答这一问题,需要将已修补的软件行为与任何历史暴露情况区分开来。

llm 0.37.2 实际修改了什么

该版本修复了特定自定义端点路径中的凭据选择问题,并非宣称每位用户都受到了影响。

Willison 的安全发布说明指出,这两个问题均由 de Araujo 发现。其中一个涉及缺失的提供商专用密钥;另一个出现在为一种请求接口配置的模型切换到另一种接口时。两者都可能将 OpenAI 凭据导向为其他用途选定的服务器。

配置背景很关键。LLM 使用 extra-openai-models.yaml(一个描述附加模型的设置文件)连接 OpenAI-compatible 服务。这些服务接受与 OpenAI 接口类似的请求。兼容性并不意味着它们就是 OpenAI,也不授权它们接收 OpenAI 账户凭据。

Willison 还提到,llm openai endpoint add 是在 0.37 版本中引入的、用于管理这些端点的新方式。这项便利功能解释了当前的产品背景,但并不能确定任一漏洞从何时开始;读者不应将最新的端点命令视为所有受影响路径的起点。

发布记录标明了包含修复的版本。链接的安全公告则为暴露评估提供了更有用的边界。版本号回答的是哪个更新包含修复;配置细节回答的则是某个特定工作流是否触发了易受攻击的行为。

这种区分可避免两种误导性解读。第一种是将旧版本安装的每一次请求都视为凭据泄露。第二种是认为模型看似正常的响应就足以证明认证正确。公告并不支持这两种结论。凭据路由需要独立证据,不能根据生成文本的质量或是否成功来判断。

该补丁也改变了对配置错误的理解。缺失的提供商密钥应当造成可见的认证问题,而不应悄然调用与另一项服务关联的可用凭据。关键改进在于维护目的地址与获准随请求发送的密钥之间原本应有的关系。

对于评估该版本的开发者而言,这比一次常规兼容性调整更具影响。受影响的行为跨越了凭据边界,且无需用户刻意共享该凭据。因此,即便原始模型任务看似无害,例如让测试端点生成简短回复,这项修复也值得关注。

两条凭据路径以不同方式失效

两份安全公告描述了彼此独立的失效条件,因此应将其受影响版本和认证行为区分看待。

缺失密钥公告涵盖从 0.6 到早于 0.37.2 的版本。自定义模型指定了 api_base(目的地址)和 api_key_name(凭据别名)。当指定凭据不存在时,解析过程可能回退到 OPENAI_API_KEY,即保存密钥的环境变量。

这种失效将不完整的配置变成了非预期的凭据转移。公告还指出,0.6 至 0.7.1 版本存在更广泛的优先级行为问题,并已在 0.8 中修正。当前修复解决了其余的缺失密钥情形。配置文件中看似正确的别名,并不能证明相应的密钥确实存在。

请求委派公告涵盖从 0.32a2 到早于 0.37.2 的版本。它涉及配置了 responses: true 的自定义 api_base 模型,该设置会选择 Responses 请求接口。使用 -o chat_completions 1 运行时会切换至 Chat Completions(另一种请求接口),并可能恢复 OpenAI 的默认凭据设置。

在该文档说明的路径中,凭据可能来自环境变量或 LLM 已存储的 OpenAI 密钥。已配置并存储的提供商专用密钥可以避免其中描述的委派泄露。两份公告均将问题定为 Moderate,并将 0.37.2 标为已修复版本。这些评级并不能说明有多少安装实例遇到了任一条件。

这一技术区别很有用,因为这些错误挑战了不同的假设。缺失密钥情形关注的是:当配置指定了无法找到的密钥时会发生什么。委派情形关注的是:当执行转入另一个内部组件时,认证规则能否保持有效。对其中一个问题的正确回答,并不能解决另一个问题。

设想一位开发者将工作流迁移到另一台电脑。模型配置已迁移,但提供商凭据没有迁移;环境中仍有可用的 OpenAI 凭据。安全预期应是缺失的提供商密钥阻止或限制请求,而不是改变离开该设备的账户凭据。

再设想另一个独立的工作流,为适配服务器而切换请求接口。目的地址不变,用户也预期凭据策略保持稳定。内部切换不应悄然将缺失的密钥重新解释为使用另一家提供商凭据的许可。

这些例子说明,成功响应并不是好的安全测试。生成结果主要只能说明某个请求完成了,不能揭示过程中作出的全部认证决策。因此,即使输出结果没有明显可疑之处,看似无害的提示词也可能伴随凭据路由问题。

提供商灵活性带来独立的安全义务

OpenAI 兼容性描述的是请求如何工作;它并不定义服务器应接收哪些凭据。

更广泛的矛盾在于,便捷的提供商切换与明确的凭据边界之间存在张力。开发者受益于应用能够通过熟悉的请求格式访问多个模型服务。当这种便利将继承的默认设置跨目的地带过去时,安全负担便随之出现。一个可用的密钥,会在可用性替代授权时变得危险。

LLM 的自定义模型配置文档说明了该产品对附加模型端点的支持。这种灵活性正是此次事件背后的有用功能。取消提供商选择虽然能通过缩小产品范围避免这种特定路由问题,但也会放弃用户选择该产品所看重的工作流。

Ollama 提供了一个相关对照,因为其OpenAI 兼容性文档同样描述了如何将 OpenAI 客户端连接到另一项模型服务。其本地示例提供了一个由本地服务器忽略的占位密钥;直接云端示例则选择 Ollama 凭据。相似的请求语法,因此可以伴随不同的认证预期。

这一对照并不证明 Ollama 存在等同漏洞。它说明提供商兼容性需要独立的凭据决策。客户端可以复用请求格式,同时明确选择目的地及其预期密钥。安全问题关注的是这些选择之间的关系,而不是哪个产品提供的模型最多。

对于开发者而言,更改服务器地址往往像是一次传输层调整;但对凭据来说,它改变的是接收方。这两种视角必须在应用行为中衔接。否则,一个便利设置可能改变信任关系,却看起来只是普通的模型选择偏好。

这也是预期接收方为何独立于提示词本身而重要。用户或许愿意将一段公开文字发送至实验性服务,但这不代表允许将账户凭据一并发送。即便内容和凭据随同一请求传输,也需要分别评估内容敏感性和凭据敏感性。

当目的地属于用户所在组织时,同样的推理仍然适用。内部归属可能使服务器成为接收模型流量的合适场所,却不代表每个可用密钥都适合传输过去。不同团队、留存实践和运维责任仍会形成值得维护的边界。

对于企业买家,有用的评估问题变得很具体:变更提供商时,是否仍能明确控制认证?一次能够切换模型名称并生成良好答案的演示,无法回答这个问题。买家需要有关目的地专用凭据行为的证据,包括预期配置不完整时会发生什么。

因此,这一架构教训比不信任兼容层更窄、更具可操作性。提供商灵活性仍然有价值,但它需要随预期目的地传递、并在请求处理变化后依然有效的认证规则。当缺失的决策保持缺失,而非获得宽松默认值时,便利性会更安全。

开发者必须将更新与暴露审查分开处理

安装修复可以解决未来行为;理解此前请求则需要对受影响工作流进行独立审查。

对于评估 llm 0.37.2 的用户,首要区分是软件状态与历史事件。打过补丁的安装环境可以不再复现已披露的漏洞,但这并不能证明旧版本曾传输了什么。反之,仅仅使用旧版本也不能证明易受攻击的配置曾实际运行。

适度的审查应从相关模型配置和执行上下文开始。有用的证据应将软件版本、目的地、凭据来源和所用选项关联起来。没有这种关联,团队就可能将具体披露替换成一种笼统假设,即每台开发者机器都经历了相同事件。

当相同工作流存在于多个环境时,这项工作会变成组织性问题。笔记本电脑、自动化任务和共享开发环境即便使用相似配置文件,也可能保存不同的密钥。将它们视为可以互换,会掩盖正在审查的确切条件。部署上下文与模型显示名称同样重要。

凭证轮换处理的是另一个问题:在疑似泄露后,现有密钥是否应继续可用。它不能替代对路由行为的修正。若将替换后的凭证置于未经修改的脆弱环境中,仍可能重现根本问题。修复决策应将软件修复与此前传输行为的证据联系起来。

如果审查确认发生了非预期披露,使受影响凭证失效可限制其继续发挥作用。这一行动应与有关滥用的断言分开。团队可以对已披露的密钥作出响应,而无需声称其他方曾利用它。清晰的措辞既支持果断行动,也能保留准确的事件记录。

团队还应避免让调查本身变成另一个披露渠道。他们所需的证据通常是:请求选择了哪个凭证来源,以及它被发送到了哪里。将完整密钥复制到工单或共享笔记中,会增加额外的处理义务,却未必能澄清原始事件。

一份有用的事件记录应说明发现的问题、受影响环境、修复措施以及尚未解决的问题。将这些细节保存在可搜索的工程知识库中,可帮助同事理解工作流为何发生变化。记录应保留推理过程和配置背景,而不是凭证值。

对于内部工具的维护者而言,此次发布还提供了超出该软件包本身的审查目标。任何将可配置目标地址与默认凭证结合的应用,都应在这一边界上接受审查。这是从已披露故障模式中得出的工程推断,而非其他应用也存在这些漏洞的证据。

当前的首要任务仍然很具体:识别受影响的 LLM 工作流,将其迁移到已修补的版本,并评估可信的暴露情况。扩大调查范围应以证据为依据。一个界定明确的安全问题可以证明采取谨慎行动是合理的,无需演变为声称每个兼容模型客户端都需要紧急重建。

披露证实了漏洞,而非大规模利用

可复现的凭证路由缺陷证实了真实的安全失效,但并不能衡量现实世界中滥用的规模。

这些披露支持人们对特定条件下非预期传输的担忧。它们没有提供受影响用户的全体统计,也没有证实存在协同利用活动。这是不同类型的发现。技术复现能够证明存在故障,却无法说明该故障在测试之外发生过多少次。

因此,应以审慎态度审视其范围。哪些安装持有相关凭证、使用了受影响配置,并执行了触发路径?公开披露无法为每位用户回答这些问题。具体环境可提供通用发布公告无法提供的证据,包括目标地址究竟是外部、内部还是本地。

凭证到达非预期接收方后,仍可能出现多种结果。接收本身不同于留存、后续访问或滥用。每一项进一步主张都需要支持性证据。将这些阶段混为一谈的报道,会让事件看似更确定,却更难评估其实际影响。

相反的错误同样值得注意。缺乏公开记录的滥用行为,并不能证明没有发生非预期传输。即使尚无人证明存在财务损失或账户活动,凭证路由缺陷也可能具有重要影响。适当的响应应取决于已披露的行为和用户环境,而不是等待引人注目的公开事件发生。

Moderate 分类同样需要结合背景理解。严重性标签概括的是安全公告的评估;它并不决定每个组织应如何响应。在受控测试环境中使用的、范围受限的凭证,与用于日常自动化且拥有广泛权限的密钥,后果截然不同。软件缺陷可能相同,但运营风险各异。

受影响版本范围的存续时间也需要谨慎看待。它表明哪些软件版本包含该行为,而非证明整个期间持续存在暴露。一位安装了受影响版本、但从未使用相关端点路径的用户,其实际情况不同于反复使用该路径的人。

也没有理由默认将收到密钥的提供商视为恶意方。非预期接收者可能合法运营,却仍收到本不应接收的信息。该缺陷涉及客户端的凭证决策。有关接收方行为的指控需要独立证据。

此次披露也并未证实 OpenAI 自身服务遭到入侵。所描述的问题位于一个客户端工作流中,该工作流将凭证导向自定义目标地址。保留这种区分有助于读者识别责任所在的软件边界,避免将应用集成缺陷与提供商基础设施事件混淆。

对读者而言,最稳妥的解读仍应有所界定:这些缺陷真实存在,受影响路径是特定的,而补丁很重要。尚未解决的问题是特定环境中的历史暴露情况。这样的框架既支持采取行动,也不会将已有记录的实现缺陷夸大为缺乏依据的大规模失陷说法。

安全补丁之后应做什么

接下来有用的证据包括采用情况、凭证边界测试,以及实际暴露审查的结果。

第一个信号是受影响工作流是否迁移到已修补的软件。在未来数月中,有意义的采用证据包括已更新的自动化环境和维护完善的安装说明。开发者更新个人安装是有用的进展,但这并不能证明使用同一工具的每个定时任务也已完成变更。

若证据显示受影响环境仍在使用旧版本,将削弱此次发布带来的实际保障。若证据显示已识别工作流均已完成更新,则会增强这种保障。相关衡量指标是在触发条件存在的场景中完成修复,而非脱离配置情况的通用下载量。

第二个信号是未来测试如何对待认证边界。回归测试,即旨在捕捉早期漏洞再次出现的检查,应同时审查凭证选择和完成输出。工程问题在于:当配置不完整或请求处理发生变化时,特定目标地址的规则能否保持稳定。

更有力的证据应表明,这些边界能够在所有受支持的执行路径中维持。仅检查提示词是否获得答案的测试,提供的保障较少。兼容性可以保持不变,而认证却在底层发生变化;这正是为何安全专属预期应在维护工作中拥有明确位置。

第三个信号是任何有实质依据的历史暴露说明。有用的发现应区分非预期传输、留存和滥用,并描述受影响的条件。这类报告将使实际后果更加清晰。若没有此类报告,后果仍将是不确定的,而非证明每个受影响请求都无害。

这些信号也应影响团队的内部沟通方式。状态更新可以说明受影响安装已修补,同时保留历史审查仍在进行这一事实。它可以报告已确认的凭证传输,而不声称存在利用。将这些发现分开,可让后续证据更容易纳入,并避免早期假设固化为事件叙事。

对于构建提供商切换功能的开发者而言,此次发布提出了一个持久的设计问题:当预期密钥不可用时会发生什么?最安全的答案应体现在行为、文档和测试中。静默替换很难被用户察觉,因为其主要任务看起来仍可正常继续。

评估 AI 工作流的采购方也可以在不检查实现细节的情况下提出同样的问题。哪些凭证属于哪些目标地址?当请求走向另一条受支持路径时会发生什么?应用如何传达认证配置不完整的情况?具体答案比泛泛的兼容性承诺更有价值。

应将 llm 0.37.2 视为审查提供商选择与凭证选择之间边界的契机。如果你的工作流使用了自定义端点,请将其配置和执行选项与安全公告进行比较。确认运行的是哪个版本,以及哪些凭证来源可用。将受影响环境迁移到已修补的软件,然后将历史暴露审查与更新完成分开处理。在证据证实存在非预期披露的情况下,应同时处理凭证和应用。将发现保存在同事无需重现密钥即可理解的文档中。有价值的结果是清晰说明:什么发生了变化、发生了什么,以及哪些问题仍未知。你的团队能否解释,为何每个模型目标地址只会收到其预期凭证?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page