Amazon Bedrock 新增代理主导的迁移指南
AWS 于 11 月 12 日发布了 Amazon Bedrock 迁移指南,为编程代理提供了一套从发现阶段而非生产环境变更开始的迁移流程。该新增功能面向客户自管的知识库,这类知识库通过检索文档为应用提供答案。其边界很重要:代理协助准备替代方案,而团队仍负责决定何时可以向用户提供服务。
该指南位于 amazon-bedrock skill 中,这是一个为编程代理提供任务指引与参考资料的包。它从只读评估开始,默认止步于一份可供审查的计划。可选的实施操作会在原系统旁创建托管替代方案,或生成基础设施即代码、通过既有流水线部署的配置文件。
这为已运行文档驱动型应用的团队带来了一个具体选择。他们可以继续管理检索基础设施,也可以评估 AWS 的托管替代方案,而不必立即放弃现有系统。核心问题在于,减少基础设施工作是否足以证明检索行为变化、应用更新以及重新验收流程的合理性。
Amazon Bedrock 迁移始于经过审查的计划
这一公告改变了团队准备迁移的方式,但生产验收仍由团队掌握。
根据 AWS 的迁移指南,代理会在提出变更建议前检查现有配置。该流程区分可直接迁移的设置、需要调整的设置,以及没有受支持托管等效项的配置。受阻配置会被排除,而不会被悄然转换。
这种分类为审查者提供了比自动生成的部署文件更有用的内容。替代配置描述了目标端包含什么;映射还解释了源系统的各项假设如何处理,包括那些无法原样保留的假设。
对于工程经理而言,这些是不同的审查任务。确认资源存在,只能证明资源配置成功;确认某项设置为何改变,才能判断拟议的目标环境是否仍适合应用。
当现有系统已在多位负责人之间积累了大量决策时,这一区别尤为重要。基础设施工程师可能了解存储选择,而应用开发者了解筛选条件;但两者未必知道早期团队为何选择特定的文档处理方式。
书面的迁移计划为汇集这些决策提供了空间。它的价值取决于审查者能否将每项拟议变更追溯到既有需求。即使目标配置通过语法检查,未经解释的替换也值得进一步调查。
并行替代方案也改变了风险讨论的方式。审查者可以在保留正常运行参考系统的同时评估候选系统。这使分歧更容易通过对比来解决,而不是凭空猜测替代方案将如何运行。
但这并不能免除预先定义成功标准的需要。若团队在没有验收标准的情况下开始测试,就可能不断发现新的理由来批准或拒绝目标方案。对代表性问题、访问预期和可接受失败情况达成一致,应先于最终决定。
该公告描述的是一种工作流程,而非发布证明迁移能够稳定成功的独立证据。因此,读者应区分文档化流程与可量化的生产结果。清晰的流程可以提升可审查性;但流程本身既不能证明检索质量,也不能证明业务价值。
对采购方而言,这使计划成为一项值得尽早评估的交付物。它是否揭示了缺失信息?是否识别出需要负责人决策的事项?是否将技术不兼容性与可由他人重新考量的偏好区分开来?
这些问题让讨论始终围绕应用本身。它们也解释了代理愿意停止为何重要:与其生成一份看似完整的答案,不如指出阻碍负责任迁移决策的依赖项。
基础设施团队面临不同的责任归属决策
托管检索将运营责任更多转向 AWS,但应用负责人仍必须定义什么行为才真正有用。
AWS 的托管知识库文档描述了由服务运营的摄取、存储、索引和检索基础设施。默认设置包括托管嵌入模型和重排序模型。嵌入会将内容以数值形式表示以便匹配,而重排序则按相关性重新排列候选结果。
客户自管路径则让团队自行选择和运营底层存储。这一区别赋予迁移叙事实际意义。组织需要决定其检索系统的哪些部分值得直接控制,哪些部分只是消耗维护精力,却未满足差异化需求。
对于支持多个应用的平台团队而言,减少重复的基础设施工作显然颇具吸引力。每套独立存储配置都会引入容量、监控、权限和责任归属方面的决策。标准化这些决策可以让团队将注意力释放给应用行为。
不过,这一论点取决于具体工作负载。有些团队特意保留对检索基础设施的直接访问,因为它们需要特定控制能力。应依据这些需求评估托管目标方案,而不应将其视为自动的架构升级。
压力随之落在工程组织身上:它们需要解释现有定制化设置。一项曾解决特定问题的设置可能仍不可或缺;也可能只是因为没人重新审视原始约束而一直保留。
迁移规划提供了区分这两种情况的机会。它将对灵活性的抽象偏好转化为对应用实际使用内容的具体审查。这种审查既可为迁移提供依据,也可为维持现状提供依据。
设想一个用于搜索产品文档的示例性支持助手。用户在意答案是否反映正确的产品版本与政策,却很少在意是哪种存储系统定位到了相关段落。
对这类应用而言,运营检索存储只是实现目标的手段。如果托管替代方案满足这些要求,基础设施责任归属就更容易重新考虑。若它失去了必要的筛选行为,运营简化也无法替代决策本身。
知识责任归属同样独立于基础设施责任归属。AWS 运营存储并不能决定哪项内部政策具有权威性。即便相互矛盾的文档都被成功建立索引,它也无法解决其中的冲突。
这一区别适用于个人与团队知识。信息质量和检索基础设施解决的是相关问题,但替换后者并不能修复前者。
财务主张也应采用同样严谨的标准。减少基础设施工作可能带来价值,但节省金额取决于实际使用情况以及被替换的资源。团队应将迁移期间的重叠运营,与预期的稳态工作负载一并评估。
因此,可辩护的采购问题应当具体:哪些责任会消失,哪些仍会保留,哪些将变得更重要?回答这一问题需要应用负责人和基础设施负责人共同参与审查。任何一方都无法独自建立完整论证。
Bedrock 托管检索改变了应用契约
能够接受请求的目标系统,仍可能与它所替换的系统表现不同。
最直接的例子是检索请求本身。托管查询使用 managedSearchConfiguration,而客户自管请求结构使用 vectorSearchConfiguration。这些字段用于指定搜索行为,因此仅更改目标标识符并不能完成应用更新。
AWS 的查询配置文档还指出了元数据筛选方面的差异。托管路径不支持 startsWith 和 stringContains 运算符。保留的系统元数据使用以下划线开头的名称,这可能影响读取这些字段的应用逻辑。
这些细节使 Bedrock 托管检索既是基础设施决策,也是兼容性问题。仅用于内部调试脚本的字段,与用于强制执行应用范围的筛选条件,后果截然不同。审查者需要知道每项依赖出现在哪里。
设想一个支持应用,它使用产品系列前缀来缩小结果范围。若该行为依赖不受支持的运算符,即便资源部署成功,应用需求仍未得到解决。团队需要一个明确的替代方案,并提供证据证明其保留了预期边界。
这个例子说明了为何生成的配置应与调用方代码一同审查。基础设施文件描述目标环境,而应用代码表达用户如何与之交互。孤立地审查其中任一项,都会让迁移的一部分未被检视。
结果数量也需要同样谨慎。AWS 将 numberOfResults 记录为最大值,而非保证值。将结果较少视为服务故障的应用,可能会误读一个有效响应。
更广泛的教训是,操作名称并不能定义完整契约。输入、默认值、元数据、排序以及失败处理都会影响行为。熟悉的名称可能让一项变更看起来比其实际影响更小。
Microsoft 提供了一个有用的比较,但并非本故事的主要对手。其代理式检索文档描述了一条多查询流水线,用于组合检索到的材料供应用使用。可选的基于模型的查询规划被标记为预览功能。
这一比较表明,另一家云服务提供商也围绕更高层级的知识接口组织检索。它并不能证明功能、迁移工作量或性能等同。得出这些结论需要单独进行基于工作负载的比较。
对于现有 AWS 客户,眼前的决策仍是在当前检索方案与拟议托管替代方案之间进行选择。切换提供商会引入额外问题,也会分散对已公布迁移路径的评估重点。
因此,在任何人将 Amazon Bedrock 迁移视为常规资源创建之前,都应先进行应用兼容性审查。有价值的产出是一份预期变化清单,并将每一项分配给代码、配置、测试或明确决策。
这种方法也提升了责任清晰度。当结果发生变化时,团队可以调查已记录的假设,而不是追问代理总体上是否做得好。具体的预期使批准与拒绝都更容易辩护。
具备权限意识的搜索仍依赖经过验证的身份
托管文档筛选无法取代应用程序验证用户身份的责任。
访问控制列表(ACL)记录哪些身份可以访问某份文档。AWS 的 ACL-aware retrieval 文档指出,托管检索会使用应用程序提供的身份进行筛选。该服务不会验证最终用户的身份。
这一边界会对迁移审查产生实际影响。某项搜索结果可能与问题相关,却并不适合提问者查看。因此,检索验收必须纳入访问权限相关问题,而不只是确认预期文档是否出现。
以一个同时覆盖通用政策和受限人事资料的员工助手为例。权限较高的管理员账户或许能够正确检索到两者。但这一结果几乎无法说明普通员工是否只能获得恰当的内容子集。
通过具有高权限的开发身份进行测试,可能掩盖这种差异。应用程序实际采用的身份流需要单独审查,包括它如何获取并传递用户标识符。只有调用方提供可信身份时,文档权限模型才有价值。
AWS 将电子邮件地址记录为用于 ACL 匹配的用户标识符。关联系统之间的地址不一致,可能导致结果缺失。文档还区分了支持实时权限检查的连接器,以及依赖所提供或同步信息的连接器。
这些事实意味着,身份一致性也是检索质量的一部分。缺失的答案可能反映的是访问权限不匹配,而非搜索相关性不足。将每个空响应都视为排序问题,会让调查走向错误方向。
由此得出的分析结论很直接:团队需要针对不同类别的失败情况给出不同解释。内容缺失、访问被拒绝、权限过期以及匹配结果不相关,不应被归结为同一种检索失败标签。
这也会影响验收需要哪些人参与。搜索工程师可以评估相关性,但身份负责人了解账户映射和生命周期规则。内容负责人则知道哪些文档应继续保持受限状态。
改变检索基础设施的迁移,可能暴露这些群体之间的分歧。即使这会拖慢审批流程,这也是有价值的信息。无论当前由哪个系统处理请求,未解决的权限假设本身就代表应用程序风险。
对于编码代理评估,同样的原则也适用于审查人员要求的证据。一份有说服力的摘要应说明测试所用的身份,以及预期的访问边界。没有这些背景信息的成功查询列表,仍然存在实质性缺口。
Bedrock 托管检索可以提供具备权限意识的筛选,但团队必须评估周边的应用程序路径。这包括身份缺失、不一致,或关联的访问权限刚刚发生变更时会发生什么。
最有力的验收论据应同时涵盖相关性和排除性。获得授权的用户应找到所需信息,而受限材料应始终不出现在其结果中。仅测试成功路径,只能建立对替代方案的不完整认识。
检索质量需要超越干净部署的证据
资源配置成功回答的是基础设施是否已创建;评估回答的是应用程序是否仍然有用。
AWS 的 retrieval evaluation metrics 区分了上下文相关性与上下文覆盖度。相关性关注检索到的文本是否契合问题。覆盖度关注检索材料相对于预期参考内容,是否包含回答所需的信息。
与笼统的准确率说法相比,这一区分为迁移讨论提供了更好的基础。一段内容可能涉及正确主题,却没有包含作答所需的细节。反过来,有用的信息也可能出现在同时包含干扰性材料的结果中。
以一个政策助手为例,当问题涉及例外情况时,仅找到政策标题远远不够。检索材料必须包含该例外本身。否则,后续的答案生成步骤将从不完整的证据开始。
同样的问题也适用于技术支持。某份故障排除指南可能与某个设备系列相关,但不适用于用户所询问的版本。检索审查应反映用户实际需要答案时所处的条件。
这正是验收应围绕具有代表性的任务,而不是便于展示的演示案例来构建的原因。熟悉的问题能让系统易于展示。困难的问题则能揭示替代方案是否保留了用户所依赖的行为。
比较新旧系统仍然有用,但一致性并非最终目标。原系统也可能返回不充分的文档。在任何人将变化的结果标记为回归之前,都应先进行审查。
这使预期证据发挥了重要作用。审查人员应了解哪些源材料支持答案,以及原因何在。这让他们能够区分有益的变化与偶然的相似性。
评估还应保留检索与答案生成之间的区别。模型可以基于不完整的上下文写出流畅的回答。只阅读最终答案,可能忽略被看似合理的语言掩盖的检索弱点。
AWS 还单独列出了包括正确性、完整性、忠实性和引用质量在内的答案衡量指标。这些类别进一步强调,既要检查提供给模型的证据,也要检查模型生成的回答。
该公告并未提供独立的工作负载基准,证明迁移指南能带来普遍改进。这一限制应影响文章的结论。现有证据支持一种有文档记录的迁移方法,而应用层面的收益仍需要团队自行证明。
运营证据应与相关性证据并列考虑。替代方案或许能在安静的测试期间正确回答问题,却可能在正常流量下表现不同。因此,延迟、故障处理和维护工作量也应纳入验收讨论。
对于 Amazon Bedrock 迁移,最有用的产出是一份将配置决策与已观察到的应用程序行为联系起来的审查材料。它应让分歧显现出来,而不是将一切压缩为总体通过。
这正是编码代理辅助可被评估之处。问题在于,它是否有助于产出易于理解的变更和可复现的证据。没有这些产物的精美说明,无法为审查人员批准生产使用提供充分依据。
关注兼容性、工作负载结果与运营工作量
下一步证据应来自受支持的配置、具有代表性的评估以及持续运营。
首先,关注 AWS 是否扩展或澄清迁移兼容性。实际信号是文档展示此前较难处理的配置如何映射到托管目标环境。相比一般性的产品公告,对既有需求给出的具体答案更具参考价值。
这很重要,因为兼容性决定了可迁移的应用范围。能够处理常见配置的工作流,已经可以帮助部分团队。要实现更广泛的采用,则需要明确说明那些使其他环境更难迁移的设置和依赖关系将如何处理。
如果这些映射变得更完整,评估迁移的理由就会增强。如果关键需求仍不受支持,保留当前架构仍是合理结果。负责任的计划应允许得出这一结论。
其次,关注来自具有代表性工作负载的已发布结果。有价值的报告应说明源材料、查询选择、筛选要求和评估方法。它应解释改进的结果,也应说明目标环境表现更差的情况。
缺少这些背景信息的醒目准确率数字,会留下过多未解问题。买方需要了解被测试的应用程序是否与自己的情况相似。他们还需要足够细节,以区分检索行为变化与评估条件变化。
显示有用答案和正确访问处理的证据,会增强对托管路径的信心。围绕关键筛选条件或身份集成反复出现的问题,则会削弱其对受影响应用程序的吸引力。
第三,关注迁移期之后的运营工作量。初始资源创建清晰可见,也很容易演示。更重要的问题是,在正常的内容更新和用户请求恢复后,应用程序需要多少持续关注。
团队应寻找有关事件调查、内容新鲜度、权限变更和持续所有权的证据。这些经验将有助于判断基础设施整合是否能总体减少工作,还是只是将工作转移到了应用程序集成环节。
这些信号能让预期与公告保持相称。AWS 已经记录了一条帮助编码代理准备迁移的路径。它并未消除工程判断的必要性,包括对需求、证据和生产责任的判断。
对于考虑 Amazon Bedrock 迁移的读者,先识别当前应用程序必须保留的行为。要求进行一项只读评估,将这些需求与拟议目标环境联系起来。在评估生成的变更之前,让应用程序、内容和身份负责人参与审查。随后,使用基于真实工作的提问比较检索结果,包括应当不返回任何受限材料的情形。让决策始终依附于你能够检查和复现的证据。一份有用的计划应解释为何迁移合理、哪些问题仍未解决,以及哪些观察结果会证明保留原系统更合适。以这一标准判断托管路径是否值得承接生产流量。



