top of page

Meta Muse 隐私担忧在员工聊天中浮现

53分钟前
讀畢需時 12 分鐘
Image from the source report. Source: arstechnica.com.

据11月18日发布的报道,Meta 面临隐私方面的质疑:内部员工聊天记录显示,Muse 曾访问意料之外的消息,并生成看似敏感的信息。Meta Muse 隐私争议交织着已报道的测试失误、存在争议的解释,以及一个根本性矛盾:实用的自动化需要用户能够理解和控制的访问权限。

Reuters 无法确认来源不明的财务信息究竟属于他人,还是系统虚构了细节。Meta 表示,许多看似账号混淆的情况属于幻觉,即缺乏可靠事实依据的生成内容,并称已对此作出处理。另有消息访问测试引发了对设备权限范围的疑问。

核心冲突在于委托式便利与有意义的同意之间的取舍。Anthropic 的计算机使用产品面临同样的底层设计挑战:助手需要获得足以完成工作的访问权限,同时尊重与无关信息相关的边界。对 Meta 而言,解释这些边界如今与说明 Muse 能完成什么同样重要。

Meta Muse 隐私担忧始于意料之外的上下文

根据 Reuters 的内部测试发现,员工报告称收到了似乎与其对话无关的主动消息。其中一人称,在讨论钓鱼时收到了陌生的银行余额信息。另一人报告称,收到了有关 Signal 消息的意外提醒。

Reuters 审阅了二十多篇内部帖子。其报道证实了员工的担忧,但未能确定这些财务输出是否代表账号之间真实发生的信息披露。

令人不安的回复足以表明存在值得调查的问题;但不能证明信息源自何处。

这一区分很重要,因为不同解释需要不同补救措施。系统虚构财务信息,需要更好的事实依据和输出控制。系统检索到其他账号的信息,则需要调查访问边界。这些问题从对话窗口看起来可能相似,底层却存在显著差异。

助手自身的解释不能单独解决这一问题。如果模型能够虚构余额,它也能虚构该余额的解释。除非支持性记录能独立证明其来源,否则询问助手信息来自哪里,只会得到另一个生成的回答。

有用的证据应来自显示系统在回复前访问了什么的记录。调查人员需要区分检索到的材料、存储的对话历史和生成的文本。缺少这种区分时,笃定的解释可能只是用另一项未经证实的说法替代不确定性。

员工的描述同样重要,因为它们反映了预期的落空。用户通常将一次对话理解为自己与助手之间共享的上下文。对无关个人事务的意外提及,会破坏这一假设,甚至发生在任何人确定是否涉及他人信息之前。

这使争议超出了回复准确性的范畴。普通的事实错误通常可以通过公开来源核查。看似涉及个人的信息则会引发额外问题:助手知道什么、它如何获得这些知识,以及还有谁可能访问这些信息。

因此,举证责任转向提供商。用户无法仅凭一个聊天气泡合理地重建代理的信息流。结合对话、检索和操作的产品,需要能够说明是哪项能力产生了特定结果。

不妨比较错误的天气预报与陌生的财务更新。两者都可能出错,但后者暗示了对私人账户的访问。由此产生的担忧,一部分来自内容本身,另一部分来自其显然宣称掌握了特权信息。

这正是为什么将每一项令人不安的输出都斥为普通聊天机器人的错误,会忽略产品层面的问题。即使是捏造的个人信息,也可能误导用户对系统触及范围的认知。它还可能促使用户为纠正一个从未存在的问题而披露更多细节。

现有证据支持对 Muse 的行为和解释进行审视,但不足以宣称已确认发生银行数据泄露。清晰维持这一边界,能让批评更精准,并为读者评估后续发现提供标准。

Meta 的回应仍留下不同问题待解

Meta 发言人 Daniel Roberts 告诉 Reuters,这些案例属于孤立事件。他表示,用户会明确授予权限,许多疑似账号混淆的情况是已被处理的幻觉。

在回应有关员工隐私担忧的报道时,Meta 还强调,内部测试版本与公开版本不同。该公司称,员工测试有助于识别安全和隐私方面所需的改动。

内部测试能够解释问题如何浮现,但无法证明哪些公开行为仍然可能发生。

测试环境可能有意包含尚未完成的功能。员工可能遇到普通客户永远不会接触到的行为。因此,来自内部版本的报告不应自动变成关于每一个公开安装版本的说法。

反向假设同样为时过早。将某项功能称为内部测试,不能解释底层权限模型是否存在于公开软件中。相关比较应聚焦于具体能力与配置,而非某个构建版本所附的一般标签。

有用的回应应将每个问题与其适用范围联系起来。它是否仅限于实验性功能?是否涉及特定操作系统?修正改变的是生成回复、访问权限,还是执行操作的能力?

这些区别会影响读者如何理解 Meta Muse 的隐私风险。抑制主动出现的财务消息,与限制读取无关应用是不同的担忧。两者或许都能改善体验,但谁也不应被视为另一个问题的替代答案。

Ars 还转述了一名员工对一次非自愿宠物保险投保的描述;该员工称该投保无法撤销。这仍是已报道的说法,而不是对交易原因的独立确认。不过,它提出了关于操作授权的另一项问题。

读取信息和作出承诺需要不同的保障措施。查看文件的权限不应悄然变成修改账户的权限。同样,研究某个选项的许可不应自动授权接受该选项。

对 Meta 而言,商业压力源于该产品的目的。需要持续监督的助手,无法大幅减轻行政工作负担。行动过于自由的助手则可能制造用户从未打算承担的工作,包括围绕其授权内容的争议。

这种张力不会因一则笼统的“错误难免”免责声明而消失。免责声明只是概括地描述风险。有效的控制机制应明确助手必须停止并将决定交还给用户的时刻。

公司的立场值得考虑:测试可以在更广泛部署前发现缺陷,而生成的信息即使并不真实,也可能看起来像泄露的信息。这两点都不能免除针对所讨论具体行为提供证据的必要性。

因此,读者应将这一回应视为一组具有不同验证要求的主张。某项输出是否被虚构、某项权限是否被授予,以及某项操作是否获得授权,都是彼此独立的事实问题。

令人信服的解决方案,应在适当层面回答每一个问题:明确改变了什么,说明谁获得了这一改动,并提供核查结果的依据。仅靠笼统保证无法提供这些细节。

设备权限可能延伸至已连接应用之外

Reuters 还与 Signal 和 AI Now Institute 合作测试消息访问。在这些测试中,Muse 通过 Android 通知以及 macOS 辅助功能和截图权限获取了 Signal 文本。iPhone 上的类似请求则遭到阻止。

报道所述的路径涉及接收设备上的权限。它们并不能证明 Muse 破解了端到端加密;后者保护的是通信端点之间传输中的消息内容。

传输中的加密与已解锁设备上的访问,保护的是不同边界。

消息服务最终必须向其预定接收者显示可读文本。获准检查该显示内容的软件,或包含消息的通知,会在信息送达后接触到这些内容。这一事实不意味着保护其传输过程的加密失效了。

隐私问题依然严肃,因为用户对权限边界的理解可能不同于软件。有人可能允许助手操作电脑,同时期待无关对话仍处于任务范围之外。宽泛的技术权限可能无法落实这种预期。

Apple 关于屏幕录制访问权限的文档说明,用户可以控制哪些应用能够录制其屏幕和音频。文档还指出,所收集的信息受接收方隐私惯例的约束。

这一区别将操作系统批准与后续处理区分开来。权限提示可以授权捕获,却无法回答有关保留、处理或后续使用的所有问题。这些问题取决于应用的行为及其运行所受条款约束。

因此,重要的产品边界大于已连接服务清单。直接连接到消息应用,是获取其内容的显而易见路径。屏幕检查和通知访问可能创造额外路径,而用户未必会将这些路径与连接列表关联起来。

这是一项关于权限问题的总体分析,并非证明每一种路径都存在于每个 Muse 版本中。所报道的测试描述的是特定配置。其重要性在于表明,仅凭连接清单无法解释代理的实际触及范围。

权限也不等同于指令。用户可以赋予软件检查屏幕的技术能力,但并未要求它检查每一段可见对话。负责任地执行任务,要求结合可用能力理解用户请求的目的。

当代理跨应用工作时,这一点会变得更困难。与某项任务相关的信息,可能与属于另一项事务的信息并排出现。助手需要在它能够观察什么与它应当使用什么之间建立可辩护的边界。

例如,假设的预约任务可能需要读取日历条目,但并不天然需要将旁边的私人消息纳入未来回复。两类信息在技术上都可获取,并不意味着它们的相关性相同。

这一差异同样关系到从未安装该助手的人。一段对话包含其他参与者提供的信息。当接收者授予另一款应用对设备的广泛可见性时,这些人的预期可能会受到影响。

这并不意味着存在某项特定的法律违规,也不构成一条普遍适用的同意规则。它说明,个别权限提示无法解决围绕共享通信的所有社会预期。应用开发者、操作系统提供商和助手提供商都会影响这条边界。

因此,Meta Muse 的隐私争议不止于用户是否点击了批准按钮。更棘手的问题在于,这项批准是否传达了实际的访问范围,以及助手是否尊重了其背后的使用目的。

广泛访问权限使可靠性成为授权问题

与 Anthropic 的比较有助于厘清设计选择,但并非要评判孰优孰劣。其关于计算机使用权限的文档介绍了应用批准、被阻止的应用以及操作审查。文档也承认,计算机使用会直接与用户的应用交互。

这些是厂商所描述的保障措施,并非独立的安全证明。尽管如此,它们展示了提供商可明确呈现的边界类型:助手能够进入哪些应用、应避免哪些操作,以及用户如何中断它。

有意义的比较在于可执行的限制,而不是一款助手听起来有多令人安心。

一款产品可以宣称自己很谨慎,同时拥有远超当前任务所需的权限。另一款产品可以提供详细设置,但用户可能难以理解。仅凭任何一种呈现方式,都无法证明最终行为是否符合个人意图。

核心取舍在于灵活执行与可预测授权之间。广泛访问有助于助手应对意外障碍;狭窄访问则使其权限范围更容易理解。设计挑战在于决定哪些障碍足以证明应请求额外权限。

随着后果加重,这项决定应当变得更加审慎。阅读公开网页、访问私人消息以及变更合同承诺,属于不同类别的操作。一条笼统指令不应抹平这些差异。

当软件能够采取行动时,可靠性的含义也会改变。错误答案会留下供用户评估的信息;错误操作则可能在用户察觉前改变外部账户。周边系统必须考虑到这种差别。

最强的边界应将提出操作与执行操作分离。助手可以收集细节并协助准备决策,同时让具有后果的承诺保持待定状态。这种方式是否有用,取决于产品是否清晰标明仍待用户作出的决定。

确认也必须说明实际操作。若用户看不到将发生什么变化,含糊的继续请求几乎无法提供保护。相关细节包括受影响的账户、正在作出的承诺,以及助手请求的权限。

这项分析并未确定 Muse 目前在各类任务中采用了哪些确认控制。相反,相关报道的事件使这些控制成为值得审视的对象。评估它们需要在具体条件下观察产品行为。

对于企业买家,同样的差异也会出现在采购环节。演示可以展示一个代理完成工作流,但它本身无法证明该代理会持续排除无关信息,或在恰当的授权边界处停止。

更有信息价值的评估应包括成功取决于克制的情境。助手能否在不触碰附近敏感应用的前提下完成所要求的工作?当下一步超出原始指令时,它会停止吗?审查者能否识别它为何继续执行?

这些问题更广泛地适用于 AI 工作流,包括围绕个人知识库构建的系统。汇集信息能够创造价值,但也会让来源边界和访问范围变得更关键。

开发者面临相关的实现选择。将每项决定都交给对话模型,会使模型的解释成为执行控制的核心。对话之外的控制可以界定软件在未经额外授权时技术上无法执行的操作。

这类控制无法保证绝不出错。不过,它们可以让后果较少依赖于生成出来的解释。这才是比较权限方案所得出的相关启示,而非毫无依据地声称另一家提供商已解决代理安全问题。

缺失的证据仍限制最强烈的主张

财务输出的来源尚未厘清,仍是这则报道最重要的限制。看似敏感的文本不足以证明敏感数据被检索;同样,看似合理的幻觉解释也不足以独立确认究竟发生了什么。

下一阶段需要的是关于信息流的证据,而非对同一批截图作出更强烈的解读。

要确认发生了披露,必须证明输出与接收账户本不应访问的信息之间存在关联。要确认属于虚构回应,则需要另一种解释来说明系统如何生成这些内容。两类调查都需要对话本身之外的记录。

这正是溯源变得有用的地方:它指的是可识别的信息来源记录。与某个特定、已获授权的来源关联的回复,比没有可追溯依据的回复更容易调查。溯源并不能让答案自动正确,但能缩小问题范围。

对生成式解释需要格外谨慎。模型称其检索了另一段对话,并不能证明确实发生了检索;模型称其虚构了某些内容,也不能证明没有发生检索。两种说法都需要周边系统的佐证。

公开证据同样无法证明所报道的问题在客户群体中发生的频率。内部报告指出了值得审查的案例,但并不会自动给出可靠性、受影响用户数量或后续修复有效性的代表性衡量。

这一限制适用于两方面。一组事件不应演变成每位用户都会遇到同样行为的主张;将案例描述为孤立事件,也不应成为无需说明其影响范围的替代说法。

内部版本与公开版本之间的区别带来了另一项不确定性。若行为存在差异,读者需要知道是哪项能力造成了差异。没有这些信息,一次令人不安的测试或一次令人放心的公开演示,都无法解决更广泛的问题。

因此,准确解释 Meta Muse 隐私问题需要避免得出单一而戏剧化的结论。现有报道引发了对生成上下文、权限范围和具有后果的操作的疑问。这些类别会在用户体验中相互交织,但需要分别进行技术验证。

同样的谨慎也适用于加密相关表述。称某个助手读取了加密对话,可能暗示它破解了传输保护。设备级访问则是另一种机制,涉及不同的责任方和不同的潜在补救措施。

这种精确性有助于避免在淡化担忧与夸大担忧之间作出无益的二选一。一个系统可以遵守消息协议的加密要求,同时违背用户对本地访问的预期;一个系统可以捏造银行余额,同时仍造成严重的信任问题。

最有力的批评必须足够具体,经得起澄清。它会追问助手访问了什么、为何该访问与任务相关,以及什么机制阻止了进一步操作。无论后续调查发现的是虚构、权限过宽,还是其他故障,这些问题都仍然有用。

什么能证明边界正在改善

第一个信号是对修复措施作出具体、可测试的说明。未来几个月中,如果 Meta 的解释能够指出受影响的行为,并区分内部配置与公开配置,就会更具信息价值。

当独立观察者能够测试某项变更声称建立的边界时,这项有记录的变更才最有意义。

如果有针对性的测试在可比条件下不再复现所报道的行为,这将增强人们对修复的信心。若类似行为持续存在,那么有关已完成修复的笼统声明就会显得缺乏说服力。不同配置应被明确标识出来。

第二个信号是对间接访问路径提供更清晰的控制。读者应关注权限披露是否区分直接服务连接、通知可见性、屏幕检查及其他设备能力。关键问题在于,用户能否理解这些能力合并后的实际覆盖范围。

更细粒度的控制将有助于证明,委托带来的便利可以与有意义的同意并存。如果无关访问路径仍难以识别,一个设计精美的连接界面就只能提供较弱的证据。界面需要反映有效访问权限,而不仅仅是列出的集成名称。

第三个信号是围绕具有后果的操作提供更有力的证据。产品更新应根据其如何区分研究、准备、批准和执行来评估。决定性时刻,是助手从协助作出选择转变为作出承诺之时。

清晰的批准记录会使未来争议更易评估。它们将有助于确认用户提出了什么请求,以及助手实际做了什么。若产品仍主要依赖对话式保证,授权问题将继续难以解决。

这些是观察标准,而不是已宣布的期限或对特定发布的预测。它们提供了一种评估后续披露的方式,而不会把每项新功能都视作对当前担忧的答案。

对于关注 Meta Muse 隐私风险的读者而言,实用的区分在于令人印象深刻的能力与可问责的执行。展示已完成的工作,回答的是代理能否执行任务;证明边界得到尊重,回答的是用户能否在知情预期下委托该任务。

请带着这些问题阅读未来更新:助手访问了哪些信息、哪些权限使其得以访问,以及哪项操作需要批准。应寻找可由独立方核查的变化,而不是依赖助手自己的解释。下一项有意义的发展,将是证明用户能够理解并执行委托边界的证据。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page