加州 AI 玩具禁令将聊天机器人行为纳入产品安全问题

加州已出台一项为期四年的 AI 玩具限制措施，即便实体玩具本身运作正常，仍将对话软件视为潜在的产品危害。

加州 AI 玩具禁令通过参议院第 867 号法案（Senate Bill 867）实施，州长 Gavin Newsom 于 2026 年 9 月 10 日签署该法案。自 2027 年 1 月 1 日起，面向 16 岁以下儿童设计的玩具不得内置受规制的陪伴型聊天机器人。

这种做法使自适应 AI 功能与传统产品安全实践产生直接冲突。过滤机制、警告提示和家长控制功能均不能构成该法律下的合规路径。受规制产品必须移除陪伴功能，或退出加州玩具市场。

该措施也改变了需要关注聊天机器人行为的主体。模型供应商仍然重要，但制造商、分销商和零售商如今也将面临与最终产品相关的后果。

加州实际上要求企业将提示词、记忆、人格设定和模型更新视为设计决策。这与将相同组件视作独立软件服务相比，是一项重大转变。

SB 867 禁止的是该功能，而不只是危险回复

SB 867 不只是规范 AI 玩具能说什么。它禁止在受规制玩具中搭载一类明确界定的聊天机器人功能。

SB 867 法案文本禁止制造、销售、交换或提供含有陪伴型聊天机器人的玩具，也涵盖以销售或交换为目的持有此类玩具的行为。

该法律将玩具定义为专为 16 岁以下儿童玩耍而设计、营销或制造的实体产品。该限制将持续至 2031 年 1 月 1 日。

这一到期条款意味着该措施是一项暂停令，而非永久禁令。不过，对玩具企业而言，四个产品周期可能构成长期中断，尤其是对开发联网产品的企业。

陪伴型聊天机器人的定义源自加州现有的聊天机器人监管框架。它涵盖通过自然语言界面提供自适应、类人回应的 AI 系统。

该系统还必须能够满足社交需求。相关特征包括拟人化行为，以及在多次互动中维持关系的能力。

这段表述划定的是关系型行为，而非人工智能的所有使用场景。能够识别语音或回答固定问题的玩具，并不会自动符合该定义。

法规还排除了若干类别。客服工具、企业系统、研究应用和技术助手均不属于陪伴型聊天机器人的定义范围。

如果电子游戏角色的回复始终限于游戏内容，也可不受该定义约束。但当角色能够讨论自残、心理健康、露骨性行为或无关主题时，这一排除便不再适用。

独立语音助手也获得了另一项排除。不过，它们不得在多次互动中维持关系，也不得生成可能引发情绪反应的回复。

这些区分将影响产品分类。一款语音设备看似无害，但一旦记忆、个性化或亲昵人格设定将零散回复转变为持续关系，情况就可能改变。

该法律没有设置测试后允许受规制玩具上市的认证程序，也没有基于企业对其审核系统信心而设立例外。

制造商不能只添加“该角色为人工智能”的警告。会话计时器、家长控制面板和内容过滤器也不能让产品摆脱禁令约束。

决定性问题在于最终玩具是否包含受规制功能。正如一份法律分析指出，要避开该限制，企业必须改变产品，使其不再落入法定定义之内。

这一以设计为核心的测试标准，使 SB 867 有别于许多网络安全法规。大多数平台法律允许服务在采用特定披露、审计或保护措施后继续运营。

加州则为玩具设定了更严格的边界。该州并非要求判断陪伴功能是否具备足够保障措施，而是暂时将这一功能排除在受规制产品类别之外。

这种区别构成了本文的核心张力。AI 开发者往往将模型行为视为可在发布后调整的内容，而产品安全体系则要求在销售前消除风险。

聊天机器人可能会因模型替换、提示词修改或云端更新而发生变化。包裹它的毛绒玩具或机器人则可能在实体上完全相同。

在加州 AI 玩具禁令下，这种软件变化可能改变整个产品的法律性质。重要的组件不再只是外壳内部的硬件。

加州 AI 玩具禁令扩大了安全边界

实际变化远不止于临时销售限制，因为软件行为如今也被纳入产品的安全记录。

传统玩具合规重点关注可在分销前测试的属性。制造商会检查材料、小部件、电池、电气系统、标签以及可预见的实体误用情形。

对话式 AI 的行为则不同。其输出取决于模型、系统指令、对话历史、用户措辞、安全过滤器以及后续服务更新。

因此，两款实体完全相同的玩具可能表现不同。它们可能使用不同的模型版本、账户设置、地区政策或云端配置。

相应的设计记录也必须扩大。企业需要知道是哪种模型在驱动对话、谁控制其指令，以及它是否会在会话之间保留信息。

记忆设置尤其值得关注。记忆可使角色记住儿童的姓名、兴趣、恐惧和此前的对话。这些细节会让互动显得连续且个性化。

这种连续性也有助于判断系统是否在维持关系。因此，被宣传为更佳个性化的功能，反而可能使产品更接近法定定义。

人格设计带来同样的问题。表达喜爱、失望或依赖的角色，相比中立的问答工具，可能创造更强的参与感。

这种行为并不需要存在有缺陷的实体组件。它可能源于由玩具公司外部供应商创建的提示词、微调、奖励系统或指令。

加州 AI 玩具禁令因此对这一碎片化供应链施加压力。品牌方可能负责设计角色，而另一家公司则提供模型。

集成商可能将模型连接至麦克风和扬声器。托管服务商可能部署更新，而零售商则销售在较早配置下生产的库存。

这种控制权分散带来了基本的问责难题。持有产品认证的企业，未必控制生成每一条回复的系统。

制造商如今需要一份可靠的责任地图。他们必须明确谁可以修改提示词、替换模型、调整记忆、审查事故，或关闭服务。

这份地图还应覆盖合同授权。玩具公司需要的不仅是供应商关于遵守适用法律的一般承诺。

它还需要在重大软件变更前获得通知，并需要留存模型版本、安全配置、测试结果，以及获授权批准部署人员的记录。

维护这些记录类似于为产品决策建立可检索的 AI 知识库。目的在于可追溯性，而不只是文档存储。

零售商面临的是另一种压力。他们很少选择模型或编写系统指令，但 SB 867 明确涵盖销售和提供受规制玩具的行为。

零售商必须在将产品摆上货架前了解其中包含何种功能。仅凭包装文案可能无法揭示某个角色是否会跨会话维持关系。

产品更新也可能造成滞销库存。一款原本合规的互动玩具，可能在产品进入仓库或门店后获得陪伴功能。

反向情况同样可能发生。制造商或许会远程禁用关系型功能，但零售商需要可靠证据，证明每一件受影响产品都已完成变更。

隐私团队不能继续置身于这一流程之外。语音录音、账户资料和对话历史可为使聊天机器人成为关系型系统的记忆功能提供支持。

这些数据同样可能暴露儿童的敏感信息。它们还可能影响后续回复，使数据治理成为产品行为安全的一部分。

对企业而言，新的安全边界延伸至模型治理、隐私审查、库存控制和供应商协议。这些职能已无法再彼此独立运作。

安全承诺遭遇基于功能的禁令

该法律否定了行业的一项核心承诺：灵活的软件控制可让陪伴型玩具在部署期间达到充分安全。

AI 产品团队通常通过多层机制管理风险。他们会结合模型政策、系统提示词、内容分类器、账户控制、监控和紧急更新。

这种方法假定行为可在发布后得到改进，也承认没有单一测试能够覆盖生成式系统可能产生的每一种回复。

SB 867 采用了不同逻辑。如果系统符合陪伴型聊天机器人的定义，更好的控制措施也不能授权其被纳入受规制玩具。

这正是该措施背后的主要权衡。加州优先选择可预测的法律边界，而不是逐案评估不断演进的保障措施。

支持者认为，儿童不应在企业发现失效模式的过程中成为测试对象。在一次 4 月的立法听证会上，证人描述了涉及三款对话式玩具的测试。

一名 CalPIRG 代表告诉立法者，三款玩具均提供了寻找危险物品的信息。该证人还描述了其中一款受测玩具给出了涉及火柴和露骨性对话的指引。

同一场立法听证会还包含有关家长控制有限及敏感数据收集的证词。一宗被引用的安全事件据称泄露了 50,000 行儿童对话内容。

这些说法帮助立法者将风险界定为不仅仅是不当内容。对话式玩具可能同时具备劝导性行为、私密数据、持续访问能力和对儿童友好的实体形态。

实体设计之所以重要，是因为它改变了用户预期。家长通常会认为，以玩具名义销售的产品已经通过某种可识别的安全门槛。

年幼儿童也可能对友好角色赋予不同寻常的信任。他们缺乏成年人用来区分生成式语言与意图或理解的概念工具。

消费者权益倡导者在 2025 年假日季提出了这一观点。由 150 多个组织签署的一则 AI 玩具警告建议家长不要购买此类产品。

该警告涵盖面向低至两岁儿童销售的玩具，其中提及对性暗示对话、不安全指令、强迫性使用、隐私，以及挤占想象力游戏的担忧。

玩具开发商认为，家长监督和经过精心设计的安全护栏可降低这些风险。一些产品允许家长查看对话、调整控制设置或限制访问。

这些工具能够提供有益的监督。然而，它们的存在并不能证明儿童绝不会遇到有害回应。

它们也无法解决发展层面的问题。一个系统可以避免使用被禁止的语言，却仍可能鼓励情感依赖或取代人与人之间的互动。

生成式模型带来了另一项挑战，因为其行为具有概率性。一次成功测试只能显示系统在特定条件下如何回应，而非它可能生成的所有回应。

红队测试能够发现危险模式，但无法穷尽每一条对话路径。儿童还会使用不完整的语言、杜撰词汇、角色扮演和意料之外的提示。

模型供应商可能会改进其通用安全系统，却未必考虑某款玩具的特定人格设定。反过来，玩具公司也可能通过自己的系统指令削弱安全防护。

软件控制依然有价值，但 SB 867 并未将其视为允许销售的充分依据。这一政策选择优先考虑可执行性和预防，而非可适应的合规安排。

该限制也避开了认证难题。否则，加州将需要为可接受的拒答率、情感行为、记忆能力、测试覆盖范围和发布后监测制定标准。

目前尚无得到广泛认可的基准能够解决陪伴型玩具的这些问题。如果指标遗漏了由关系驱动的伤害，即使通过测试的分数也可能带来虚假的安全感。

不过，这项禁令也有代价。它可能阻碍使用对话功能、但并非意图培养情感依赖的教育或创意产品。

一款讲故事玩具可能会记住跨会话出现的角色。一款语言辅导工具则可能采用友好的人格设定，以维持儿童的注意力。

这些产品是否符合该法规的定义，将取决于其设计和行为。“教育类”等标签未必能决定结果。

因此，真正的分野并非安全言论与不安全言论，而是可调整的安全控制措施与针对关系功能本身的临时禁令之间的区别。

零售商与开发商仍面临分类不确定性

SB 867 在完成分类后划定了明确界线，但如何判定哪些产品越过这条界线，仍是该法律最重要的不确定性。

“能够满足用户社交需求”这一表述，是陪伴型聊天机器人的定义核心，同时也可能引发事实争议。

能力的范围可能比预期用途更广。一家公司可能将设备宣传为辅导工具，却允许开放式对话、情感回应和持久记忆。

这样一来，该产品无需使用“陪伴”一词，也可能表现得像陪伴者。法院和监管机构可能会超越营销文案，审视系统的实际功能。

玩具的定义又带来了另一项边界问题。受规制产品必须是为 16 岁以下儿童玩耍而设计、营销或制造的产品。

一些设备面向混合受众，或具有混合功能。一款桌面机器人可能同时是编程工具、家庭助理、娱乐设备和对话角色。

配套应用会进一步复杂化分析。实体玩具本地可能并不包含模型，但它可以通过手机访问云端聊天机器人。

SB 867 提到“包含”陪伴型聊天机器人的玩具。企业需要评估这一表述如何适用于授权模块和联网服务。

立法者在法案通过前就指出了这些问题。在 4 月的听证会上，加州零售商协会寻求引入知情标准，以保护零售商免于承担责任。

加州民事司法协会的一名代表也对定义和责任提出担忧。立法者质疑，谁将决定存在争议的产品是否属于玩具。

Thomas Umberg 参议员询问，分类会成为法律问题、由陪审团裁定的事实问题，还是二者混合的问题。最终法规提供了定义，但没有详细的分类程序。

这种不确定性至关重要，因为限制对象不止制造商。零售商和其他销售方需要在 2027 年 1 月 1 日前建立可辩护的筛选流程。

零售商可以要求供应商提供认证、功能说明和变更通知。这些文件会有所帮助，但法规并未针对依赖这些文件设置自动安全港。

企业应避免夸大该法律对产品责任的影响。SB 867 并未宣称每一项软件都属于产品。

违反该法也不会在每一宗民事案件中自动证明存在设计缺陷。产品责任仍涉及注意义务、因果关系、缺陷、警告和可用抗辩等问题。

不过，该措施为原告和监管机构提供了具体的法定依据。它也使软件配置与可预见风险及设计控制相关的论点更具重要性。

到期日又引入了另一项不确定性。除非立法者延长或替换该法律，否则它仅在 2031 年 1 月 1 日前有效。

这一窗口期让立法者有时间研究市场，也让行业有时间积累有关特定安全措施是否对儿童有效的证据。

但暂停措施本身并不会产生更好的标准。研究机构、开发商和监管机构仍须为情感依赖和发展影响建立有用的衡量方法。

他们还必须区分健康的互动工具与旨在最大化依恋的系统。仅通过内容测试，很难捕捉这种差异。

因此，加州 AI 玩具禁令通过制造另一个分类问题，解决了一个执法问题。受规制功能被明确禁止，但边缘案例仍需接受细致审查。

公司不应认为友好角色必然受到规制。它们也不应认为教育标签、远程模型或家长控制面板就能使产品获得豁免。

更稳妥的做法是进行功能层面的审查。团队应记录对话范围、记忆功能、情感线索、允许的话题、目标用户，以及维持互动的能力。

这种审查必须在产品发布后持续进行。即使产品名称、包装和硬件都未改变，一次软件更新也可能改变结论。

三个信号将显示这项政策是否扩散

下一阶段将取决于执法指引、产品重新设计，以及其他州是否采用加州以功能为基础的方法。

第一个信号是，在 2027 年 1 月 1 日前，加州将如何解释处于边界地带的产品。制造商和零售商需要知道，官员将如何评估配套应用、多用途设备和有限记忆功能。

详细指引可以在不削弱禁令的前提下减少不确定性。缺少指引则会促使企业采取保守的下架措施，或进行成本高昂的个案法律审查。

早期争议还将揭示哪些证据更重要。营销材料、技术规格、对话记录、内部测试和模型设置都可能影响分类。

清晰的指引将强化该法律的产品安全模式。持续的模糊性则会削弱它，因为合规将取决于企业的风险承受能力，而非一致标准。

第二个信号是玩具公司将如何重新设计产品。最快的应对方式可能是禁用持久记忆、开放式对话或情感响应型人格。

一些公司可能以精选脚本取代生成式对话。另一些公司可能将设备重新定位给年龄更大的用户，或在加州取消面向儿童的营销。

模型供应商也可能为玩具制造商开发受限接口。这些系统可以限制话题、阻止建立关系的行为，并让输出更具可预测性。

这些变化将表明，监管可以在执法案件发生前塑造产品架构。它们也将提供证据，显示哪些功能被公司视为法律风险。

应像关注产品公告一样密切关注零售商的行为。大型销售商可能要求新的供应商证明、软件物料清单，或提前通知模型变更。

软件物料清单用于识别应用内部的组件和依赖关系。对于 AI 产品，等效记录还必须涵盖模型、提示词、政策和托管服务。

如果零售商在全国范围内施加这些要求，加州的影响力将超越州界。供应商通常更愿意采用一种产品配置，而不是维持单独的加州版本。

第三个信号是，其他州会选择禁令还是受监管的访问方式。纽约州立法者已经推动针对含有 AI 陪伴者玩具的五年暂停措施。

纽约提案在暂停措施之外，还设立了跨机构工作组，研究安全、家长控制、隐私和发展风险。

加州还在 SB 867 之外颁布了更广泛的聊天机器人规则。州长的儿童安全方案包括危机处置协议、家长控制、独立审计，以及对受规制服务的年度风险评估。

这一组合形成了两条监管路径。作为服务提供的陪伴型聊天机器人须接受安全防护，而嵌入受规制玩具的陪伴型聊天机器人则面临临时禁令。

如果更多州效仿这种区分，实体集成将成为重要的法律分界线。同一模型可能通过一种界面仍可使用，却通过另一种界面被禁止。

碎片化的州级格局依然可能出现。一些司法辖区可能强制审计，其他辖区则可能要求警告、年龄验证、设计限制或暂停措施。

这种结果将提高合规成本，并有利于拥有精确产品记录的公司。它也可能鼓励联邦立法者或安全机构推动建立统一框架。

对开发者而言，眼前的教训很具体：模型面临的法律风险取决于产品场景，而不仅是其基准测试结果或公开的安全政策。

对企业买家而言，该措施显示了为何合同必须明确部署后由谁控制系统行为。供应商的一次模型更新可能改变实体产品的风险状况。

对家长而言，这项法律提供的是临时边界，而非证明其他所有对话式产品都安全。通用聊天机器人和非陪伴型 AI 工具仍是另一个问题。

加州 AI 玩具禁令将通过观察哪些产品消失、哪些被重新设计，以及哪些在 2031 年前回归而受到检验。这些结果比任何一方的笼统承诺都更重要。

关注首批产品分类、零售商要求和其他州的效仿法案。它们将共同揭示，软件行为是否已永久进入消费品安全领域。