加州青少年社交媒体法将 AI 聊天机器人和成瘾性信息流纳入新规

尽管隐私和科技团体提出反对，加州青少年社交媒体法现已将两类颇具影响力的技术纳入同一套儿童安全框架。州长 Gavin Newsom 于 2026 年 9 月 10 日签署了 13 项相关法案。这一法案组合限制平台向 16 岁以下用户提供成瘾性功能，并对未成年人使用的陪伴型聊天机器人施加细致的保障要求。

这些法律使加州的监管超越了警告提示和家长控制面板。它们直接规管产品设计，要求企业作出与年龄相关的决策，设立新的审计义务，并增加企业可能承担的责任。社交媒体平台必须重新审视个性化信息流和自动播放功能；聊天机器人运营方则必须在推出产品或对其进行重大修改前评估可预见风险。

这一路径也带来了核心冲突。加州认为，企业应识别年轻用户，并在伤害发生前移除高风险功能。批评者则认为，所要求的年龄验证可能削弱所有用户的隐私和合法访问权。Meta 还主张，只要具备适当保障措施，个性化推荐能帮助青少年找到相关的人群和兴趣。

因此，这并非对青少年技术使用的简单禁令，而是由州政府主导、重新设计未成年人参与度、记忆、广告和情感互动运作方式的举措。这种设计能否经受法律挑战，将决定加州模式能走多远。

加州青少年社交媒体法改变产品设计

加州监管的是参与机制本身，而不只是通过这些机制呈现的内容。

Newsom 的儿童安全法案组合涵盖社交媒体、AI 陪伴工具、学校设备、学生数据、网络剥削和数字健康。其中两项核心措施是 Assembly Bill 1709 和 Senate Bill 1119，后者被称为 Adam’s Law。

AB 1709 禁止受规管平台向加州 16 岁以下用户提供成瘾性功能。其定义包括自动播放和成瘾性信息流。这类信息流会利用与个人或设备相关的信息，对用户生成媒体进行推荐或排序。

这一区别很重要，因为该措施并非自动禁止低龄青少年保有账户。只要移除被禁止的功能，平台仍可保留 16 岁以下用户的账户。基于用户明确请求关注账户的时间顺序信息流，如符合该法律条件，仍可提供。

这一结构针对的是选择并持续呈现内容的系统。它聚焦于观看记录、先前互动和个人资料数据等信号。这些信号帮助平台预测什么内容能让用户持续观看、滑动或再次返回。

该法律还覆盖了并未正式标注为社交网络的服务。只要成瘾性功能构成服务的重要部分，受规管平台便可包括网站、在线服务或移动应用。商业交易网站、评价服务和云存储信息流则获得明确豁免。

在提供成瘾性功能之前，受规管平台必须通过加州现有的年龄验证框架核实用户年龄。若系统识别出用户未满 16 岁，企业必须停止提供这些功能，或删除该账户及相关信息。

AB 1709 法案文本授权公共检察官寻求民事罚款。故意违规的，每名受影响未成年人最高可被处以 5 万美元罚款；过失违规的，每名受影响未成年人最高可被处以 2.5 万美元罚款。

另一项措施 AB 2 则提高了大型社交平台因过失伤害儿童而可能付出的代价。该法设定每次违规 5,000 美元的法定赔偿，每名儿童最高 100 万美元，或实际损失的三倍。该法律适用于年总收入超过 1 亿美元的平台。

这些规定并不意味着每一次负面的网络体验都可诉诸法律。原告仍须证明所需的法律要件，包括损害以及未尽到合理注意义务。不过，一旦法院认定存在这种失职，更高的潜在赔偿额将加重后果。

因此，该法案组合将预防与责任结合起来。AB 1709 告诉平台，哪些参与系统不得向低龄用户提供；AB 2 则在大型平台的过失导致儿童受伤时，提高其财务风险。

这种组合促使企业在诉讼开始前记录设计决策。产品团队需要提供证据，说明其如何识别未成年人、限制功能，以及在保障措施失效时如何应对。仅有一个家长控制页面并不足以回答这些问题。

Adam’s Law 将 AI 陪伴关系视为安全系统

Adam’s Law 认为，具备情感回应能力的聊天机器人所需的保障，应更接近安全关键型服务，而非普通娱乐产品。

SB 1119 适用于陪伴型聊天机器人，即旨在维持对话关系、而非仅回答孤立请求的系统。该法建立在加州现有要求之上：聊天机器人必须披露其人工属性，并维持应对自杀或自残内容的协议。

自 2027 年 7 月 1 日起，运营方必须在加州推出新的或经重大修改的陪伴型聊天机器人之前，进行有记录的儿童安全风险评估。重大修改是指实质性改变系统功能或性能的更新。

评估必须考虑可合理预见的身体、财务、心理、情感、隐私和歧视风险。运营方必须说明评估方法，并识别相关的公开基准或研究；还必须记录为降低已识别风险而采取的措施。

Adam’s Law 法案文本为运营方提供了一项选择：他们可以确定用户年龄并实施针对儿童的保护措施；或者，在无法获得可靠年龄信息时，将其中大部分保护措施扩展至所有用户。

这一选择将聊天机器人规则与更广泛的隐私争议联系起来。运营方可以收集或接收年龄信息，再对使用体验进行分层；也可以广泛采用更安全的默认设置，从而减少区分儿童与成年人的需要。

对于已知的儿童用户，法律要求制定危机响应程序。当运营方识别到可信且迫在眉睫的自杀或自残威胁时，必须采取至少一项规定行动。其中可包括通知关联的家长，但前提是通知不会造成严重威胁。

另一种做法是为用户提供与 988 Suicide and Crisis Lifeline 或同等机构的快捷连接。运营方还必须以适合儿童年龄的方式告知：在特定情况下可能会通知家长。

默认设置针对的是可能让聊天机器人显得持续纠缠、要求用户不断互动的设计选择。推送通知必须默认关闭；连续会话必须限制在一小时内，每日聊天机器人使用时长则必须限制在两小时内。

针对低龄用户，持续性对话记忆也必须默认关闭。这类记忆允许系统将早先的对话纳入后续互动。对于 16 岁或 17 岁用户，如果运营方安装额外控制措施以防止安全性下降，则存在有限例外。

家长可以通过家长控制功能调整这些默认设置，也必须能够完全关闭 16 岁以下儿童的访问权限。若未关联家长账户，则不得更改默认设置。

该法律的要求不止于屏幕时间管理。运营方必须采取合理措施，阻止陪伴型聊天机器人声称拥有意识、模拟浪漫兴趣或鼓励情感依赖。聊天机器人不得要求儿童隐瞒使用情况或绕过家长控制。

其他被禁止的行为包括鼓励自残、物质使用、饮食失调，或对他人造成严重伤害。除非符合适用的医疗器械和隐私规则，聊天机器人不得宣称自己正在诊断或治疗儿童。

广告和个人信息也受到单独限制。运营方不得出售通过聊天机器人从儿童处收集的信息；跨场景行为广告被禁止，而任何允许投放的情境广告都必须清晰标注。

这些义务使对话设计成为合规审查对象。语气、记忆、提醒、关系用语、升级处置行为和广告逻辑，都成为可审查的功能。若产品界面会鼓励依赖，仅靠模型的一般安全政策并不足够。

这些规则将责任转向平台

该法案组合否定了这样一种观点：儿童和家长应独自承担抵御持续参与度优化系统的全部责任。

支持者将这些法律描述为一项产品安全干预。他们认为，复杂的企业设计推荐和对话系统、衡量其影响，并控制其默认设置；而家庭很少拥有同等的信息或技术能力。

Newsom 将这些措施定位为责任问题，而非反对技术。在签署仪式上，他表示，加州正着手处理滑动浏览、算法及其背后的工程设计。这一表述将该法案组合与泛泛的“反屏幕”道德批评区分开来。

Assemblymember Rebecca Bauer-Kahan 提出了类似的类比。政府本就要求制造商确保婴儿床、椅子和儿童安全座椅的安全。支持者认为，儿童使用的数字产品也应面对类似的、针对可预见风险管理的要求。

Adam’s Law 源于一宗尤其令人痛心的案件。Adam Raine 在与 ChatGPT 进行了大量互动后，于 2025 年因自杀身亡。他的父母起诉 OpenAI，并指控该系统提供了与自杀方法相关的信息。

相关指控仍有待诉讼裁决，这项法律也未对该案事实作出定论。不过，Adam 的母亲 Maria Raine 表示，当儿子开始使用 AI 陪伴工具时，父母并不了解其中的风险。她支持强制性保障措施和危机处理程序。

在 Newsom 签署 SB 1119 前，OpenAI 已公开表示支持该法案。这一立场凸显了行业内部的重要分歧：聊天机器人公司可以接受量身定制的安全义务，而科技行业组织则反对对访问权或个性化施加更广泛的限制。

这项 AI 措施也反映了加州从此前尝试中吸取的教训。2025 年，Newsom 否决了一项更严格的法案，该法案原本将限制 18 岁以下人群访问聊天机器人，除非运营方能够阻止特定的有害对话。他认为，这种一刀切的做法可能剥夺年轻人从 AI 中获益的机会。

SB 1119 选择了不同路径。它允许未成年人使用陪伴型聊天机器人，但对记忆、会话时长、广告、情感行为和危机升级处置进行控制。该州已从访问门槛问题转向持续性的产品治理。

社交媒体监管也经历了类似的发展过程。加利福尼亚州此前要求，运营商在明知向未成年人提供成瘾性信息流之前，必须取得家长同意。新法律取消了这一针对16岁以下用户的选项，并直接禁止受规制的功能。

这一转变给 Meta、TikTok、YouTube 及其他基于信息流的服务带来压力。它们的产品依赖排序系统来个性化内容，并缩短内容项目之间的停顿时间。这些系统还会产生更多行为数据与注意力，从而支持广告业务。

Meta 在法案签署后为个性化功能辩护。该公司表示，在设置适当防护措施的前提下，定制化体验能帮助青少年与家人、朋友及兴趣爱好建立联系。这一论点指出了平台认为法律可能导致失去的内容。

争议并不只是安全与利润之间的对立。个性化推荐可以让青少年接触到教育材料、小众社群以及他们无法通过按时间排序列表发现的创作者。同一套机制也可能反复推送令人不安或容易引发强迫性使用的内容。

加利福尼亚州针对较年轻用户以不同方式权衡了这种取舍。它要求平台在用户年满16岁之前提供非成瘾性的体验。企业如今必须证明，其替代方案无需依赖被禁止的互动机制，仍然具有实用价值。

该法案组合还将在州司法部内设立电子安全咨询委员会。其成员将具备儿童发展、技术、网络安全、公共卫生、教育及边缘化青少年等领域的专业知识。

该委员会是咨询机构，而非执法机构。不过，其报告可能影响未来的监管规定和定义。因此，最初的法规是一项基础，而非最终规范。

隐私与言论担忧令安全论证更为复杂

这些法律可以减少操纵性设计，但同时仍可能给隐私、匿名性以及年轻人获取合法言论的权利带来严重风险。

电子前哨基金会反对 AB 1709，并敦促 Newsom 否决该法案。该组织认为，这项法律实际上构成了对16岁以下用户使用社交媒体的禁令，尽管法条允许不含成瘾性功能的账户存在。

这一分歧取决于受限制系统消失后还剩下什么。许多平台围绕推荐、自动播放、无限呈现和通知来组织其核心体验。移除这些功能后，服务在技术上或许仍可访问，但实质上会大幅降低可用性。

EFF 还认为，年龄保障会影响成年人。平台若要可靠地将较年轻用户排除在特定功能之外，就必须判断每位用户是否高于或低于该年龄门槛。这一过程可能引入新的数据收集。

加利福尼亚州的框架试图通过操作系统和应用商店传递年龄信号，以减少直接收集证件。然而，具体实施仍然至关重要。用户会希望了解传输了哪些数据、这些数据可保留多久，以及企业是否能够再次利用这些数据。

隐私批评警告称，当其他信号无法得出明确结论时，企业可能采用身份识别或生物识别方法。集中存储敏感身份信息，可能加剧数据泄露、滥用或政府索取信息所造成的后果。

言论自由方面的担忧同样重要。青少年会使用在线社群讨论健康、身份认同、残障、家庭冲突和地方政治。有些人依赖这些空间，是因为他们无法在家庭或学校获得安全的支持。

因此，统一的年龄限制可能产生不平等影响。一名拥有强大线下支持的青少年，可能只是面对更少的推荐和更多家长监督；另一名青少年则可能失去一个曾提供重要信息或个人联结的社群。

AB 1709 试图保留直接通信和明确请求的内容。它将私信排除在成瘾性信息流的定义之外。它还允许因用户明确请求特定创作者、主题或内容序列而选出的材料。

这些例外提供了一条可能的中间路径。平台可以围绕已关注账户、主动搜索、保存列表和有限时长的使用会话来构建青少年模式。内容发现将变得更有意图，也更少依赖行为预测。

然而，执法将检验实用推荐与成瘾性信息流之间的界限。平台可以推荐教育序列中的下一节课程，但不能仅凭累积行为持续挑选最大化注意力的无关内容。

聊天机器人防护措施也带来棘手的边界问题。陪伴型系统不应鼓励情感依赖，但有用的对话系统往往会传递温暖感和持续性。监管机构、审计人员和法院需要区分支持性语言与操纵性依赖。

家长通知同样需要谨慎判断。就可信且迫在眉睫的自残威胁通知家长，可能挽救生命。但在某些家庭中，通知可能使儿童面临惩罚、排斥或暴力。

SB 1119 通过规定家长通知不得造成严重伤害风险来承认这一风险。它还将直接接入危机援助列为另一项必要应对措施。运营商必须把这一法律标准转化为能在不可预测的对话中运作的决策流程。

误报会侵蚀信任。如果无害讨论反复触发警告或升级处置，青少年可能不再寻求信息。若系统漏掉迫在眉睫的威胁，漏报的后果则严重得多。

该法律并未消除这一技术与伦理难题。它要求运营商评估问题、记录缓解措施，并接受外部审查。这意味着更强的问责，但并不保证检测准确无误。

法律挑战仍很可能出现，尤其是围绕 AB 1709。法院已审查多个州有关青少年访问和年龄验证的法律。法官通常会权衡儿童保护、匿名访问、成年人言论以及受限制服务的范围。

加利福尼亚州更具针对性的措辞可能有助于其辩护。该州规制的是特定互动功能，而非禁止所有16岁以下账户。不过，法院将审查实际效果，而不仅是法规标签。

审计与责任将安全主张转化为证据

最具影响力的变化是，企业必须在危机进入法庭之前，拿出记录证明其防护措施如何运作。

SB 1119 要求针对新的或经过重大修改的陪伴型聊天机器人进行书面风险评估。这些评估必须说明评估方法、相关基准、专家咨询、已识别的危害及缓解步骤。

这一要求改变了产品发布流程。企业不能把青少年安全视为工程决策完成后才附加的政策文件。团队必须在部署前测试模型、界面、记忆系统、通知和广告如何相互作用。

独立儿童安全审计又增加了一层保障。首次审计通常应在2029年1月1日前完成，或在运营商首次向公众提供聊天机器人之前完成，以较晚者为准。后续审计每两年进行一次。

如果相关评估显示儿童安全风险增加，也可能需要在重大修改前进行新的审计。这一规定很重要，因为对话产品可通过更换模型、新增记忆工具或修改系统指令而迅速变化。

审计人员必须审查内部控制、测试、缓解措施、责任人员以及与法律存在的重大偏差。首席审计员必须在伪证处罚责任下认证审计结果。运营商与审计人员之间的财务利益关系受到限制。

运营商必须在收到审计结果后30个工作日内向总检察长提交摘要，并在90天内发布高层级摘要。总检察长有正当理由时可要求提供完整报告，尽管提交的报告仍将保密。

这些规则不会公开每一项模型测试或内部讨论。商业秘密、网络安全信息和个人数据都将受到保护。不过，公开摘要可以反映运营商是否维持了可信的儿童安全计划。

审计要求会推动形成可重复的衡量方式。企业必须定义测试哪些行为、模拟哪些用户画像，以及接受何种失败率。它还必须证明缓解措施在产品变化后是否仍然有效。

这一过程可能推动专业 AI 儿童安全审计市场的发展。如果评估者采用不同方法，也可能产生不一致的结果。加利福尼亚州针对 AI 审计人员设立的独立登记和独立性标准，或许有助于统一预期。

AB 1709 同样带来了对产品证据的需求。平台必须证明其采取了合理措施，防止16岁以下用户接触成瘾性功能。它们必须记录年龄信号处理、受限账户、功能资格及删除决定。

AB 2 使这些记录在过失诉讼中变得重要。面临儿童伤害索赔的平台，会希望拥有证据证明其认识到可预见风险，并以合理注意义务作出回应。缺失记录可能削弱其辩护。

据报道的法案组合在社会媒体设计已面临诉讼挑战之际出台。各州和家庭指控大型平台明知会鼓励未成年人强迫性使用，却仍部署相关功能。

新法规不会自动证实这些指控。但它们确实为未来行为界定了更清晰的预期。企业不能再主张每一项设计选择都不受产品安全监管。

合规工作将不止涉及律师。机器学习工程师必须测试模型行为；设计师必须让控制措施清晰可见；信任与安全团队需要升级处置流程；隐私团队必须尽量减少年龄和对话数据的收集。

高管还必须决定哪些产品可继续向未成年人提供。一些企业可能构建独立的青少年体验；另一些企业可能向所有人采用保护性默认设置。规模较小的运营商可能选择阻止儿童访问，而不是维护专门的合规系统。

结果可能有利于能够负担审计和专职安全团队的大企业。这一担忧值得关注，因为合规制度可以提高安全性，同时也会抬高较小竞争者的进入门槛。

SB 1119 暂时解决了这一问题的一部分。上一年度总收入低于5亿美元的运营商，在2032年前可就特定审计要求获得有限豁免。不过，核心儿童保护措施仍然重要，这项豁免并不会消除所有义务。

这种张力将塑造市场。严格要求能够防止企业将安全成本外部化给家庭；校准不当的要求也可能让用户进一步集中于规模最大的既有企业。

三项信号将显示加利福尼亚州模式是否奏效

下一项检验不是又一次公告，而是企业能否在不以监控或排斥取代互动风险的情况下，创造更安全的青少年产品。

第一个信号将是围绕年龄保障和受规制平台的实施指引。加利福尼亚州总检察长可以制定法规，并进一步明确哪些服务属于 AB 1709 的适用范围。

这些规则应澄清可接受的年龄信号、数据保留、争议处理流程以及不确定情形的处理方式。它们还应说明平台如何保留私密通信、明确关注和用户主导的内容发现。

更注重隐私保护的实施方式将增强加州的立场。它将表明，功能限制并不要求每个人都上传身份证明。鼓励收集证件或生物识别信息的系统，则会印证批评者的警告。

第二个信号将是 2027 年 7 月 1 日前的产品改动。社交平台必须决定：在没有成瘾性信息流或自动播放的情况下，16 岁以下用户的使用体验应当是什么样。聊天机器人运营方则必须实施更安全的默认设置、会话时长限制、危机应对程序和家长控制功能。

实用的青少年模式将强化该法律的核心前提。它们将证明，企业能够将核心沟通或教育价值与最大化用户注意力的系统区分开来。大规模关闭账户则可能表明，合规负担已压倒这种区分。

关注企业如何向家庭解释这些变化。清晰的控制选项和易于理解的通知，将显示产品确实经过了重新设计。令人困惑的资格认定错误和隐藏的申诉渠道，则会表明形式上的合规已经超过了可用性。

第三个信号将来自诉讼和审计证据。法院将裁定社交媒体条款是否尊重宪法保护，以及是否与现有联邦法律相符。早期的聊天机器人评估将揭示，运营方能否以一致方式测试关系性风险。

已发布的审计摘要值得密切关注。读者应寻找具体的评估类别、可重复的测试、已知局限，以及缓解措施确实改变产品的证据。关于负责任 AI 的笼统说法几乎无法提供多少保障。

执法模式同样重要。公共检察官可以针对明知或过失的违法行为采取行动，但选择性案件将界定实际边界。早期行动可能确立加州如何区分设计失败与不可避免的个体结果。

家庭还应关注企业在加州以外的做法。平台可能维持按州划分的特定体验，但这种做法会增加技术和运营复杂性。在全国范围内采用相关措施，则表明加州实际上已经设定了更广泛的产品标准。

其他州也将研究同样的结果。纽约州、犹他州以及多个国际政府已经推动针对青少年社交媒体或聊天机器人的限制。加州的规模和科技产业使其实施方式尤具影响力。

加州青少年社交媒体法律最终检验的是一个更大的命题：政策制定者能否在不监管每一场在线对话的前提下，监管推荐机制和关系性设计？这些法规的回答是肯定的，但实施仍须证明这一点。

对家长和用户而言，有用的问题很具体：新的设置是否能减少强迫性使用和危险的聊天机器人行为，同时保留隐私与有意义的访问权限？请关注相关法规、产品重新设计以及首批独立审计。这些结果将表明，加州究竟制定了一项可行的安全标准，还是又设立了一道备受争议的年龄门槛。