top of page

加州《禁止机器人老板法案》要求的不只是人工签字

2小时前
讀畢需時 13 分鐘

加州已对自动化解雇和纪律处分实施限制,但仅增加一名经理的批准,并不一定符合新法要求。加州《禁止机器人老板法案》禁止雇主仅依赖自动化决策系统作出此类决定。当雇主主要依赖其输出结果时,必须由人工对该决定进行佐证。相关要求将于 2027 年 7 月 1 日生效。

州长 Gavin Newsom 于 2026 年 9 月 30 日签署了参议院法案 947(SB 947);此前,他在 2025 年否决了范围更广的前身法案 SB 7。这项范围较窄的法律保留了自动化辅助工具,同时要求雇主继续对重大决定承担责任。这使得旨在加快管理流程的软件,与要求相关人员审查基础证据的复核机制之间产生了现实冲突。

直接压力将落在雇主、人力资源团队,以及其系统会生成绩效评分或纪律处分建议的供应商身上。劳动者在适用情形下也将获得通知权和数据说明权。核心问题在于:人工审查是否真正改变了决策过程,还是仅仅多了一道批准界面。

加州《禁止机器人老板法案》实际改变了什么

SB 947 规范雇主如何作出纪律处分和解雇决定,包括自动化建议主导结果时应如何处理。

自动化决策系统(ADS)使用计算方法生成具有重大影响的评分、分类或建议,以协助或替代人工判断。该定义涵盖机器学习、统计建模、数据分析和人工智能。因此,适用范围不仅限于聊天机器人或明确以 AI 名义营销的软件。

已编章法案文本 对完全依赖和主要依赖设立了不同规则。雇主在作出纪律处分或解雇决定时,不得完全依赖 ADS。当雇主主要依赖其输出结果时,必须指派人工使用相关信息对该决定进行佐证。

这些信息可以包括用于生成该输出结果或在生成过程中收集的数据,以及其他支持性证据。法规将主管评估、人事档案、员工工作成果、同事评价和证人访谈列为可能的信息来源。相关的线上客户评价也可以构成支持信息的一部分。

审查未能通过所带来的后果,与审查要求本身同样重要。当雇主无法对输出结果进行佐证时,不得将其用于纪律处分或解雇。如果审查人员认定该输出结果不准确、不完整或具有误导性,同样适用这一限制。

这在审视建议与直接接受建议之间划出了一道界线。经理若未检查支持材料便批准一项评分,并不一定完成了法律所要求的佐证。法规并未规定统一的审查表格,但其要求显然不止于设置一个批准按钮。

该法还禁止自动化系统的若干特定用途,包括推断员工在加州就业歧视法下受保护的身份。其他条款涉及妨碍遵守法律,以及因劳动者行使法定权利而采取不利行动。这些限制与决策审查规则并行存在。

加州《禁止机器人老板法案》并未全面禁止职场算法。普通数据库、计算器、垃圾邮件过滤器、防火墙、杀毒软件和身份管理工具被明确排除在 ADS 定义之外。系统的功能及其在决策中的作用,比产品类别更为重要。

对于在 2026 年 11 月看到这篇报道的读者而言,时间点需要准确理解。加州已经颁布该法,但其要求将于 2027 年 7 月 1 日生效。雇主仍有准备时间,劳动者则应将这些即将到来的保护措施,与其他法律下已经享有的权利区分开来。

较窄的适用重点也限制了雇主可以作出的推断。SB 947 的核心审查和通知义务针对纪律处分和解雇。若将其理解为所有职场 AI 工具的一般性事先通知要求,便会误述已颁布的法律框架。

雇主和软件供应商面临不同类型的压力

雇主作出就业决定,但软件的设计可能决定有意义的审查是否切实可行。

对雇主而言,挑战始于识别自动化输出在哪些环节进入纪律处分流程。一个常见的考勤仪表盘,在主管使用其评分建议解雇时,便可能产生重大影响。即使无人采购一个标为 AI 管理者的独立产品,内嵌功能同样值得审查。

这一差异使得部门边界不如追踪实际决策来得有用。采购部门可能了解供应商,信息技术部门可能负责集成,人力资源部门可能拥有相关政策。而使用建议的主管或许只了解最终评分。

因此,一项决定可能依赖自动化,但没有任何一个部门能够看到完整链条。运营层面的关键问题是:建议从何而来、哪些信息支撑了该建议,以及雇主在多大程度上依赖它。软件许可证的笼统清单未必能回答这些问题。

供应商则面临相关的产品挑战。如果其界面仅呈现风险标签或建议行动,客户可能难以对结果进行佐证。获取底层记录、理解输入信息的说明,以及质疑建议的途径,都会成为具有商业价值的能力。

这些能力不应被混同为合规保证。供应商无法确定客户的经理实际审查了什么,也无法确定雇主在多大程度上依赖某项建议。软件可以支持一个站得住脚的流程,但雇主仍需实际运行该流程。

组织层面的取舍很明确。自动识别潜在问题可以减少行政工作,但调查一项具有重大后果的建议,仍会占用管理时间,并需要查阅摘要界面以外的信息。

更广泛的研究有助于解释,为何这种张力超出加州单一法规的范围。OECD 的算法管理研究考察了用于指挥、监控和评估劳动者的软件。管理者报告了感知到的决策收益,同时也表达了对问责、可解释性和劳动者保护的担忧。

这些发现支持一种比全面拥抱或全面拒绝都更平衡的解读。软件可以帮助管理者发现原本会被忽略的模式;但当某项建议被证明有误时,它也可能使责任归属变得不清晰。

因此,商业上的分野在于:一类系统旨在快速给出答案,另一类系统则旨在支持对答案的审查。在两种路径之间作出选择的雇主,需要将审查工作流与预测质量一并考量。一项准确的总体绩效指标,并不能解决每一项个体就业决定。

同样的区分也适用于使用个人 AI 工具的劳动者。协助整理信息,与雇主使用自动化输出实施纪律处分,是不同的情形。当工具从支持某人工作转为评估其是否应保留工作时,风险也随之改变。

因此,对企业采购方而言,加州 SB 947 对雇主的影响还延伸至实施决策。谁能审查源材料、谁能拒绝输出结果、谁来回答员工问题,都会成为实际采购考量。

人工审查必须检验建议本身

核心保障是佐证;当审查人员只是重复系统结论时,佐证便失去价值。

设想一个假设性的考勤系统:它在标记多次迟到后建议进行纪律处分。主管看到建议后,因为仪表盘看起来前后一致便予以批准。这一批准表明有人参与其中,但并不一定证明有人核查了底层考勤信息。

实质性审查会检查支撑该建议的记录。它可能发现错误的班次分配、已获批准的排班变更,或缺失的背景信息。这些示例旨在说明审查问题,并非关于某一特定雇主的报道结论。

之所以重要,是因为一项结论可能看似精确,但其输入信息仍然不完整。时间戳或许准确记录了一起事件,却未必能证明员工违反了相关政策。审查人员需要将证据与拟议的纪律处分行动联系起来。

SB 947 允许使用为生成自动化输出而收集或使用的信息进行佐证,也允许采用其他相关支持信息。因此,该法律并不要求每位审查人员独立重建系统,或取得一套完全独立的数据集。

这种灵活性既带来实施优势,也存在局限。审查人员可以使用现有记录,而不必为每项受规制决定委托新的调查。然而,若仅检查同样不完整的记录、却不质疑其含义,就可能重演最初的错误。

第二个假设情境能更清楚地说明这种风险。一款绩效工具根据已完成的客户案例数量给出低分。该员工处理的案例异常复杂,需要更长时间才能解决。仅确认案例数量,无法证明该评分公平反映了绩效。

重点并不是每一项量化指标都具有误导性,而是准确测量和正当纪律处分是两种不同判断。审查人员必须理解输出结果证明了什么、遗漏了什么,以及支持信息是否能够佐证该决定。

法律中的拒绝规则赋予这种审查实际后果。如果输出结果无法得到佐证,雇主便不得将其用于纪律处分或解雇决定。当审查能够阻止对缺乏支持的建议继续依赖时,它才具有实际意义。

这一要求也改变了管理权限的重要性。无法获取记录、质疑假设或拒绝输出结果的审查人员,对结果的检验能力有限。组织应审视其内部流程是否赋予审查人员这些实际能力。

因此,加州《禁止机器人老板法案》对软件与管理之间的交接环节施加了压力。系统可以识别潜在问题,但人类必须对支持重大行动的证据承担责任。工作流程需要为不同意见留出空间。

这也是自动化偏见变得相关的地方,即人们倾向于服从机器生成的建议。精致的界面可能在任何人审查其基础之前,就让输出结果显得已经定论。审查程序应考虑这种可能性,而不能假定只要有人参与,就会自动避免这一问题。

最有力的有效审查证据,应当是一套能够发现缺乏依据的输出并据此调整决策的流程。这属于运行层面的评估,而不是新增的法定报告要求。它关注的是该保障措施是否发挥了预期作用。

员工获得告知,但透明度存在边界

受覆盖员工可以了解自动化参与情况,但并不享有不受限制地查阅整个系统的权利。

当雇主主要依赖 ADS 作出纪律处分或解雇决定时,必须提供书面的使用后通知。这意味着,在雇主将决定告知员工时交付通知,而不是要求在每项工具部署前一律公布。

该通知必须独立成文、使用通俗语言,并遵循日常工作场所沟通所使用的语言。通知应通过简便方式送达,可包括电子邮件或超链接。这些要求旨在确保员工在决定具体落地时能够获得相关信息。

通知必须说明雇主主要依赖 ADS,并表明已有人员审查并核实了其输出结果。通知还必须提供可供进一步咨询的人工联系人。员工还必须获得关于其数据说明权利以及免遭报复保护的信息。

此外,受覆盖员工可以请求获得对系统所使用其自身数据的有意义、客观的说明。雇主必须在该说明中对其他个人的个人信息进行匿名化处理。因此,该条款在信息获取与涉及同事、客户及其他人的隐私利益之间取得了平衡。

对员工数据的说明,比披露源代码或不受限制地访问模型的范围更窄。它也不同于自动获得供应商持有的每一份记录的权利。读者不应将该条款视为反向工程工作场所软件的一般性权利。

不过,通知与信息获取相结合,确实创造了发现事实误解的机会。员工可能发现,一项决定依赖了错误排班对应的考勤记录。或者,相关说明可能确认了所涉信息,但员工仍可能不同意雇主对信息的解读。

这种沟通的价值,部分取决于说明的质量。一句笼统的表述,如系统考虑了绩效信息,其实际参考价值低于对实际使用数据类别的解释。该法要求提供有意义、客观的说明,在这一背景下尤为重要。

雇主方律师也指出,“主要依赖”的门槛存在不确定性。在其 10 月 30 日对工作场所 AI 限制的分析中,Ogletree Deakins 律师将这一未定义的措辞列为潜在争议点。其边界将影响审查和通知义务。

例如,管理者可能会将某项建议与面试结果及既有绩效记录一并参考。要判断哪类信息主要推动了决定,需要审视实际流程。仅仅将软件称为辅助工具,并不能说明雇主赋予其输出结果多大的权重。

该法授权劳工专员和公诉机关执法。它还包含针对主张受覆盖权利者的反报复保护。雇主应将这些机制与一项新的、独立的私人诉讼权区分开来;该立法并未创设后者。

通过其信息权利来解读 California SB 947,可以看出一项有意设置的限制。员工获得了理解自动化如何参与受覆盖决定的途径,但透明度并不自动证明结果公平。信息获取与问责彼此相关,却仍是不同的问题。

一部范围更窄的法律,仍留下重要争议未决

California 对自动化纪律处分和解雇施加了有针对性的限制,但关于工作场所算法的更广泛争论仍未尘埃落定。

与 SB 7 的区别是关键的历史背景。Newsom 在 2025 年否决了此前的提案。SB 947 以更窄的框架重新提出,其最终立法修订删除了若干原本更深入介入工作场所管理的条款。

立法机关的法案分析记录了涉及独立承包商、与薪酬相关的限制、客户评分和数据访问的修改。这些修订说明,基于早期草案的总结为何可能误导读者对已颁布法律的理解。一项提案的历史不能替代其最终条款。

劳工支持者将人工监督视为防止员工因自动化错误失去生计的保障。在州长发布的劳动者保护公告中,California 劳工领袖欢迎这项工作场所立法。他们的立场强调,当技术影响具有重大后果的就业决定时,应由人承担责任。

商业界的反对意见提出了不同担忧。立法分析中记录的观点质疑,这些限制是否充分考虑了有用的自动化工具。批评者警告,监管不确定性可能抑制采用,包括那些旨在提升一致性或解决偏见问题的系统。

这些立场揭示了一项真实的权衡。自动化评估可能引入错误,而人工评估也可能包含偏见、不一致和信息不完整的问题。要求人工参与,并不意味着由此产生的每项决定都会更好。

更狭窄、也更站得住脚的说法是,核实创造了发现缺乏依据输出的机会。组织是否能有效利用这一机会,仍是一个实施问题。法律确立了义务,但并未证明其未来成效。

其适用范围还包含需要谨慎解读的例外。集体谈判协议只有在满足规定条件时才符合豁免条件,其中包括明确的放弃声明和保护性条款。仅有工会代表并不意味着该豁免必然适用。

另一项有限例外涉及联邦规则或涉及航空器及特定国家安全或国防相关开发的合同所要求或合理必要的某些使用情形。该例外适用于受覆盖的运营活动。它并非适用于所有拥有联邦客户的组织的一般性豁免。

其他法律义务同样仍然适用。SB 947 保留了 California 消费者隐私框架下与自动化决策有关的适用法规。因此,其通知协调条款不应被解读为取消所有其他涉及员工信息的义务。

其中甚至有一处起草细节值得在广泛总结时保持谨慎。执法举证责任条款仍保留了对停用的提及,而核心实体义务针对的是纪律处分和解雇。这一措辞不应成为声称普遍覆盖零工劳动者的捷径。

California No Robo Bosses Act 建立的是一套具体的问责框架,而非解决关于算法管理的每一项争议。其实际效力将取决于雇主如何解释主要依赖、如何进行核实,以及如何与受影响员工沟通。声称其提供了完全保护或实施了全面禁止,都超出了证据所能支持的范围。

2027 年 7 月前值得关注的事项

接下来真正有价值的信号,将是具体解释和运营调整,而不是关于负责任工作场所 AI 的笼统承诺。

首先,应关注官方是否就单独依赖与主要依赖之间的区别发布指引。明确这一点将帮助雇主理解哪些工作流程会触发核实和使用后通知。截至本报道时,这一未定义的门槛仍是重要的不确定因素。

未来几个月,有价值的指引应当涵盖同时涉及自动化评分、主管观察和既有人事记录的混合流程。关键问题是这些输入如何共同影响决定。将产品描述为支持性或咨询性工具,并不能完全回答这一问题。

任何考察实际依赖程度的澄清,都会强化该法的问责逻辑。若一种做法主要关注标签,就会为形式合规而缺乏实质审查留下更多空间。读者应评估未来指引的实质内容,而不应假定一项公告就能解决问题。

其次,应关注工作场所软件供应商如何调整其产品和客户材料。相关动态包括更清晰的输入说明、对支持性记录的访问,以及让管理者能够质疑建议结果的审查功能。这些变化将表明其关注核实在实践中的要求。

仅有一个批准页面则是较弱的信号。更有价值的问题是,审查者能否理解建议的依据,并记录拒绝建议的理由。产品演示应展示完整流程,包括当证据与输出结果相矛盾时会发生什么。

企业采购方可以在续约和采购讨论中运用这一标准。他们应要求供应商演示一项存在争议的建议,而不只是展示一次成功预测。系统对分歧的回应,会揭示经过精心包装的摘要可能掩盖的能力。

第三,应关注雇主是否在生效日期前调整纪律处分流程。相关迹象包括指定审查责任、可访问的支持信息、可用的通知,以及员工提出数据说明请求的清晰渠道。这些变化将表明实施已超越一项笼统的 AI 政策。

组织还应审视管理者是否有时间完成分配给他们的审查工作。当周边工作流程鼓励立即批准时,正式义务可能变得流于表面。这既是管理设计问题,也是技术采购问题。

对于知识型员工而言,辅助与评估之间的区别,在这部法律之外同样具有参考价值。用于整理个人知识库的工具,与用于证明纪律处分合理性的系统服务于不同目的。雇主应说明,信息何时从支持工作转变为评估劳动者。

California SB 947 对雇主的影响,将通过这些运营选择而变得更清晰。法律为组织提供了期限和框架,而实施情况决定员工遇到的是知情审查者,还是另一个自动化步骤。

从组织实际作出的一项决定入手,追踪自动化输出在何处进入该流程。确定谁可以审查支持性信息,谁能够阻止一项缺乏依据的建议。询问受影响员工将收到什么,以及由谁回答他们的问题。在依赖供应商的合规标签之前,将该流程与已颁布的要求进行比较。对于劳动者而言,应了解受覆盖通知应当提供哪些信息,以及数据说明权实际涵盖什么。California No Robo Bosses Act 将人工责任置于自动化纪律处分和解雇的核心位置。在 2027 年 7 月之前,你的工作场所能否展示:当有人质疑机器的建议时,这种责任如何发挥作用?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page