La loi californienne No Robo Bosses exige plus qu’une simple validation humaine

La Californie a adopté des restrictions sur les licenciements et sanctions automatisés, mais l’ajout de l’approbation d’un manager ne suffit pas nécessairement à respecter la nouvelle loi. La California No Robo Bosses Act interdit aux employeurs de s’appuyer exclusivement sur des systèmes décisionnels automatisés pour ces décisions. Lorsqu’ils s’appuient principalement sur leurs résultats, une personne doit corroborer la décision. Ses exigences entreront en vigueur le 1er juillet 2027.

Le gouverneur Gavin Newsom a signé le Senate Bill 947 le 30 septembre 2026, après avoir opposé son veto à son prédécesseur plus large, SB 7, en 2025. Cette loi plus ciblée préserve l’assistance automatisée tout en imposant aux employeurs de conserver la responsabilité des décisions importantes. Elle crée un conflit concret entre des logiciels conçus pour accélérer le management et un examen exigeant que quelqu’un analyse les éléments probants sous-jacents.

La pression immédiate pèse sur les employeurs, les équipes de ressources humaines et les fournisseurs dont les systèmes génèrent des scores de performance ou des recommandations disciplinaires. Les travailleurs obtiennent également des droits à l’information et à la description des données dans les situations couvertes. La question centrale est de savoir si l’examen humain modifie le processus décisionnel ou ajoute simplement un écran de validation.

Ce que la California No Robo Bosses Act change réellement

SB 947 encadre la manière dont les employeurs prennent les décisions disciplinaires et de licenciement, y compris lorsqu’une recommandation automatisée détermine l’issue.

Un système décisionnel automatisé, ou ADS, utilise des méthodes informatiques pour produire des scores, classifications ou recommandations importants qui aident ou remplacent le jugement humain. Cette définition couvre l’apprentissage automatique, la modélisation statistique, l’analyse de données et l’intelligence artificielle. Le champ d’application s’étend donc au-delà des chatbots et des logiciels explicitement commercialisés comme de l’IA.

Le texte de loi adopté établit des règles distinctes selon que l’employeur s’appuie exclusivement ou principalement sur un système. Les employeurs ne peuvent pas s’appuyer exclusivement sur un ADS pour prendre des décisions disciplinaires ou de licenciement. Lorsqu’ils s’appuient principalement sur ses résultats, ils doivent charger une personne de corroborer la décision à l’aide d’informations pertinentes.

Ces informations peuvent inclure les données collectées ou utilisées pour générer le résultat, ainsi que d’autres éléments probants. La loi cite notamment les évaluations de supervision, les dossiers du personnel, le travail de l’employé, les évaluations par les pairs et les entretiens avec des témoins. Les avis pertinents de clients en ligne peuvent également faire partie de ces éléments.

La conséquence d’un examen infructueux compte autant que l’obligation d’examen elle-même. Les employeurs ne peuvent pas utiliser le résultat pour sanctionner ou licencier lorsqu’ils ne parviennent pas à le corroborer. La même restriction s’applique lorsque la personne chargée de l’examen conclut que le résultat est inexact, incomplet ou trompeur.

Cela établit une distinction entre examiner une recommandation et simplement l’accepter. Un manager qui valide un score sans examiner les éléments justificatifs n’a pas nécessairement effectué la corroboration décrite par la loi. Le texte ne prescrit pas de formulaire d’examen universel, mais exige davantage de substance que l’existence d’un bouton d’approbation.

La loi interdit également certains usages de systèmes automatisés, notamment l’inférence du statut protégé d’un employé au titre de la législation californienne contre les discriminations au travail. D’autres dispositions concernent l’entrave au respect des obligations légales et les mesures défavorables liées à l’exercice par les travailleurs de leurs droits légaux. Ces restrictions s’ajoutent aux règles de réexamen des décisions.

La California No Robo Bosses Act n’instaure pas une interdiction générale des algorithmes au travail. Les bases de données ordinaires, les calculatrices, les filtres antispam, les pare-feu, les logiciels antivirus et les outils de gestion des identités sont expressément exclus de la définition d’ADS. La fonction d’un système et son rôle dans la prise de décision comptent davantage que sa catégorie de produit.

Pour les lecteurs qui découvrent cette histoire en novembre 2026, le calendrier mérite d’être précisé. La Californie a adopté cette loi, mais ses exigences entreront en vigueur le 1er juillet 2027. Les employeurs disposent d’un délai de préparation, tandis que les travailleurs doivent distinguer ces protections à venir des droits déjà disponibles au titre d’autres lois.

Ce champ plus étroit limite également les conclusions que les employeurs devraient en tirer. Les principales obligations de réexamen et d’information de SB 947 concernent les sanctions et les licenciements. La présenter comme une obligation générale de préavis pour chaque outil d’IA au travail déformerait le cadre adopté.

Employeurs et fournisseurs de logiciels font face à des pressions différentes

L’employeur prend la décision d’emploi, mais la conception du logiciel peut déterminer si un examen approfondi est réellement possible.

Pour les employeurs, le défi commence par l’identification des endroits où les résultats automatisés interviennent dans les processus disciplinaires. Un tableau de bord familier sur l’assiduité peut devenir déterminant lorsqu’un superviseur utilise son score pour recommander un licenciement. Une fonctionnalité intégrée mérite d’être examinée, même si personne n’a acheté un produit distinct présenté comme un manager IA.

Cette distinction rend les frontières entre services moins utiles que le suivi de la décision réelle. Les achats peuvent connaître le fournisseur, les technologies de l’information peuvent gérer l’intégration et les ressources humaines peuvent définir la politique. Le superviseur utilisant la recommandation peut ne comprendre que le score final.

Une décision peut donc dépendre de l’automatisation sans qu’aucun service ne voie l’ensemble de la chaîne. La question opérationnelle est de savoir d’où vient une recommandation, quelles informations l’étayent et dans quelle mesure l’employeur s’y est appuyé. Un inventaire général des licences logicielles ne répondra pas nécessairement à ces questions.

Les fournisseurs font face à un défi produit connexe. Si leur interface ne présente qu’une étiquette de risque ou une action recommandée, leurs clients pourraient avoir du mal à corroborer le résultat. L’accès aux dossiers sous-jacents, des descriptions compréhensibles des données d’entrée et un moyen de contester les recommandations deviennent des capacités commercialement pertinentes.

Ces capacités ne doivent pas être confondues avec une conformité garantie. Un fournisseur ne peut pas établir ce qu’un manager client a réellement examiné ni dans quelle mesure l’employeur s’est appuyé sur une recommandation. Un logiciel peut soutenir un processus défendable, mais l’employeur doit toujours mettre ce processus en œuvre.

L’arbitrage organisationnel est clair. Automatiser l’identification de problèmes potentiels peut réduire le travail administratif. Enquêter sur une recommandation importante continue toutefois de mobiliser du temps managérial et exige l’accès à des informations allant au-delà d’un écran de synthèse.

Des recherches plus larges aident à expliquer pourquoi cette tension dépasse une seule loi californienne. Les recherches de l’OCDE sur la gestion algorithmique examinent les logiciels utilisés pour donner des instructions aux travailleurs, les surveiller et les évaluer. Les managers ont signalé des bénéfices perçus pour la prise de décision, tout en soulevant des préoccupations concernant la responsabilité, l’explicabilité et la protection des travailleurs.

Ces conclusions appuient une lecture plus équilibrée qu’un enthousiasme généralisé ou un rejet généralisé. Les logiciels peuvent aider les managers à détecter des tendances qu’ils ne verraient autrement pas. Ils peuvent aussi laisser la responsabilité floue lorsqu’une recommandation s’avère erronée.

La ligne de partage commerciale se situe par conséquent entre les systèmes optimisés pour fournir une réponse et ceux conçus pour permettre l’examen de cette réponse. Les employeurs qui choisissent entre ces approches doivent prendre en compte les flux de travail de réexamen en plus de la qualité des prédictions. Une mesure agrégée exacte de la performance ne résout pas chaque décision individuelle en matière d’emploi.

La même distinction s’applique aux travailleurs utilisant des outils d’IA personnels. Une aide à l’organisation des informations diffère de l’utilisation, par un employeur, d’un résultat automatisé pour imposer une sanction. Les enjeux changent lorsqu’un outil passe du soutien au travail d’une personne à l’évaluation de son maintien dans l’emploi.

Pour les acheteurs en entreprise, l’impact de la SB 947 californienne sur les employeurs s’étend donc aux décisions de mise en œuvre. Qui peut examiner les éléments sources, qui peut rejeter le résultat et qui répond aux questions des employés deviennent des critères d’achat concrets.

L’examen humain doit mettre la recommandation à l’épreuve

La garantie centrale est la corroboration, et la corroboration perd sa valeur lorsqu’une personne chargée de l’examen se contente de répéter la conclusion du système.

Prenons un système hypothétique de suivi de l’assiduité qui recommande une sanction après avoir signalé des retards répétés. Un superviseur voit la recommandation et l’approuve parce que le tableau de bord paraît cohérent. Cette approbation établit une intervention humaine, mais ne prouve pas nécessairement que quelqu’un a vérifié les informations sous-jacentes sur l’assiduité.

Un examen approfondi analyserait les dossiers étayant la recommandation. Il pourrait révéler une affectation d’horaires erronée, une modification de planning approuvée ou un contexte manquant. Ces exemples illustrent le problème de l’examen ; ils ne constituent pas des constatations rapportées au sujet d’un employeur particulier.

Cette distinction importe parce qu’une conclusion peut sembler précise alors que ses données d’entrée restent incomplètes. Un horodatage peut enregistrer avec exactitude un événement sans pour autant établir que l’employé a enfreint la politique concernée. La personne chargée de l’examen doit relier les éléments probants à la mesure disciplinaire proposée.

SB 947 autorise la corroboration au moyen d’informations collectées ou utilisées pour produire le résultat automatisé. Elle permet également d’utiliser d’autres éléments justificatifs pertinents. La loi n’exige donc pas que chaque personne chargée de l’examen recrée le système de manière indépendante ni qu’elle obtienne un jeu de données entièrement distinct.

Cette flexibilité crée à la fois un avantage de mise en œuvre et une limite. Les personnes chargées de l’examen peuvent utiliser les dossiers existants au lieu de commander une nouvelle enquête pour chaque décision couverte. Toutefois, examiner les mêmes dossiers incomplets sans en questionner la signification peut reproduire l’erreur initiale.

Un deuxième scénario hypothétique rend ce risque plus clair. Un outil de performance attribue un score faible après avoir comptabilisé les dossiers clients traités. Le travail de l’employé comprend des dossiers particulièrement complexes qui demandent davantage de temps à résoudre. Confirmer le seul nombre de dossiers ne permettrait pas d’établir que le score reflète équitablement la performance.

L’idée n’est pas que toute mesure quantitative est trompeuse. Il s’agit plutôt de dire qu’une mesure exacte et une sanction justifiée relèvent de jugements distincts. La personne chargée de l’examen doit comprendre ce que le résultat établit, ce qu’il omet et si les informations justificatives corroborent la décision.

La règle de rejet prévue par la loi donne à cet examen des conséquences concrètes. Si le résultat ne peut pas être corroboré, l’employeur ne peut pas l’utiliser pour prendre une décision disciplinaire ou de licenciement. L’examen devient significatif lorsqu’il peut empêcher de s’appuyer sur une recommandation non étayée.

Cette exigence modifie également l’importance de l’autorité managériale. Une personne chargée de l’examen qui ne peut pas obtenir les dossiers, questionner les hypothèses ou rejeter le résultat a une capacité limitée à le vérifier. Les organisations devraient examiner si leurs processus internes donnent aux personnes chargées de l’examen ces capacités concrètes.

La California No Robo Bosses Act exerce ainsi une pression sur le passage de relais entre le logiciel et le management. Un système peut identifier un problème potentiel, tandis qu’une personne doit assumer la responsabilité des éléments probants justifiant une mesure importante. Le flux de travail doit laisser place au désaccord.

C’est aussi à ce niveau que le biais d’automatisation devient pertinent, c’est-à-dire la tendance à s’en remettre à une recommandation générée par une machine. Une interface soignée peut faire paraître un résultat définitif avant que quiconque n’en examine le fondement. Les procédures d’examen devraient tenir compte de cette possibilité plutôt que de supposer qu’une présence humaine l’empêche automatiquement.

La preuve la plus solide d’un examen utile serait un processus qui détecte les résultats non étayés et modifie les décisions en conséquence. Il s’agit d’une évaluation opérationnelle, et non d’une exigence supplémentaire de reporting légal. Elle vise à déterminer si la protection remplit sa fonction prévue.

Les travailleurs bénéficient d’un avis, mais la transparence a des limites

Les employés couverts reçoivent des informations sur l’intervention de systèmes automatisés, sans obtenir un droit illimité d’inspecter l’ensemble du système.

Lorsqu’un employeur s’appuie principalement sur un ADS pour sanctionner ou licencier un salarié, il doit fournir un avis écrit après utilisation. Cet avis est remis lorsque l’employeur informe le salarié de sa décision. Il ne s’agit pas d’une obligation générale d’annoncer chaque outil avant son déploiement.

La communication doit être autonome, rédigée en langage clair et suivre la langue utilisée pour les communications habituelles sur le lieu de travail. Sa transmission doit se faire par une méthode simple, pouvant inclure un e-mail ou un lien hypertexte. Ces exigences visent à rendre l’information accessible lorsque la décision devient concrète.

L’avis doit indiquer que l’employeur s’est principalement appuyé sur un ADS et préciser qu’un humain a examiné et corroboré le résultat. Il doit également fournir un contact humain pour obtenir davantage d’informations. Les salariés doivent recevoir des informations sur leurs droits relatifs à la description de leurs données et sur leur protection contre les représailles.

Séparément, les employés couverts peuvent demander une description significative et objective de leurs propres données utilisées par le système. Les employeurs doivent anonymiser les informations personnelles d’autres personnes dans cette description. La disposition cherche donc à concilier l’accès avec les intérêts de confidentialité des collègues, clients et autres personnes concernées.

Une description des données d’un salarié est plus limitée que la divulgation du code source ou un accès illimité à un modèle. Elle diffère aussi d’un droit automatique à chaque dossier détenu par le fournisseur. Les lecteurs ne devraient pas considérer cette disposition comme un droit général de rétro-ingénierie des logiciels utilisés au travail.

Toutefois, la combinaison de l’avis et de l’accès crée une occasion d’identifier des erreurs factuelles. Un salarié pourrait découvrir qu’une décision s’est appuyée sur des relevés de présence liés au mauvais horaire. À l’inverse, la description pourrait confirmer les informations pertinentes tout en laissant subsister un désaccord sur l’interprétation de l’employeur.

L’utilité de cet échange dépend en partie de la qualité de la description. Une affirmation vague selon laquelle le système a pris en compte des informations sur les performances apporte moins d’éléments pratiques qu’une explication des catégories effectivement utilisées. L’exigence légale d’une description significative et objective est importante dans ce contexte.

Les avocats représentant les employeurs ont également souligné l’incertitude entourant le seuil de dépendance principale. Dans leur analyse du 30 octobre sur les restrictions relatives à l’IA au travail, les avocats d’Ogletree Deakins identifient ce langage non défini comme une source probable de litige. Ses limites seront importantes pour les obligations d’examen et d’avis.

Par exemple, un responsable peut consulter une recommandation parallèlement à des entretiens et à des dossiers de performance existants. Déterminer quelles informations ont principalement guidé la décision exige d’examiner le processus réel. Qualifier un logiciel d’outil consultatif ne permet pas, à lui seul, d’expliquer le poids accordé par l’employeur à son résultat.

La loi autorise l’application par le commissaire au travail et les procureurs publics. Elle comprend aussi des protections contre les représailles en cas d’exercice des droits couverts. Les employeurs devraient distinguer ces mécanismes d’un nouveau droit autonome d’action en justice privée, que la législation ne crée pas.

L’explication de la California SB 947 à travers ses droits à l’information révèle une limite délibérée. Les travailleurs disposent d’un moyen de comprendre l’intervention de systèmes automatisés dans les décisions couvertes, mais la transparence n’établit pas automatiquement que le résultat était équitable. L’accès et la responsabilité restent des questions liées, mais distinctes.

Une loi plus restreinte laisse d’importants litiges non résolus

La Californie a instauré une restriction ciblée sur les sanctions et licenciements automatisés, tout en laissant ouvertes des questions plus larges sur les algorithmes au travail.

La différence avec SB 7 constitue un contexte historique essentiel. Newsom a opposé son veto à cette proposition antérieure en 2025. SB 947 est revenue avec un cadre plus restreint, et les dernières modifications législatives ont supprimé des dispositions qui s’étendaient davantage à la gestion du travail.

L’analyse du projet de loi de la législature recense des modifications concernant les travailleurs indépendants, les restrictions liées à la rémunération, les évaluations des clients et l’accès aux données. Ces révisions montrent pourquoi les résumés de versions antérieures peuvent induire les lecteurs en erreur sur la loi adoptée. L’historique d’une proposition ne remplace pas ses dispositions définitives.

Les soutiens syndicaux présentent la supervision humaine comme une protection contre la perte de moyens de subsistance des travailleurs à cause d’erreurs automatisées. Dans l’annonce du gouverneur sur la protection des travailleurs, les responsables syndicaux californiens ont salué la législation sur le travail. Leur position insiste sur la nécessité de maintenir une responsabilité humaine lorsque la technologie influence des décisions d’emploi lourdes de conséquences.

L’opposition des entreprises soulève une préoccupation différente. Les arguments consignés dans l’analyse législative se demandent si les restrictions tiennent suffisamment compte des outils automatisés utiles. Les détracteurs avertissent que l’incertitude réglementaire peut décourager l’adoption, y compris de systèmes conçus pour améliorer la cohérence ou réduire les biais.

Ces positions mettent en évidence un véritable compromis. L’évaluation automatisée peut introduire des erreurs, tandis que l’évaluation humaine peut comporter des préjugés, des incohérences et des informations incomplètes. Exiger une intervention humaine ne garantit pas que chaque décision qui en résulte sera meilleure.

L’affirmation plus restreinte et plus défendable est que la corroboration crée une occasion de détecter des résultats non étayés. La capacité des organisations à exploiter efficacement cette occasion reste une question de mise en œuvre. La loi établit des obligations sans démontrer leurs résultats futurs.

Le champ d’application comporte également des exceptions qui exigent une lecture attentive. Une convention collective ne peut bénéficier d’une exemption que si elle satisfait à des conditions précises, notamment une renonciation explicite et des dispositions protectrices. La seule représentation syndicale ne suffit pas à établir que l’exemption s’applique.

Une autre exception limitée concerne certains usages exigés ou raisonnablement nécessaires au regard de règles fédérales ou de contrats impliquant des aéronefs et certains développements liés à la sécurité nationale ou à la défense. Cette exception s’applique aux opérations couvertes. Elle ne constitue pas une exemption générale pour toute organisation ayant des clients fédéraux.

D’autres obligations légales restent également pertinentes. SB 947 préserve les réglementations applicables relatives aux décisions automatisées dans le cadre californien de protection de la vie privée des consommateurs. Sa disposition de coordination des avis ne doit donc pas être interprétée comme éliminant toute autre obligation concernant les informations des salariés.

Un détail de rédaction mérite même la prudence dans les résumés généraux. La disposition relative à la charge de l’application conserve une référence à la désactivation, alors que les obligations substantielles centrales concernent la discipline et le licenciement. Cette formulation ne devrait pas servir de raccourci pour revendiquer une couverture universelle des travailleurs de plateforme.

La California No Robo Bosses Act établit un cadre précis de responsabilité, plutôt que de résoudre tous les litiges relatifs à la gestion algorithmique. Sa force pratique dépendra de la manière dont les employeurs interprètent la dépendance principale, procèdent à la corroboration et communiquent avec les salariés concernés. Les affirmations de protection complète ou d’interdiction totale vont au-delà des éléments disponibles.

Ce qu’il faut surveiller avant juillet 2027

Les prochains signaux utiles seront des interprétations concrètes et des changements opérationnels, plutôt que des promesses générales sur une IA responsable au travail.

Premièrement, surveillez les orientations officielles concernant la distinction entre dépendance exclusive et dépendance principale. Ces clarifications aideraient les employeurs à comprendre quels flux de travail déclenchent la corroboration et l’avis après utilisation. Au moment de ce reportage, le seuil non défini demeure une incertitude importante.

Au cours des prochains mois, des orientations utiles porteraient sur les processus mixtes impliquant des scores automatisés, des observations de superviseurs et des dossiers du personnel existants. La question essentielle est de savoir comment ces éléments contribuent à la décision. La description d’un produit comme outil de soutien ou consultatif ne répond pas entièrement à cette question.

Toute clarification examinant la dépendance réelle renforcerait la logique de responsabilité de la loi. Une approche principalement centrée sur les étiquettes laisserait davantage de place à une conformité formelle sans examen significatif. Les lecteurs devraient évaluer le contenu des futures orientations plutôt que de supposer qu’une annonce règle la question.

Deuxièmement, surveillez la manière dont les fournisseurs de logiciels pour le travail modifient leurs produits et leurs documents destinés aux clients. Les évolutions pertinentes comprennent des descriptions plus claires des données d’entrée, l’accès aux dossiers justificatifs et des fonctions d’examen permettant aux responsables de remettre en question les recommandations. Elles indiqueraient une attention portée aux exigences pratiques de la corroboration.

Un simple écran d’approbation serait un signal plus faible. La question plus utile est de savoir si un examinateur peut comprendre le fondement de la recommandation et consigner les raisons de son rejet. Les démonstrations de produits devraient montrer l’ensemble de cette séquence, y compris ce qui se passe lorsque les preuves contredisent le résultat.

Les acheteurs d’entreprise peuvent appliquer cette distinction lors des discussions de renouvellement et d’approvisionnement. Ils devraient demander aux fournisseurs de démontrer une recommandation contestée plutôt qu’une simple prédiction réussie. La réaction d’un système au désaccord révèle des capacités qu’un résumé soigné peut masquer.

Troisièmement, surveillez si les employeurs modifient leurs procédures disciplinaires avant la date d’entrée en vigueur. Les signes pertinents comprennent l’attribution de responsabilités d’examen, des informations justificatives accessibles, des avis utilisables et une procédure claire pour les demandes de description des données des salariés. Ces changements montreraient une mise en œuvre allant au-delà d’une politique générale sur l’IA.

Les organisations devraient aussi examiner si les responsables disposent du temps nécessaire pour effectuer les examens qui leur sont attribués. Une obligation formelle peut devenir superficielle lorsque le flux de travail environnant récompense l’approbation immédiate. Il s’agit autant d’une question de conception managériale que de choix technologique.

Pour les travailleurs du savoir, la distinction entre assistance et évaluation reste utile au-delà de cette loi. Les outils qui organisent une base de connaissances personnelle servent un objectif différent des systèmes utilisés pour justifier une sanction. Les employeurs devraient expliquer à quel moment l’information cesse de soutenir le travail pour servir à évaluer le travailleur.

L’impact de la California SB 947 sur les employeurs deviendra plus clair à travers ces choix opérationnels. La loi donne aux organisations une échéance et un cadre, tandis que la mise en œuvre déterminera si les salariés font face à un examinateur informé ou à une nouvelle étape automatisée.

Commencez par une décision réelle prise par votre organisation, puis retracez le point où un résultat automatisé y intervient. Identifiez qui peut examiner les informations justificatives et qui peut arrêter une recommandation non étayée. Demandez-vous ce que recevrait le salarié concerné et quelle personne répondrait à ses questions. Comparez ce processus aux exigences adoptées avant de vous fier à l’étiquette de conformité d’un fournisseur. Pour les travailleurs, comprenez quelles informations un avis couvert devrait fournir et ce que couvre réellement le droit à une description des données. La California No Robo Bosses Act place la responsabilité humaine au cœur des sanctions et licenciements automatisés. Avant juillet 2027, votre lieu de travail peut-il montrer comment cette responsabilité s’exerce lorsqu’une personne conteste la recommandation de la machine ?