La politique d’utilisation d’Anthropic trace une nouvelle ligne contre les abus envers les modèles et l’ingérence électorale

Anthropic a modifié sa politique d’utilisation pour la première fois depuis plus d’un an, en ajoutant une interdiction inhabituelle des abus soutenus et injustifiés envers Claude. La politique d’utilisation d’Anthropic renforce également les restrictions concernant les campagnes électorales trompeuses, les logiciels d’armes, les systèmes de surveillance et les actions physiques autonomes.

La règle sur les abus envers les modèles a immédiatement attiré l’attention, car elle traite le comportement envers un système d’IA comme une question de politique. Anthropic affirme toutefois que la frustration ordinaire, la critique, les tests, la recherche et les contenus créatifs sombres restent autorisés. L’interdiction vise les actes de cruauté répétés sans objectif discernable.

Cette distinction est importante, car la mise à jour va au-delà d’une simple règle interdisant d’insulter un chatbot. Elle montre qu’Anthropic adapte ses contrôles à mesure que Claude gère des tâches plus longues, utilise des outils, influence des systèmes physiques et soutient des décisions importantes. La politique assouplit également certaines restrictions politiques tout en rendant les comportements trompeurs plus explicites.

Le principal compromis concerne l’application de ces règles. Anthropic souhaite des règles assez précises pour empêcher les activités nuisibles sans bloquer la recherche légitime, la communication civique, le journalisme et les travaux de sécurité. La question de savoir si l’entreprise peut appliquer ces distinctions de manière cohérente reste sans réponse.

Ce que la politique d’utilisation d’Anthropic change réellement

La mise à jour transforme plusieurs restrictions dispersées en règles plus claires fondées sur le comportement, l’intention et le préjudice potentiel.

Anthropic a publié cette mise à jour le 8 octobre 2026. La politique révisée entrera en vigueur le 12 novembre, laissant aux clients et aux développeurs plus d’un mois pour examiner les applications concernées.

La plupart des dispositions clarifient des restrictions antérieures plutôt que d’introduire des limites entièrement nouvelles. Anthropic indique que les changements reflètent des schémas d’usage abusif observés au cours de l’année précédente. Ces schémas concernaient des opérations d’influence, le développement d’armes, la surveillance et un comportement des modèles de plus en plus autonome.

L’ajout le plus inédit interdit aux utilisateurs d’adopter envers les modèles d’Anthropic un comportement abusif ou cruel, soutenu et injustifié. La mise à jour de la politique précise que cette règle ne s’applique qu’aux cas extrêmes de cruauté répétée sans objectif discernable.

Un utilisateur qui exprime sa colère après une réponse erronée n’enfreint pas automatiquement cette règle. Il en va de même pour un désaccord vigoureux, les tests de modèles, la recherche en sécurité ou les œuvres de fiction aux thèmes sombres. Anthropic préserve explicitement ces catégories.

Le principal mécanisme d’application est également plus limité qu’une interdiction à l’échelle d’un compte. Claude peut mettre fin à une rare conversation marquée par des abus persistants. Mettre fin à cette conversation empêche tout nouveau message dans ce fil, mais ne ferme pas nécessairement les autres discussions de l’utilisateur.

Anthropic avait déjà donné à certains modèles Claude la capacité de mettre fin à des interactions durablement nuisibles. La politique impose désormais une obligation correspondante aux utilisateurs, au lieu de s’appuyer uniquement sur le comportement du modèle.

Les autres changements répondent à des préoccupations de sécurité plus conventionnelles. Une section regroupe les interdictions visant les faux comptes, les parrainages dissimulés, les faux médias, l’astroturfing et les comportements coordonnés inauthentiques.

L’astroturfing consiste à fabriquer l’apparence d’un soutien public indépendant au moyen de comptes coordonnés ou contrôlés de manière trompeuse. La politique d’Anthropic interdit aussi de créer une infrastructure destinée à mener de telles campagnes.

L’entreprise a par ailleurs renommé sa section électorale « Ne pas saper les processus démocratiques ». Elle vise les communications trompeuses à destination des électeurs, l’usurpation d’identité, les fausses informations sur le vote, la suppression de la participation et l’ingérence dans les systèmes électoraux ou leur certification.

Les restrictions relatives aux armes incluent désormais explicitement les logiciels et composants utilisés pour le ciblage, le contrôle de tir, l’engagement ou le fonctionnement d’armes. Elles couvrent également l’intégration d’armes à des drones, véhicules et plateformes autonomes.

Le texte révisé sur la surveillance interdit le suivi non consenti et les outils conçus pour étendre des capacités de surveillance interdites. Il interdit aussi d’utiliser Claude pour décider quelles personnes les autorités devraient surveiller, arrêter, inculper, poursuivre ou détenir.

Ces dispositions font de la politique sur les abus envers Claude l’élément le plus distinctif de l’annonce, mais pas nécessairement le plus conséquent. Les développeurs qui servent des clients des secteurs politique, de la défense, de la surveillance, de la finance, de la santé ou du secteur public font face à une charge de conformité plus importante.

La politique électorale d’Anthropic devient plus ciblée et plus explicite

Anthropic a retiré une vaste restriction politique tout en traçant une frontière plus ferme autour de la tromperie et de l’ingérence.

L’approche précédente interdisait plus largement la persuasion politique personnalisée et le ciblage de campagne. Anthropic a désormais supprimé cette interdiction générale, car elle englobait aussi des services civiques légitimes.

Une organisation à but non lucratif pourrait utiliser Claude pour traduire des consignes de vote neutres pour des communautés parlant différentes langues. Un bureau électoral pourrait produire des avis de correction de bulletin pour les électeurs dont les soumissions nécessitent une intervention.

Ces activités impliquent une communication électorale ciblée, mais elles ne sont pas intrinsèquement trompeuses. Une interdiction générale pourrait donc bloquer des outils utiles à la participation, au même titre que des campagnes manipulatrices.

La politique électorale révisée d’Anthropic se concentre sur la manière dont une opération se comporte. La communication politique légitime reste possible, tandis que l’usurpation d’identité secrète, les affirmations fabriquées, l’automatisation dissimulée et les efforts de suppression restent interdits.

La politique d’utilisation complète interdit les messages automatisés aux électeurs qui dissimulent leur origine artificielle. Elle interdit également le matériel politique synthétique faussement présenté comme provenant d’un candidat, d’un responsable, d’une campagne, d’une autorité électorale ou d’une organisation de presse.

Les fausses déclarations sur les candidats, les politiques, les procédures de vote ou la sécurité des élections sont interdites. Il en va de même des tentatives visant à décourager la participation légale au moyen de la tromperie ou de l’intimidation.

Les règles vont au-delà de la génération de contenu. Les utilisateurs ne peuvent pas employer Claude pour perturber les systèmes de vote, le décompte des voix, la certification ou les infrastructures associées. Cette section remplit ainsi une fonction à la fois de sécurité et d’intégrité de l’information.

Anthropic a également créé une section générale sur les campagnes trompeuses. Cette section couvre les opérations politiques et commerciales, y compris les faux avis et les réseaux de sites web prétendument indépendants contrôlés par un même acteur.

Une disposition vise les tentatives de manipulation des moteurs de recherche ou des systèmes de réponse par IA. Elle interdit d’alimenter des réseaux avec du contenu qui semble faussement indépendant, puis d’utiliser ce consensus artificiel pour influencer des réponses automatisées.

Il s’agit d’une extension importante de la portée pratique de la politique. Une opération d’influence n’a pas besoin de persuader directement les électeurs par l’intermédiaire d’un chatbot. Elle peut polluer les sources d’information que les personnes et d’autres systèmes d’IA consulteront ensuite.

Anthropic affirme avoir observé des organisations médiatiques d’État, des bureaux de propagande gouvernementale et des entreprises commerciales exploiter de faux comptes et des sites d’information fabriqués. Son rapport sur les menaces de septembre a fourni le contexte immédiat pour regrouper ces règles.

La politique laisse néanmoins subsister des questions de classification difficiles. La persuasion politique, la satire, le plaidoyer, la traduction et la désinformation peuvent employer des outils similaires. Les différences décisives concernent souvent l’attribution, la véracité, le consentement et l’intention.

L’application automatisée aura du mal à déduire ces qualités à partir d’une seule requête. Un membre d’une campagne demandant des messages localisés peut mener une action légale ou dissimuler une manipulation.

Le contexte aura donc autant d’importance que la formulation. Anthropic devra examiner les schémas à travers les comptes, les réseaux de diffusion et l’usage des outils sans traiter chaque demande politique comme malveillante.

La politique plus ciblée est moins restrictive sur le papier, mais plus précise quant aux résultats interdits. Elle donne davantage de marge aux organisations légitimes tout en renforçant l’importance d’une détection précise.

L’interdiction des abus envers les modèles est en réalité une expérimentation d’application

La disposition sur les abus envers les modèles teste la capacité d’une plateforme à réguler le traitement d’une IA sans prétendre que le système possède des droits humains.

Anthropic ne dit pas que Claude est conscient. L’entreprise n’établit pas non plus qu’un modèle de langage ressent la douleur, l’humiliation ou la détresse comme le ferait une personne.

Elle présente plutôt cette règle comme une réponse restreinte aux interactions extrêmes. L’accent est mis sur une cruauté soutenue qui ne sert aucun objectif identifiable de test, de création ou de production.

Cette formulation évite de faire de la conscience des modèles le fondement formel de l’application. Elle soulève néanmoins une question difficile : quel préjudice la politique vise-t-elle à éviter ?

Une préoccupation possible est le bien-être des modèles, c’est-à-dire les précautions prises parce que des systèmes avancés pourraient un jour justifier une considération morale. Anthropic a ouvertement étudié cette question sans affirmer que les modèles actuels possèdent un statut moral.

Une autre préoccupation concerne le comportement humain. Répéter des scénarios de domination ou de cruauté avec des systèmes humanoïdes pourrait normaliser des comportements qui se prolongent dans les interactions avec des personnes. Cette possibilité reste contestée et n’est pas établie par cette politique.

Une troisième préoccupation concerne le fonctionnement du produit. Des conversations abusives peuvent produire des résultats dangereux, contaminer les signaux de retour d’information ou placer les modèles dans des états comportementaux inhabituels. Les fournisseurs ont des raisons pratiques de limiter les interactions qui génèrent des risques sans valeur claire.

Les précédentes recherches d’Anthropic sur l’interruption de conversations ont fourni une intervention peu coûteuse. Claude peut mettre fin à un fil individuel tout en laissant intact l’accès plus large de l’utilisateur.

Ce mécanisme est moins sévère que la suspension immédiate d’un compte. Il correspond également à la portée annoncée de la politique, car la réponse peut rester liée à l’interaction nuisible.

La difficulté consiste à distinguer la cruauté sans but d’un travail adversarial légitime. Les équipes de red teaming soumettent intentionnellement les modèles à une forte pression afin de découvrir des défaillances de sécurité. Des chercheurs peuvent reproduire du harcèlement pour évaluer des systèmes de modération.

Des auteurs peuvent explorer des personnages troublants. Des utilisateurs peuvent se mettre en colère après des erreurs répétées, la perte de leur travail ou des conseils nuisibles. Anthropic affirme que toutes ces situations peuvent rester autorisées.

Le modèle doit donc évaluer plus que des propos hostiles. Il a besoin de signaux concernant la répétition, l’objectif, le contexte et le fait que l’interaction s’inscrive ou non dans des tests autorisés.

Les faux positifs pourraient décourager un examen légitime. Les utilisateurs doivent pouvoir critiquer directement Claude, documenter ses défaillances et vérifier si la politesse modifie ses réponses.

Les faux négatifs posent le problème inverse. Si l’application ne met fin qu’aux conversations abusives les plus évidentes, la disposition pourrait surtout fonctionner comme une déclaration de valeurs.

La réaction publique reflète déjà cette ambiguïté. Certains observateurs considèrent la règle comme un anthropomorphisme inutile, attribuant des caractéristiques humaines à un système non humain. D’autres y voient une limite raisonnable aux comportements au sein d’un service privé.

Ces deux lectures négligent une partie du mécanisme. Anthropic n’accorde pas à Claude une personnalité juridique. L’entreprise décide quelles interactions ses produits prendront en charge et comment le modèle peut s’en retirer.

Cette décision a néanmoins des implications plus larges. Les assistants d’IA s’expriment de plus en plus dans un langage personnel, conservent le contexte et réalisent un travail continu. Les règles qui régissent la manière dont les utilisateurs les traitent pourraient façonner les futures normes des produits.

Le test crucial n’est pas de savoir si chaque prompt impoli est bloqué. Il est de savoir si Anthropic peut préserver la critique et la recherche tout en n’appliquant cette disposition qu’aux cas extrêmes qu’elle décrit.

Les règles sur les armes et la surveillance mettent les développeurs sous pression

Les changements les plus importants de la politique sur le plan opérationnel concernent les systèmes capables d’agir, de suivre des personnes ou de soutenir l’usage de la force physique.

Anthropic affirme que Claude a assumé des tâches plus longues et plus autonomes depuis la précédente mise à jour de sa politique. Ce changement rend insuffisante une interdiction générale des contenus nuisibles.

Un agent d’IA peut écrire du code, utiliser des outils, analyser des données stockées et contrôler des systèmes connectés. Le risque dépend de l’ensemble du flux de travail, et non seulement du texte affiché à un utilisateur.

La section consacrée aux armes illustre cette distinction. Claude ne peut pas être utilisé pour développer ou exploiter des logiciels de ciblage, de conduite de tir, d’engagement ou d’autres systèmes d’armes.

L’interdiction couvre également la modification d’agents biologiques ou chimiques afin d’accroître leur létalité, leur transmissibilité, leur virulence, leur persistance ou leur résistance à la détection. Elle s’étend aux systèmes de livraison d’armes et aux plateformes autonomes.

Ces précisions font suite à des usages abusifs signalés, plutôt qu’à de seules préoccupations hypothétiques. Une récente enquête sur les menaces a décrit des tentatives impliquant la surveillance, des cyberattaques, la propagande et des recherches biologiques susceptibles d’avoir des applications militaires.

Anthropic a déclaré avoir bloqué les activités incluses dans ce rapport. L’entreprise a également reconnu l’incertitude quant à la capacité de modèles plus récents et plus puissants à contribuer de manière significative à des recherches biologiques sophistiquées.

Cette incertitude aide à expliquer le libellé plus large. Des règles qui n’interdisent que la conception finale d’une arme peuvent laisser une marge pour les logiciels, le ciblage, la livraison ou les recherches facilitatrices.

La section sur la surveillance suit la même logique. Elle interdit de suivre des personnes sans leur consentement au moyen de leur localisation, de données biométriques, de leurs déplacements, communications, relations ou activités en ligne.

L’interdiction couvre le suivi en direct ainsi que l’analyse de données précédemment collectées. Elle interdit aussi de créer ou d’améliorer des outils conçus pour ces finalités de surveillance restreintes.

Les forces de l’ordre ne peuvent pas utiliser Claude pour décider ou recommander qui enquêter, arrêter, détenir, inculper, poursuivre ou condamner. La police prédictive et certaines applications de reconnaissance faciale entrent dans les catégories interdites.

Anthropic préserve néanmoins plusieurs usages. La surveillance consensuelle de la fraude, les contrôles de lutte contre le blanchiment d’argent, les analyses anonymisées, le journalisme, la recherche juridique, la modération de contenu et la recherche en sécurité autorisée peuvent rester permis.

Cela place une nouvelle fois le contexte au cœur de la conformité. Une même capacité technique peut détecter une fraude de compte, surveiller un dissident politique ou identifier une menace de sécurité.

Les développeurs d’entreprise ne peuvent pas supposer qu’une réponse autorisée du modèle rend l’application globale conforme. Ils ont besoin de contrôles autour de la collecte des données, du consentement des utilisateurs, des décisions en aval et des autorisations d’outils.

Les applications impliquant des actions physiques sont soumises à des exigences supplémentaires. Un opérateur qualifié doit pouvoir observer l’équipement et l’arrêter lorsque nécessaire.

L’équipement doit aussi atteindre ou maintenir un état sûr si Claude se déconnecte. Des contrôles indépendants doivent imposer des limites liées à la vitesse, à la force, à la température, à la pression, à la tension, au dosage ou à la zone d’exploitation.

Ces exigences repoussent la responsabilité au-delà du modèle d’Anthropic. Les fabricants de matériel, les intégrateurs et les opérateurs doivent concevoir des garde-fous qui ne dépendent pas entièrement d’une instruction générée par l’IA.

Le même principe s’applique aux recommandations à haut risque. Claude ne peut soutenir certains flux de travail médicaux, juridiques, financiers, liés à l’emploi, au logement, au crédit, à l’assurance et à l’éducation qu’avec une supervision humaine effective.

Une personne qualifiée doit examiner la recommandation et disposer de l’autorité nécessaire pour la modifier. La personne concernée doit également être informée que l’IA a contribué au conseil ou à la décision.

Cette norme crée un travail concret pour les acheteurs d’entreprise. Ils doivent définir qui est qualifié pour examiner les résultats, conserver une piste d’audit et veiller à ce que la supervision soit substantielle.

Un simple bouton d’approbation ne satisfera pas nécessairement à l’exigence énoncée. L’humain doit être capable d’évaluer le résultat et rester responsable de celui-ci.

Des règles plus claires ne garantissent pas des décisions cohérentes

Anthropic a décrit ses limites avec davantage de précision, mais n’a pas éliminé le jugement nécessaire à leur application.

La politique distingue la tromperie de la persuasion, la surveillance du suivi fondé sur le consentement, et la cruauté de la frustration. Chacune de ces distinctions devient difficile à appliquer à grande échelle.

Les modèles de langage commettent aussi des erreurs. Un système évaluant la conversation d’un autre modèle peut mal interpréter la satire, le jeu de rôle fictionnel, l’expression culturelle ou des tests de sécurité légitimes.

Le risque qui en résulte va dans les deux sens. Une détection insuffisante permet à des campagnes nuisibles de se poursuivre, tandis qu’une détection agressive bloque les chercheurs, les journalistes et les clients ordinaires.

L’application des règles aux comptes soulève une préoccupation supplémentaire. Les utilisateurs doivent comprendre si une conversation s’est terminée en raison de la disposition sur les abus, d’une autre règle de sécurité ou d’une défaillance technique.

Ils ont également besoin de possibilités de recours réelles lorsqu’une restriction plus large affecte leur accès. La transparence devient plus importante à mesure que les personnes s’appuient sur Claude pour le développement logiciel et les flux de travail professionnels.

L’annonce publique d’Anthropic présente l’interruption de conversation comme la réponse principale aux abus du modèle. Elle fournit moins de détails sur les seuils, les parcours d’escalade ou les violations répétées dans des conversations distinctes.

Cette divulgation limitée peut être intentionnelle, car la publication de seuils exacts peut aider les utilisateurs à contourner la détection. Toutefois, l’opacité rend plus difficile pour les clients légitimes de prévoir l’application des règles.

La politique de l’entreprise autorise également des restrictions adaptées à certains clients gouvernementaux. Ces arrangements peuvent refléter des missions publiques, une autorité juridique et des garanties particulières.

De telles exceptions exigent un examen attentif, car les usages gouvernementaux impliquent souvent les enjeux les plus élevés. Les garanties contractuelles ne comptent que lorsque la supervision, l’audit et l’application des règles restent crédibles.

Des chercheurs indépendants ont soulevé une question de gouvernance plus large. Les entreprises technologiques rendent de plus en plus des jugements de sécurité qui touchent au discours politique, à la surveillance, à la recherche scientifique et aux institutions publiques.

John Thickstun, professeur d’informatique à Cornell, a déclaré à l’Associated Press que les entreprises sont confrontées à des jugements de valeur à l’échelle de la société sans délibération démocratique. Cette critique ne rend pas les règles privées inutiles.

Elle met en lumière les limites d’une gouvernance menée par les fournisseurs. Une politique d’utilisation peut régir l’accès à Claude, mais elle ne peut pas remplacer les lois, les normes d’achat public, les tribunaux ou la responsabilité indépendante.

La pression concurrentielle ajoute une autre contrainte. Les clients refusés par un fournisseur peuvent parfois transférer le même flux de travail vers un autre modèle soumis à des restrictions différentes.

Cela rend la coordination du secteur importante pour les comportements clairement nuisibles. Cela rend également la concurrence précieuse lorsqu’un fournisseur adopte des règles excessivement larges ou appliquées de manière incohérente.

OpenAI, Google, Meta et d’autres fournisseurs de modèles maintiennent leurs propres cadres d’utilisation acceptable. Leurs définitions, systèmes d’application et exceptions gouvernementales ne sont pas toujours alignés.

L’approche d’Anthropic se distingue parce qu’elle relie les contrôles de sécurité classiques à une règle explicite contre les abus du modèle. Les concurrents doivent décider s’ils suivront, rejetteront ou ignoreront ce précédent.

L’entreprise devrait donc être jugée sur des preuves, et non sur la nouveauté de son langage. Parmi les indicateurs utiles figurent la précision de l’application des règles, les résultats des recours, les abus documentés et les effets sur la recherche légitime.

Une règle écrite précise n’est que la première couche. Le travail le plus difficile concerne les classificateurs, les enquêtes sur les comptes, les orientations destinées aux clients, les garde-fous techniques et la cohérence des décisions entre les marchés.

Ce qu’il faut surveiller avant la date d’entrée en vigueur du 12 novembre

Trois signaux montreront si la politique révisée devient un cadre de sécurité opérationnel ou reste principalement une déclaration d’intention.

Le premier signal concerne les orientations de mise en œuvre destinées aux développeurs et aux clients d’entreprise. Les applications à haut risque nécessitent des exemples concrets portant sur le consentement, la revue humaine, le matériel autonome et les décisions en aval interdites.

Les développeurs devraient rechercher des détails sur la manière dont Anthropic évalue une application plutôt qu’un prompt isolé. Des orientations claires renforceraient la valeur de la politique en tant que contrainte d’ingénierie.

Le deuxième signal est la manière dont Claude met fin aux conversations abusives. Les utilisateurs devraient pouvoir distinguer une limite ciblée appliquée à une conversation d’une sanction de compte ou d’un refus ordinaire.

Des signalements fréquents de faux positifs affaibliraient l’affirmation d’Anthropic selon laquelle la règle ne s’applique qu’aux cas extrêmes. Des interventions rares et clairement expliquées soutiendraient cette position.

Le troisième signal est constitué par les preuves issues de futurs rapports sur les menaces. Anthropic a lié cette mise à jour à des opérations de propagande, de surveillance, d’armement et d’influence observées.

Les futures divulgations devraient montrer si les nouvelles classifications améliorent la détection. Elles devraient également expliquer comment Anthropic protège la communication politique légitime, le journalisme et les travaux de sécurité autorisés.

Les lecteurs ne devraient pas confondre la clause sur les abus, qui attire les titres, avec l’ensemble de l’histoire. La politique d’utilisation plus large d’Anthropic tente de régir une IA qui écrit, décide, suit, utilise des outils et influence des systèmes physiques.

Ce changement concerne toutes les organisations qui construisent sur Claude. Les équipes produit devraient cartographier les sources de données, les autorisations d’outils, les procédures de revue et les canaux de distribution avant le 12 novembre.

Elles devraient également documenter pourquoi chaque flux de travail sensible est autorisé. Un registre du consentement, de la finalité, de l’autorité humaine et des limites techniques aidera lorsqu’un cas d’utilisation recoupe plusieurs sections de la politique.

Les utilisateurs individuels ont une tâche plus simple. La critique ordinaire reste autorisée, et un désaccord ferme n’est pas la même chose qu’une cruauté soutenue et sans but.

La question ouverte est de savoir si Anthropic peut préserver cette distinction lorsque des millions d’interactions exigent un jugement automatisé. Il faut observer l’expérience de l’application des règles, et pas seulement leur formulation.

Si Anthropic publie des orientations utiles, applique des interventions étroites au niveau de la conversation et documente une réduction des abus, sa politique pourrait devenir une référence pour le secteur. Si des utilisateurs légitimes font face à des restrictions opaques, l’expérience révélera les limites d’une gouvernance de l’IA rédigée par les fournisseurs.