Les défaillances techniques de l’IA ne sont pas les mêmes que ses problèmes de capitalisme

Bruce Schneier a tracé une ligne nette dans le débat sur l’IA, après des années où chaque préjudice était traité comme un défaut technique. L’argument de sécurité de Schneier affirme que les modèles peu fiables relèvent de problèmes d’ingénierie, tandis que la surveillance, le déplacement d’emplois et la concentration du pouvoir découlent souvent des incitations du capitalisme.

Schneier a développé cet argument avec le data scientist Nathan E. Sanders dans un essai publié par Tech Policy Press. Ils comparent l’intelligence artificielle aux débuts de la révolution industrielle, lorsque les machines ont déplacé le travail physique hors des corps humains à une échelle sans précédent. L’IA promet désormais de déplacer le travail cognitif hors de nos corps à grande échelle.

Cette comparaison porte à la fois une promesse et un avertissement. Les machines à vapeur n’ont pas déterminé qui possédait les usines, comment les travailleurs étaient rémunérés ni où la pollution s’accumulait. Ce sont les institutions et les propriétaires qui ont fait ces choix.

La même distinction compte pour l’IA. Un chatbot peut inventer une référence juridique parce que son processus de prédiction reste peu fiable. Une entreprise peut utiliser ce chatbot pour supprimer des postes expérimentés parce que ses dirigeants veulent réduire les coûts de main-d’œuvre.

Ces défaillances exigent des remèdes différents. Un meilleur entraînement, de meilleurs tests et une meilleure conception des systèmes peuvent réduire les réponses inventées. Ils ne peuvent pas décider si les gains de productivité doivent profiter aux travailleurs, aux clients, aux dirigeants ou aux investisseurs.

C’est le conflit central de l’essai. Le débat public continue de traiter un problème de répartition économique comme une mission d’ingénierie. Schneier et Sanders soutiennent qu’en procédant ainsi, on protège les institutions qui prennent les décisions les plus lourdes de conséquences.

L’essai de Schneier sur la sécurité change l’unité d’analyse

L’essai déplace l’attention de ce qu’un modèle d’IA peut faire vers ceux qui contrôlent ses capacités et captent la valeur qu’elles produisent.

Schneier et Sanders partent de la capacité inhabituelle de l’IA à accomplir des tâches cognitives en dehors d’un esprit humain. Les logiciels automatisent les calculs depuis des décennies, mais les systèmes génératifs peuvent désormais rédiger, classer, résumer, traduire et recommander dans de vastes domaines.

Les auteurs ne prétendent pas que les systèmes actuels égalent le jugement humain. Leur propos porte sur l’échelle et l’intégration. Même une automatisation cognitive imparfaite peut modifier les institutions lorsqu’elle devient peu coûteuse, rapide et accessible par des logiciels standards.

Les entreprises intègrent déjà des modèles génératifs dans la recherche, le support client, la programmation, le marketing et les flux de travail administratifs. Les gouvernements utilisent des systèmes algorithmiques pour traiter des dossiers, prioriser les inspections et appuyer des décisions affectant les prestations ou les services publics.

Ces déploiements combinent au moins trois catégories distinctes de risques. Les risques techniques proviennent du fonctionnement des systèmes. Les risques institutionnels proviennent des contextes dans lesquels les organisations les déploient et du niveau d’autorité qui leur est accordé.

Les risques politico-économiques concernent la propriété, le pouvoir de négociation et la répartition des coûts. Un même déploiement peut réunir les trois, mais chacun exige une intervention différente.

Prenons un modèle utilisé pour trier les candidatures à l’emploi. Il peut classer les candidats de manière inexacte parce que ses données d’entraînement représentent mal certains groupes. Il s’agit en partie d’un problème de données et d’évaluation.

L’employeur peut aussi utiliser le tri automatisé pour traiter davantage de candidatures sans recruter plus de recruteurs. Ce choix organisationnel modifie l’échelle et la vitesse du recrutement. Il peut réduire les possibilités d’examen humain.

Une troisième question concerne la responsabilité. Si les candidats refusés ne peuvent pas contester le système, l’institution a attribué du pouvoir sans voie de recours réelle. Aucun indicateur de précision ne peut instaurer le droit de recours qui manque.

Cette séparation n’excuse pas les défaillances techniques. Elle clarifie les outils capables de les traiter. Les tests de sécurité, les évaluations indépendantes, le signalement d’incidents et les règles de responsabilité restent nécessaires lorsque les modèles créent des préjudices prévisibles.

Toutefois, ces contrôles ne peuvent pas redistribuer la propriété ni restaurer le pouvoir de négociation. Un système parfaitement exact peut toujours soutenir une surveillance intrusive, une politique discriminatoire ou une répartition injuste des gains de productivité.

La distinction rappelle l’analyse traditionnelle de la sécurité. Une vulnérabilité décrit une faiblesse que quelqu’un peut exploiter. Les incitations environnantes déterminent qui cherche cette faiblesse, qui en tire profit et qui subit les dommages.

Schneier analyse depuis longtemps les systèmes à travers les incitations plutôt que le seul code. Ses travaux examinent comment les règles sont exploitées et pourquoi les acteurs puissants peuvent les façonner. L’IA prolonge cette préoccupation, car l’automatisation accroît la vitesse et la portée de l’exploitation.

Ce cadre fait de l’essai davantage qu’une nouvelle liste de risques liés à l’IA. Il interroge la question de savoir si la catégorie appelée « sécurité de l’IA » est devenue trop large. Lorsque chaque conflit social reçoit cette étiquette, les institutions techniques acquièrent de l’autorité sur des décisions fondamentalement politiques.

Ce transfert importe parce que les ingénieurs, les développeurs de modèles et les équipes de sécurité d’entreprise opèrent au sein de structures de propriété existantes. Ils peuvent améliorer les systèmes tout en laissant intacts les objectifs de leur déploiement.

L’essai change donc l’unité d’analyse. L’objet pertinent n’est pas seulement le modèle. C’est le modèle, son propriétaire, son modèle économique, ses utilisateurs et l’institution qui lui accorde de l’autorité.

Les problèmes techniques exigent toujours des réponses techniques

Distinguer les problèmes du capitalisme des problèmes techniques ne fonctionne que si les véritables défaillances d’ingénierie restent visibles et susceptibles d’être corrigées.

Les systèmes d’IA actuels peuvent produire de fausses informations, exposer des données sensibles, reproduire des schémas nuisibles et se comporter de façon imprévisible en dehors des conditions testées. Ce ne sont pas des défauts imaginaires créés par une mauvaise analyse économique. Ce sont des propriétés observables de systèmes déployés.

Une réponse inventée est souvent appelée une hallucination, c’est-à-dire une sortie plausible qui n’est étayée par aucune preuve fiable. Les systèmes de récupération d’information, les citations, les outils contraints et la révision humaine peuvent réduire le danger. Aucun ne garantit la vérité dans toutes les circonstances.

Les biais ont également une composante technique. Les données d’entraînement peuvent sous-représenter des populations, préserver des discriminations historiques ou encoder des variables indirectes trompeuses. Les jeux d’évaluation peuvent manquer ces défaillances lorsqu’ils mesurent la performance moyenne plutôt que les conséquences pour les groupes concernés.

La sécurité ajoute une autre couche. Des attaquants peuvent manipuler les entrées d’un modèle, extraire des informations protégées, empoisonner les données d’entraînement ou détourner des systèmes puissants à grande échelle. Les développeurs ont besoin de modélisation des menaces, de contrôles d’accès, de surveillance et de procédures de réponse.

Le rapport international sur la sécurité distingue plusieurs formes de préjudice liées à l’IA avancée. Son analyse couvre les usages malveillants, les défaillances des systèmes et des risques systémiques plus larges.

Cette ampleur est utile, mais elle peut aussi brouiller les responsabilités. Un modèle qui divulgue des identifiants exige un remède différent de celui d’une entreprise qui surveille ses employés au moyen d’un logiciel légal. Les deux affectent la sécurité, mais un seul dépend principalement de la correction du modèle.

La même règle s’applique aux systèmes autonomes. Un agent d’IA peut exécuter des actions via des outils externes plutôt que de simplement générer du texte. Les développeurs doivent limiter les autorisations, vérifier les actions importantes et conserver des traces pour les enquêtes.

Pourtant, la conception des autorisations ne peut pas répondre à la question de savoir si un employeur devrait suivre chaque interaction de ses travailleurs. Elle peut rendre le système de surveillance plus difficile à compromettre. Elle ne peut pas rendre la relation de surveillance équitable.

La fiabilité de l’IA dépend aussi du contexte de déploiement. Une erreur de résumé dans une liste de lecture personnelle a des conséquences limitées. La même erreur dans un dossier médical ou une décision concernant des prestations exige des tests et une supervision plus stricts.

La réglementation devrait refléter ces différences. Les usages à haut risque nécessitent des preuves proportionnées à leurs préjudices potentiels. Les organisations ne devraient pas traiter une clause de non-responsabilité générale comme une autorisation de déployer un système incertain partout.

Schneier et Sanders ont déjà soutenu que la société réglemente les technologies lorsque les erreurs peuvent tuer des personnes ou refuser des services essentiels. Cette logique n’exige pas de geler le développement. Elle exige de définir les obligations avant que les défaillances prévisibles ne deviennent ordinaires.

Les normes techniques peuvent soutenir ces obligations. Les développeurs peuvent documenter les méthodes d’entraînement, évaluer les performances dans des conditions réalistes et signaler les incidents graves. Des auditeurs indépendants peuvent vérifier des affirmations que les équipes internes pourraient négliger.

Les règles de passation des marchés peuvent aussi modifier les comportements. Une administration publique ou une grande entreprise peut exiger la traçabilité, des mécanismes de recours et des contrôles de sécurité minimaux. Les fournisseurs se font alors concurrence dans un cadre d’attentes publiques plus clair.

Ces mesures traitent le comportement de la technologie. Elles restent insuffisantes lorsqu’une organisation choisit un objectif nuisible. Un système optimisé pour maximiser la production des travailleurs peut fonctionner exactement comme prévu tout en érodant leur autonomie.

Cette différence est facile à manquer parce que les logiciels traduisent les politiques en paramètres techniques. Un tableau de bord peut donner à une exigence managériale une apparence neutre. Un score peut faire ressembler un jugement contesté à une mesure.

De meilleurs modèles pourraient même intensifier ce problème. Une précision accrue renforce la confiance des organisations dans l’automatisation. Elle peut étendre le déploiement avant que les institutions n’établissent des limites significatives quant aux domaines où l’autorité automatisée a sa place.

Le programme technologique doit donc inclure l’incertitude, les abus et la sécurité des systèmes. Il ne devrait pas absorber des questions que les ingénieurs n’ont pas la légitimité de trancher. Des frontières claires renforcent les deux formes de supervision.

Les problèmes du capitalisme de l’IA commencent par les incitations

De nombreux résultats redoutés de l’IA découlent d’incitations ordinaires à réduire les coûts, capter les marchés et transférer les risques vers les personnes disposant d’un moindre pouvoir de négociation.

Une entreprise n’a pas besoin d’un modèle malveillant pour supprimer des postes. Elle a besoin de dirigeants qui s’attendent à ce que l’automatisation réduise les dépenses de main-d’œuvre. Le système peut fonctionner de manière fiable sans que les travailleurs concernés ne reçoivent le moindre gain de productivité.

L’économiste Daron Acemoglu établit une distinction connexe dans ses recherches sur les préjudices de l’IA. Il soutient que les résultats dommageables ne sont pas nécessairement inhérents à la technologie de l’IA. Ils peuvent découler de choix de développement qui favorisent les entreprises et les gouvernements au détriment des travailleurs et des citoyens.

C’est un problème de capitalisme parce que le marché récompense les rendements privés, et non chaque bénéfice social. Une entreprise compte une masse salariale réduite comme une économie. Elle ne compte pas automatiquement la perte de revenus d’un travailleur déplacé comme son propre coût.

Les économistes appellent cela une externalité, c’est-à-dire un coût ou un bénéfice imposé à des personnes extérieures à une transaction. La pollution en offre l’exemple familier. Un exploitant peut réaliser des bénéfices tandis que les habitants voisins subissent les dommages sanitaires et environnementaux.

L’IA peut générer des externalités par le déplacement des emplois, la surveillance, la désinformation, la discrimination et la consommation de ressources. Les améliorations techniques peuvent réduire certains coûts. Elles ne peuvent pas contraindre l’entreprise qui les crée à payer la facture restante.

La concurrence peut aggraver la pression. Une entreprise peut préférer un déploiement plus lent, centré sur les travailleurs. Elle craint néanmoins qu’un concurrent n’automatise plus vite et ne fonctionne avec des coûts moindres.

Cette dynamique transforme le choix des dirigeants en problème de coordination. Chaque entreprise réagit rationnellement au sein du marché, mais le résultat combiné peut réduire la sécurité des travailleurs. Les programmes d’éthique volontaires peinent à résister à cette incitation.

Les marchés de l’investissement créent une pression similaire. La course à l’investissement dans l’IA est devenue l’un des plus grands booms d’investissement technologique de l’histoire américaine. Des chercheurs de la Banque des règlements internationaux comparent sa dynamique concurrentielle à celle de précédentes fièvres spéculatives autour des infrastructures.

L’analyse décrit une compétition où le gagnant rafle presque tout. Les entreprises peuvent surinvestir, car chacune craint de perdre un marché stratégiquement important. La valeur privée d’une victoire peut dépasser le rendement social plus large du projet.

Cela aide à comprendre pourquoi les dépenses des entreprises ne prouvent pas une valeur publique proportionnelle. Les immenses centres de données, les campagnes d’entraînement de modèles et les rémunérations offertes aux talents reflètent une compétition stratégique. Ils n’établissent pas, à eux seuls, une productivité supérieure dans l’ensemble de l’économie.

L’Organisation internationale du Travail décrit un « paradoxe de l’agrégation » autour de la productivité liée à l’IA. Des études au niveau des tâches peuvent constater des gains importants, tandis que les résultats à l’échelle des entreprises et de l’économie restent contrastés. L’adoption favorise également les organisations les plus grandes et les plus avancées sur le plan numérique.

Cet écart importe pour la thèse de Schneier sur la sécurité. Un outil peut rendre un salarié plus rapide sans améliorer une institution dans son ensemble. Les dirigeants pourraient tout de même réduire les effectifs avant de savoir si la performance organisationnelle progresse.

L’automatisation peut aussi créer du travail caché. Les employés doivent vérifier les résultats des modèles, corriger les erreurs, retrouver le contexte manquant et gérer les exceptions. Ces tâches apparaissent rarement dans les démonstrations de produits.

Les travailleurs font face à un autre problème d’incitations lorsque l’IA devient une couche de surveillance. Les systèmes peuvent mesurer les frappes au clavier, les messages, les appels, la localisation ou le sentiment déduit. Les employeurs gagnent en information tandis que les travailleurs perdent le contrôle de l’interprétation de leur comportement.

Une analyse de l’OIT sur le lieu de travail associe la surveillance soutenue par l’IA à l’intensification du travail, à une réduction de l’autonomie, à des préoccupations de confidentialité et à des risques psychosociaux. Ces dommages ne nécessitent pas une intelligence surhumaine.

Un système de classification modeste peut classer les travailleurs ou signaler des comportements. Sa valeur économique vient de l’extension du contrôle managérial à une main-d’œuvre nombreuse. Améliorer la précision de la classification ne résout pas le déséquilibre de pouvoir sous-jacent.

L’IA destinée aux consommateurs présente un problème connexe. Un assistant personnel devient plus utile lorsqu’il accède aux messages, documents, calendriers et activités de navigation. Cet accès crée aussi de précieuses données comportementales et des coûts de changement plus élevés.

Les utilisateurs devraient se demander où résident leurs informations, qui peut les réutiliser et si les incitations d’un service correspondent à leurs besoins. Une base de connaissances personnelle peut réduire la fragmentation, mais l’architecture et la gouvernance déterminent toujours qui détient le contrôle.

La même tension apparaît dans le travail créatif. Les systèmes génératifs peuvent aider les auteurs à explorer des idées ou à réviser des brouillons. Ils peuvent aussi permettre à des plateformes de remplacer du travail rémunéré par des contenus synthétiques moins coûteux.

Ces descriptions de la technologie ne sont pas contradictoires. Elles correspondent à différents agencements d’une même capacité. La propriété, les contrats, les protections du travail et la structure du marché déterminent quel agencement devient dominant.

Une meilleure IA ne garantit pas de meilleures institutions

L’implication la plus inconfortable est qu’une IA plus sûre et plus performante peut renforcer des institutions dont les objectifs restent dépourvus de responsabilité.

Le débat public suppose souvent que la précision, l’alignement et la transparence rendront l’IA socialement bénéfique. Ces qualités comptent, mais elles concernent le comportement du système. Elles n’établissent ni des finalités légitimes ni des résultats équitables.

Imaginons une agence de prestations sociales utilisant un modèle précis pour identifier les dossiers à examiner. L’outil pourrait réduire les erreurs administratives et détecter des schémas complexes. Il pourrait aussi soumettre les demandeurs vulnérables à un examen plus approfondi que celui appliqué à des citoyens plus aisés dans d’autres contextes.

La précision du modèle ne tranche pas la question de savoir si la priorité donnée au contrôle est équitable. Elle ne décide pas non plus du niveau de preuve qui devrait déclencher une enquête. Ce sont des choix politiques faits par les institutions.

Un outil de surveillance fiable crée la même tension. Une meilleure reconnaissance faciale peut réduire les fausses correspondances. Elle rend aussi le suivi permanent moins coûteux et plus attrayant pour les autorités ou les opérateurs privés.

Plus la technologie se renforce, plus ces questions d’autorisation deviennent importantes. Les systèmes faibles limitent parfois des ambitions nuisibles par leur simple incompétence. Les améliorer peut supprimer cette contrainte accidentelle.

C’est pourquoi l’adversaire principal de l’essai n’est pas le capitalisme contre la technologie. C’est la correction technique contre la réforme institutionnelle. La première approche devient trompeuse lorsqu’elle est présentée comme une réponse complète.

Les équipes de sécurité de l’IA en entreprise peuvent enquêter sur les défaillances des modèles et réduire les abus. Elles ne peuvent généralement pas décider qu’une stratégie de revenus entière doit disparaître. Leurs budgets et leur autorité restent contrôlés par l’organisation qui bénéficie du déploiement.

Les audits externes rencontrent des limites similaires. Un auditeur peut vérifier qu’un système respecte une norme définie. Il faut néanmoins que quelqu’un décide de ce que cette norme protège et des usages qui doivent rester interdits.

La transparence aide les observateurs à voir le comportement d’un système. Elle ne produit pas automatiquement de pouvoir d’action. Un travailleur qui comprend un score automatisé peut rester incapable de le contester sans perdre son emploi.

Le consentement des utilisateurs peut également devenir purement cérémoniel. Les personnes acceptent régulièrement de longues politiques, car les services essentiels ne laissent aucune alternative pratique. Le consentement offre peu de protection lorsqu’une partie contrôle l’accès et les conditions.

La concentration du marché accentue cette faiblesse. L’entraînement de grands modèles exige une infrastructure informatique considérable, un accès aux données, une main-d’œuvre spécialisée et des canaux de distribution. Un petit groupe d’entreprises peut influencer à la fois le développement technique et les politiques jugées acceptables.

La concentration peut restreindre les priorités de recherche. Les entreprises investissent naturellement dans des applications susceptibles de générer des revenus ou un avantage stratégique. Les usages d’intérêt public aux retours incertains reçoivent moins de soutien, même lorsque leur valeur sociale est élevée.

Schneier et Sanders soutiennent l’IA publique comme l’une des réponses possibles. Une option publique fournirait des modèles ou une infrastructure gouvernés par des institutions publiques. Elle pourrait établir un niveau de référence que les fournisseurs privés devraient égaler.

Cette proposition comporte ses propres risques. Les gouvernements peuvent abuser des données, mener une surveillance ou fonctionner sans expertise technique suffisante. La propriété publique ne produit pas automatiquement une responsabilité démocratique.

Néanmoins, une option publique modifie la structure des incitations. Son objectif officiel n’a pas besoin de maximiser les revenus publicitaires, les rendements des investisseurs ou l’enfermement propriétaire. La supervision peut se concentrer sur l’accès, la transparence, la continuité et la valeur publique.

La politique de concurrence offre une autre voie. Les autorités peuvent examiner les acquisitions, les dépendances au cloud, les partenariats exclusifs et les pratiques qui empêchent les utilisateurs de changer de service. Ces interventions portent sur la structure du marché plutôt que sur les poids des modèles.

La politique du travail compte tout autant. La négociation collective peut donner aux travailleurs une influence sur la surveillance, les calendriers de déploiement, les effectifs et les gains de productivité. Les droits à l’information et au recours peuvent encadrer la gestion automatisée.

La politique fiscale peut attribuer un prix aux externalités que les marchés ignorent. Les règles environnementales peuvent exiger des rapports précis et des mesures d’atténuation. La responsabilité juridique peut réorienter le coût des déploiements négligents vers les organisations qui les contrôlent.

Aucune de ces politiques ne remplace la sécurité technique. Elles interviennent à une couche différente. Les tests de sécurité demandent si un système se comportera comme prévu. La réforme institutionnelle demande qui a choisi ce comportement et qui peut le contester.

Les critiques peuvent raisonnablement se demander si chaque préjudice lié à l’IA relève du capitalisme. Des gouvernements autoritaires peuvent déployer la surveillance sans incitations de marché. Des organismes publics peuvent automatiser des politiques injustes, et des organisations à but non lucratif peuvent faire mauvais usage de données personnelles.

Les défaillances techniques façonnent aussi les résultats politico-économiques. Un modèle peu fiable peut nuire de manière disproportionnée aux personnes qui n’ont ni le temps, ni l’argent, ni un soutien juridique. La technologie et les institutions interagissent plutôt que d’occuper des catégories étanches.

La distinction de l’essai devrait donc servir d’outil de diagnostic, et non de séparation absolue. Les analystes devraient se demander quel mécanisme domine dans chaque préjudice. Ils devraient ensuite adapter le remède à ce mécanisme.

Ce que révèle la comparaison avec la révolution industrielle

L’analogie industrielle importe parce que l’histoire montre que les gains de productivité ne se distribuent pas d’eux-mêmes.

La vapeur a accru la capacité de la société à effectuer du travail mécanique. Elle a soutenu les usines, les transports, l’extraction et la production de masse. Elle s’est aussi développée au sein d’institutions qui toléraient les lieux de travail dangereux, la pollution et des inégalités extrêmes de pouvoir de négociation.

Ces conditions n’étaient pas des propriétés inévitables de la machine à vapeur. Elles reflétaient des règles juridiques, la propriété, le pouvoir politique et de faibles protections. La technologie a accru les enjeux de ces arrangements.

Les travailleurs ont fini par obtenir des normes de sécurité, des limites du temps de travail, des droits de négociation collective et une assurance sociale. Les gouvernements ont mis en place des contrôles environnementaux et des infrastructures publiques. Rien de cela n’a émergé automatiquement de machines plus efficaces.

L’IA crée un problème de répartition comparable autour de la production cognitive. Si les systèmes réduisent le coût de l’analyse, de l’écriture, de la coordination et de la création logicielle, quelqu’un captera ce surplus. Les règles existantes influencent fortement qui en bénéficie.

Les entreprises peuvent répartir les gains par des salaires plus élevés, des semaines de travail plus courtes, de meilleurs services ou des prix plus bas. Elles peuvent aussi les transformer en rémunération des dirigeants, en expansion de marché ou en rendements pour les détenteurs de capital.

L’histoire suggère que les entreprises choisissent rarement la répartition la plus large sans pression. Des marchés concurrentiels peuvent faire baisser les prix, mais seulement dans des conditions favorisant une concurrence réelle. Les travailleurs gagnent lorsque les institutions du travail leur procurent un pouvoir de négociation.

L’analogie a ses limites. Les machines industrielles étaient coûteuses, physiques et limitées géographiquement. Les logiciels génératifs peuvent se diffuser à une vitesse inhabituelle par les services cloud et les appareils existants.

L’IA est aussi polyvalente et adaptable. Un même modèle peut prendre en charge de nombreuses tâches sans reconstruire une usine. Cette flexibilité peut accélérer la diffusion tout en rendant la responsabilité plus difficile à situer.

L’automatisation cognitive touche des professions que les machines précédentes soutenaient plutôt qu’elles ne remplaçaient. Avocats, programmeurs, enseignants, analystes, designers et fonctionnaires font désormais face à des systèmes ciblant directement certaines parties de leur travail.

L’unité pertinente est souvent la tâche plutôt que le métier. Un emploi comprend le jugement, la communication, la production routinière, la responsabilité et les connaissances interpersonnelles. L’IA peut automatiser certains éléments tout en augmentant la demande pour d’autres.

Ce processus peut renforcer les travailleurs ou dégrader leurs rôles. Une infirmière pourrait passer moins de temps à documenter les soins. Le même système pourrait imposer des objectifs de productivité rigides et réduire le temps passé avec les patients.

Un enseignant pourrait utiliser l’IA pour préparer des exercices différenciés. Une institution pourrait au contraire augmenter la taille des classes et attendre du tutorat automatisé qu’il comble l’écart. La capacité reste similaire, mais l’objectif organisationnel change.

C’est pourquoi les problèmes du capitalisme lié à l’IA ne peuvent pas être prévus à partir des seuls résultats de benchmarks. La performance indique ce qui devient techniquement réalisable. Elle ne révèle pas quels déploiements les dirigeants financeront ni quelles protections les législateurs imposeront.

L’analogie industrielle avertit aussi contre l’attente de certitudes. Les règles du travail et de l’environnement ont souvent suivi des préjudices visibles. À ce stade, les infrastructures et les structures de propriété étaient devenues difficiles à modifier.

L’infrastructure de l’IA s’intègre désormais aux plateformes cloud, aux logiciels d’entreprise, aux écoles et aux systèmes gouvernementaux. Les premiers choix d’approvisionnement et d’interopérabilité peuvent déterminer les dépendances futures.

Les organisations devraient préserver des options de sortie. Elles ont besoin de données portables, de dossiers clairs, de voies de recours humaines et de la possibilité de remplacer leurs fournisseurs. Ces garde-fous réduisent le coût de correction d’un mauvais choix institutionnel.

Les travailleurs du savoir devraient également distinguer une assistance utile d’une autorité déléguée. Un modèle peut aider à rechercher des documents ou à préparer des options. La responsabilité finale doit rester identifiable lorsque des décisions affectent les droits, l’emploi, la santé ou la sécurité.

La leçon industrielle n’est pas que l’IA garantit un autre siècle d’exploitation. Elle est que les résultats sociaux exigent une construction institutionnelle délibérée. Le progrès technique fournit des capacités, pas la justice.

Trois signaux mettront à l’épreuve l’argument de sécurité de Schneier

L’argument gagnera en force si les institutions régulent les incitations au déploiement avec autant de sérieux qu’elles régulent les performances des modèles.

Le premier signal sera de voir si les gouvernements adoptent des règles contraignantes pour les usages à fort impact. Surveillez les normes d’achat public, les droits de recours, la responsabilité et les restrictions concernant la surveillance sur le lieu de travail ou dans le secteur public.

Des exigences de test des modèles à elles seules affaibliraient la réponse institutionnelle. Elles impliqueraient que le déploiement devient acceptable dès qu’un système franchit un seuil de performance. Cette approche laisse largement intactes la finalité, l’autorité et le pouvoir.

Des règles couvrant les droits de décision conforteraient Schneier et Sanders. Une personne touchée par un jugement automatisé devrait savoir que l’automatisation a été utilisée. Cette personne devrait pouvoir bénéficier d’un examen substantiel par une institution responsable.

Le deuxième signal concerne la manière dont les entreprises répartissent les gains de productivité mesurables. Examinez les décisions d’effectifs, l’intensité du travail, les salaires, les horaires et les prix, parallèlement aux affirmations sur l’accélération de la production.

Une entreprise qui utilise l’IA pour raccourcir la semaine de travail sans réduire les salaires propose un modèle institutionnel. Une entreprise qui réduit ses effectifs tout en renforçant la surveillance en propose un autre. Toutes deux pourraient déployer des logiciels techniquement similaires.

Des preuves fiables restent essentielles ici. Les améliorations de vitesse au niveau des tâches ne doivent pas être assimilées à une productivité à l’échelle de l’économie. Les organisations doivent comptabiliser le travail de vérification, les coûts d’intégration, les erreurs et l’expertise perdue.

Le troisième signal sera de voir si des alternatives à une infrastructure d’entreprise concentrée deviennent crédibles. Des modèles publics, des normes ouvertes, des services interopérables et des marchés du cloud concurrentiels peuvent réduire la dépendance envers quelques fournisseurs.

L’IA publique doit être évaluée avec prudence. La gouvernance, la confidentialité, la sécurité, le financement et la supervision indépendante comptent davantage que l’étiquette publique. Un système étatique mal gouverné peut reproduire la même concentration sous une propriété différente.

Néanmoins, des alternatives crédibles modifieraient la dynamique de négociation. Les fournisseurs privés seraient poussés à offrir davantage de transparence, de portabilité et d’accès à long terme. Les utilisateurs disposeraient d’options autres que l’acceptation des conditions évolutives d’une seule entreprise.

Les prochains mois ne trancheront pas l’effet de l’IA sur la société. Son intégration dans les lieux de travail et les administrations se déroulera sur des années. Les premiers choix établiront néanmoins des paramètres par défaut qu’il deviendra coûteux d’inverser.

Les lecteurs devraient appliquer la distinction de sécurité de Schneier chaque fois qu’une nouvelle controverse sur l’IA apparaît. Demandez-vous d’abord si le préjudice provient d’un comportement technique, de l’autorité de déploiement ou d’incitations économiques. Demandez-vous ensuite qui bénéficie du fait de présenter cela comme un problème d’ingénierie.

Cette dernière question compte, car les catégories répartissent les responsabilités. Si un conflit du travail devient un « problème d’alignement », les développeurs de modèles semblent détenir la solution. Les employeurs, les investisseurs et les législateurs passent au second plan.

Une réponse utile doit maintenir visibles tous les acteurs responsables. Les développeurs devraient rendre les systèmes plus sûrs et plus fiables. Les déployeurs devraient justifier leurs usages, et les gouvernements devraient établir des droits que les marchés ne fourniront pas.

Il ne s’agit pas d’excuser l’IA ni de condamner tous les marchés. Il s’agit de cesser d’attendre de meilleurs logiciels qu’ils réparent une répartition contestée du pouvoir. Les solutions techniques peuvent améliorer les machines, mais les personnes doivent toujours réformer les institutions qui les dirigent.

Quelle couche votre organisation considère-t-elle aujourd’hui comme un problème d’IA ? Identifiez une défaillance technique, une décision de déploiement et une incitation qui la façonne. Attribuez chacune à un responsable redevable, puis vérifiez si le remède proposé atteint la véritable cause.