L’AI Act de l’UE impose la transparence, mais les labels ne sont que la moitié de l’épreuve
L’AI Act de l’UE franchit une échéance décisive le 2 août, avec l’entrée en vigueur dans toute l’Union des obligations de divulgation pour les chatbots et d’étiquetage des contenus générés par IA. Ces règles visent à combler une lacune fondamentale : il est souvent impossible de savoir si l’on parle à un logiciel ou si l’on regarde un média synthétique.
Les exigences immédiates paraissent simples. Les chatbots doivent indiquer qu’ils sont artificiels lorsque cela n’est pas déjà évident. Les fournisseurs de systèmes génératifs doivent rendre les contenus synthétiques ou manipulés détectables sous une forme lisible par machine.
Les déployeurs sont également soumis à des obligations de divulgation visibles pour les deepfakes et certains contenus d’intérêt public. Pourtant, le véritable enjeu n’oppose pas les entreprises d’IA entre elles. Il oppose la promesse de médias synthétiques identifiables à la réalité technique de marques qui peuvent disparaître, entrer en conflit ou perdre tout sens.
La Commission européenne a publié des orientations définitives avant l’échéance, offrant aux entreprises une interprétation plus claire de l’article 50. L’application reposera principalement sur les autorités nationales de surveillance du marché, tandis que l’Office européen de l’IA dispose de compétences sur un groupe plus restreint de systèmes.
Cette distinction compte pour les développeurs, éditeurs, plateformes et acheteurs en entreprise. Le 2 août n’ajoute pas simplement une nouvelle mention à placer à côté d’une politique de confidentialité. Cette date fait entrer les décisions de provenance et de divulgation dans les interfaces produits, les chaînes de traitement des médias, les contrats fournisseurs et les dossiers d’audit.
Ce qui change avec l’AI Act de l’UE le 2 août
L’article 50 transforme l’identité de l’IA et la provenance des médias synthétiques, qui relevaient jusqu’ici de choix produits, en obligations légales.
L’AI Act de l’UE est entré en vigueur le 1er août 2024, mais ses dispositions suivent un calendrier d’application progressif. L’article 50 et la plupart des règles restantes commencent à s’appliquer le 2 août 2026.
Le texte applicable couvre quatre situations, et non tous les usages de l’intelligence artificielle. Sa première règle concerne les systèmes conçus pour interagir directement avec des personnes. Les fournisseurs doivent veiller à ce que les utilisateurs sachent qu’ils interagissent avec une IA, sauf si ce fait est déjà évident.
Un assistant de service client, un bot de recrutement, un compagnon virtuel ou un agent de support automatisé peut relever de cette obligation. La divulgation doit intervenir pendant l’échange, et non rester enfouie dans des conditions générales éloignées.
L’appréciation dépend également du contexte. La loi s’intéresse à ce qu’une personne raisonnablement informée et attentive reconnaîtrait dans les circonstances données. Un personnage de jeu clairement fictif constitue un cas différent d’un agent d’assistance financière à l’apparence humaine.
La deuxième exigence porte sur les systèmes qui génèrent ou manipulent du texte, des images, de l’audio ou de la vidéo. Les fournisseurs doivent concevoir leurs systèmes de sorte que les résultats comportent des indications lisibles par machine de leur origine artificielle.
Le texte juridique exige que ces mesures techniques soient efficaces, interopérables, robustes et fiables, dans la mesure où cela est techniquement réalisable. Il permet également aux régulateurs de prendre en compte les coûts de mise en œuvre et les normes techniques généralement admises.
Cette obligation des fournisseurs diffère du label visible requis dans certains scénarios de déploiement. Une marque lisible par machine est destinée aux logiciels et aux outils de vérification. Une divulgation visuelle ou sonore s’adresse à la personne qui rencontre le contenu.
La troisième catégorie couvre les systèmes de reconnaissance des émotions et de catégorisation biométrique. Les organisations qui utilisent ces systèmes doivent en informer les personnes qui y sont exposées, sous réserve d’exceptions limitées pour les forces de l’ordre.
La quatrième catégorie s’applique lorsque des déployeurs publient des deepfakes ou des textes générés par IA sur des sujets d’intérêt public. Les images, contenus audio et vidéos deepfake exigent généralement une divulgation claire indiquant que le contenu a été généré ou manipulé artificiellement.
Les textes d’intérêt public sont soumis à une règle plus limitée. Une divulgation est requise lorsqu’un texte généré ou manipulé par IA est publié pour informer le public sans relecture humaine ni responsabilité éditoriale.
Cette exception protège les flux de travail éditoriaux ordinaires contre une assimilation à une publication entièrement automatisée. Elle ne dispense pas d’examiner qui a relu le contenu et qui a assumé la responsabilité de sa publication.
La Commission indique que l’objectif est de réduire la tromperie et la manipulation tout en aidant les personnes à porter des jugements éclairés. Ses orientations sur la transparence traduisent ce principe en attentes plus précises pour les fournisseurs et les déployeurs.
L’échéance met sous pression bien plus que les créateurs de chatbots
La charge de conformité suit le système d’IA, de son développeur jusqu’à l’organisation qui présente ses résultats au public.
Les développeurs de modèles concentrent l’essentiel de l’attention, mais l’article 50 répartit les responsabilités entre fournisseurs et déployeurs. Un fournisseur développe un système d’IA ou le met sur le marché sous son propre nom. Un déployeur utilise ce système sous son autorité.
Cette répartition met sous pression les éditeurs de logiciels, détaillants, banques, médias, annonceurs, administrations publiques et équipes technologiques en entreprise. Ils doivent déterminer quelles obligations incombent au fournisseur et lesquelles restent à la charge du client.
Prenons le cas d’un détaillant en ligne qui ajoute un assistant conversationnel. Le fournisseur du logiciel doit concevoir le système de manière à divulguer son identité d’IA lorsque nécessaire. Le détaillant doit préserver cette divulgation au lieu de présenter le bot comme un employé.
Une agence média fait face à une autre chaîne de responsabilité. Son générateur d’images devrait produire des contenus synthétiques détectables, tandis que l’agence peut devoir étiqueter un deepfake lors de la publication de la campagne finale.
L’exigence se complique lorsque plusieurs outils interviennent sur le même fichier. Une image peut passer par la génération, la retouche, le redimensionnement, la planification sur les réseaux sociaux et la diffusion de contenu avant d’atteindre un spectateur.
Chaque étape peut modifier les métadonnées ou supprimer un signal technique. Les achats et les tests de chaîne de production deviennent donc des tâches centrales de conformité, même lorsque le label final paraît simple.
Les acheteurs en entreprise devraient désormais demander aux fournisseurs si les marques lisibles par machine survivent à l’exportation, à l’édition, au transcodage et aux systèmes de publication courants. Ils ont aussi besoin d’éléments étayant ces affirmations.
Une déclaration marketing sur une « IA responsable » a une faible valeur d’audit. La documentation technique, les fichiers d’exemple, les historiques de versions et les tests reproductibles apportent des preuves plus solides qu’un système se comporte comme promis.
Les organisations ont également besoin d’un inventaire de leurs interactions publiques avec l’IA. Une entreprise peut suivre son chatbot principal tout en négligeant des agents commerciaux automatisés, des systèmes vocaux, des assistants d’intégration ou des fonctionnalités d’IA intégrées par des prestataires.
Le même problème se pose dans l’édition. Les équipes doivent identifier quels flux de travail créent des deepfakes, lesquels produisent des textes d’intérêt public et à quels endroits intervient une relecture humaine significative.
La relecture humaine ne peut pas devenir une case à cocher purement cérémonielle. Les organisations devraient documenter qui a examiné le résultat, ce qui a été évalué et qui a accepté la responsabilité éditoriale.
Cette tenue de registres est particulièrement importante, car la Commission n’agit pas comme unique régulateur de première ligne. Les autorités nationales de surveillance du marché géreront l’essentiel de l’application, ce qui crée une structure de supervision distribuée.
L’Office européen de l’IA joue un rôle d’application plus limité. Il peut superviser les systèmes concernés fondés sur des modèles d’IA à usage général lorsque le fournisseur fournit également le système et le modèle sous-jacent.
Il dispose également de compétences dans certains cas impliquant de très grandes plateformes en ligne ou des moteurs de recherche. Le Contrôleur européen de la protection des données traite les systèmes concernés utilisés par les institutions de l’UE.
Les entreprises font donc face à un corpus de règles commun, mais à des relations de supervision potentiellement différentes. Cela renforce la valeur d’une documentation interne cohérente entre les produits et les marchés des États membres.
Les réponses de la Commission sur l’article 50 indiquent que les amendes peuvent atteindre 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial. Le principe de proportionnalité s’applique aux petites entreprises.
Le risque d’application n’est pas la seule préoccupation. Une divulgation insuffisante peut également entraîner des problèmes de protection des consommateurs, de réputation, de contrats ou de politiques de plateforme avant même qu’un régulateur n’inflige une sanction.
Les labels doivent survivre à la chaîne d’approvisionnement des contenus
L’arbitrage central est clair : une divulgation nette face à un système médiatique fragmenté capable de supprimer ou d’occulter la provenance.
L’article 50 recourt à deux mécanismes complémentaires. Les labels destinés aux personnes indiquent au public ce qu’il voit. Les marques lisibles par machine permettent aux logiciels de reconnaître et de suivre les contenus artificiels à grande échelle.
Aucun de ces mécanismes ne suffit à lui seul. Un label visible peut être recadré hors d’une image, séparé d’une vidéo republiée ou absent d’une capture d’écran. Un signal lisible par machine peut devenir inaccessible à la personne qui consulte l’œuvre.
La provenance technique peut aussi se rompre involontairement. Les plateformes sociales recompresseront les images, les applications de messagerie modifieront les fichiers et les services vidéo transcoderont les téléversements vers de nouveaux formats.
Les outils d’édition introduisent un autre point de défaillance. Un enregistrement de provenance valide lors de la génération ne garantit pas que le fichier final exporté conservera la même information.
La Commission insiste donc sur la fiabilité tout au long du cycle de vie du contenu. Les fournisseurs doivent tenir compte des manières prévisibles dont leurs résultats seront stockés, modifiés, distribués et détectés.
« Lisible par machine » ne signifie pas que la loi impose une technologie universelle dans tous les cas. L’obligation porte sur le résultat, tandis que les normes et pratiques sectorielles peuvent guider sa mise en œuvre.
Une approche utilise des métadonnées de provenance signées qui consignent l’origine d’un fichier et son historique de modifications. Une autre insère un signal imperceptible directement dans le média.
Les métadonnées peuvent contenir des informations détaillées, mais les traitements ordinaires peuvent les supprimer. Le filigrane intégré peut survivre à certaines transformations, bien que la précision de détection et la durabilité varient selon le type de média.
Une conception en couches peut associer ces méthodes à une divulgation visible. Son avantage est la redondance. Si un signal disparaît, un autre peut encore communiquer l’origine du contenu.
Cette approche entraîne des coûts et des compromis de conception. Les filigranes doivent rester détectables sans dégrader sensiblement les résultats légitimes. Les enregistrements de provenance doivent résister à la falsification sans exposer d’informations personnelles ou commerciales inutiles.
Les outils de détection ont également besoin d’un accès fiable aux données de vérification pertinentes. Une marque que seul son créateur peut interpréter offre une valeur limitée aux plateformes, chercheurs, journalistes et clients en aval.
Les faux positifs soulèvent une autre inquiétude. Un détecteur qui étiquette à tort un média authentique comme synthétique peut nuire aux créateurs et affaiblir la confiance dans l’ensemble du système.
Les faux négatifs créent le problème inverse. Des médias manipulés peuvent circuler sans être détectés, même lorsqu’un générateur conforme avait initialement ajouté une marque.
L’Acte reconnaît ces contraintes par sa formulation relative à la faisabilité technique. Cette réserve est pragmatique, mais elle soulève aussi une question d’application : quel niveau de résilience est considéré comme suffisant ?
Les entreprises devront démontrer leur raisonnement. Un processus défendable devrait identifier les transformations attendues, tester si les marques y survivent, puis consigner les échecs et les mesures correctives.
Le code de transparence volontaire offre une voie structurée pour démontrer la conformité. Il ne remplace pas l’article 50 et ne rend pas facultative la loi sous-jacente.
Les organisations ne sont pas tenues de signer le code. Les non-signataires doivent néanmoins démontrer leur conformité par d’autres mesures adéquates et doivent s’attendre à des questions plus approfondies sur l’approche choisie.
La Commission a indiqué que les autorités peuvent demander des informations plus détaillées aux non-signataires. Une comparaison documentée avec le code peut aider à expliquer pourquoi une autre mise en œuvre offre une protection équivalente.
C’est là que l’échéance d’août transforme l’ingénierie produit. La provenance n’est plus seulement une fonctionnalité de plateforme. Elle devient une propriété de bout en bout qui doit résister aux conditions réelles de distribution.
La divulgation des deepfakes comporte d’importantes limites
Les règles visent l’ambiguïté trompeuse, mais elles n’exigent pas que toute œuvre assistée par l’IA porte le même avertissement visible.
Un deepfake au sens de la loi désigne une image, un contenu audio ou une vidéo généré ou manipulé par l’IA et ressemblant à des personnes, objets, lieux, entités ou événements existants. Le contenu doit donner à tort l’apparence d’être authentique ou véridique.
Cette définition couvre des risques connus tels que les voix clonées, les vidéos politiques fabriquées et les images réalistes représentant des événements qui n’ont jamais eu lieu. Elle est plus précise que la notion de « contenu créé avec l’IA ».
Une illustration manifestement fantastique ne devient pas automatiquement un deepfake. Un enregistrement synthétique usurpant l’identité d’un dirigeant lors d’une demande de paiement constitue un cas beaucoup plus clair.
Les déployeurs doivent indiquer que les contenus deepfake couverts ont été générés ou manipulés artificiellement. Cette information doit être claire et identifiable dès la première exposition du public au contenu.
Les œuvres artistiques, créatives, satiriques, fictives et comparables bénéficient d’un traitement adapté. La divulgation reste nécessaire, mais elle ne doit pas entraver l’affichage ou l’appréciation de l’œuvre.
Cette disposition reconnaît un problème de conception difficile. Un avertissement visible peut prévenir la tromperie, mais une mention intrusive peut dénaturer un film, une performance, un jeu ou une œuvre visuelle.
Le contexte devient essentiel. Une étiquette adaptée à un extrait d’actualité peut ne pas convenir à une sortie en salle, et une divulgation audio peut fonctionner différemment d’une légende d’image.
La règle relative aux textes d’intérêt public crée une autre limite importante. Les textes entièrement automatisés publiés pour informer le public exigent généralement une divulgation lorsqu’ils ont été générés ou manipulés par l’IA.
Toutefois, cette exigence ne s’applique pas lorsqu’une personne relit le texte ou exerce un contrôle éditorial et qu’une personne assume la responsabilité de la publication.
Cette exception ne doit pas être interprétée comme une exemption universelle pour tout contenu auquel un éditeur a participé. Les questions sous-jacentes portent sur la réalité de la relecture, du contrôle et de la responsabilité.
Une rédaction utilisant l’IA pour la transcription ou des suggestions de texte se trouve dans une situation différente d’un site automatisé publiant des synthèses politiques non relues. Le flux de travail final compte davantage qu’une étiquette générique « assisté par l’IA ».
La loi prévoit également des exceptions pour certains systèmes d’application de la loi légalement autorisés. Ces exceptions s’accompagnent de garanties et ne transforment pas les outils publics de signalement d’infractions en interfaces d’IA cachées.
Les organisations devraient éviter de tout étiqueter excessivement par réflexe défensif. Des avertissements généralisés peuvent rendre les mentions importantes moins visibles et apprendre aux utilisateurs à les ignorer.
Une bonne divulgation indique au public ce qui importe au moment pertinent. Elle identifie l’interaction ou la manipulation artificielle sans noyer les utilisateurs sous les détails techniques.
Les faits rapides de la Commission distinguent les obligations des fournisseurs de celles des déployeurs. Cette distinction aide les équipes à éviter de considérer une étiquette générique comme un programme de conformité complet.
Par exemple, une plateforme vidéo peut devoir préserver la provenance technique provenant d’un générateur en amont. La personne qui publie une vidéo synthétique trompeuse peut, séparément, être soumise à l’obligation de divulgation visible.
Les responsabilités peuvent également se chevaucher. Une entreprise qui développe un système et le déploie sous sa propre autorité peut avoir des obligations dans les deux rôles.
La leçon pratique est que les organisations doivent classifier les usages, et pas seulement les fournisseurs. Le même modèle génératif peut servir à une retouche d’image à faible risque, au divertissement fictif ou à une usurpation trompeuse.
Un processus d’examen utile devrait consigner l’objectif, le public, le degré de réalisme, le sujet représenté, la supervision humaine et le contexte de publication. Ces éléments déterminent quelle divulgation est pertinente.
La plus grande incertitude est de savoir si la transparence fonctionnera
La conformité peut faciliter l’identification des médias synthétiques sans faire disparaître la tromperie.
Des acteurs déterminés peuvent utiliser des outils non conformes, supprimer les divulgations visibles, enregistrer des sorties avec un autre appareil ou diffuser des contenus en dehors de plateformes coopératives. L’article 50 ne peut pas éliminer ces tactiques.
La loi modifie plutôt les incitations et établit une base de référence pour les fournisseurs et déployeurs légitimes. Les grands services opérant en Europe doivent intégrer la divulgation et la provenance dans le comportement ordinaire de leurs produits.
Cela peut améliorer les informations disponibles pour les plateformes, les enquêteurs et les publics. Cela peut aussi faire de l’absence de provenance attendue un signal d’alerte utile.
L’absence n’est toutefois pas une preuve de fabrication. Des fichiers anciens, des captures d’écran, des appareils photo plus anciens et des flux de travail respectueux de la vie privée peuvent ne pas disposer de provenance pour des raisons tout à fait légitimes.
Un système de détection digne de confiance doit communiquer l’incertitude. Il doit distinguer la provenance confirmée, les informations manquantes, les identifiants endommagés et les manipulations suspectées.
La même prudence s’applique aux utilisateurs. Une étiquette IA visible confirme une intervention artificielle, mais n’établit pas qu’une affirmation est fausse ou nuisible.
Inversement, des médias authentiques peuvent présenter des événements de manière sélective ou hors contexte. La provenance facilite l’évaluation, mais elle ne peut pas remplacer le journalisme, la vérification des sources ou le jugement critique.
L’application transfrontalière crée une autre incertitude. Les autorités nationales appliquent le même règlement, mais les premières enquêtes peuvent différer en matière de priorités, d’effectifs et de capacités techniques.
Les orientations de la Commission devraient réduire les interprétations incohérentes, même si les cas difficiles nécessiteront toujours des décisions de supervision et შესაძლოა des litiges. Les équipes produit doivent s’attendre à ce que les pratiques de mise en œuvre évoluent.
Il existe également une particularité de calendrier pour les systèmes existants. Les systèmes d’IA générative mis sur le marché avant le 2 août bénéficient d’une transition limitée concernant l’obligation de marquage lisible par machine.
Ces systèmes doivent respecter cette obligation spécifique au plus tard le 2 décembre 2026. La période de grâce ne reporte pas de manière générale l’article 50 et ne supprime pas les autres obligations de divulgation applicables.
Les contenus générés et mis à disposition avant le 2 août ne nécessitent pas d’étiquetage rétroactif. La Commission encourage un étiquetage volontaire lorsque cela est possible, mais il n’est pas obligatoire.
Cette transition limitée est importante, car des échéances plus larges de l’AI Act ont changé lors du processus de simplification de l’UE. Certaines exigences relatives aux systèmes à haut risque suivent désormais des dates ultérieures.
Les organisations ne devraient pas interpréter ces changements comme un report de toutes les règles de transparence. Le calendrier officiel de mise en œuvre maintient intacte la date d’application du 2 août pour l’article 50.
Le contrôle de l’application se concentrera probablement sur une conception raisonnable des systèmes, des avis clairs, la résilience technique et les preuves que les organisations ont évalué leurs obligations. Une conformité cosmétique sera plus facile à contester.
Une divulgation de chatbot qui n’apparaît qu’après une longue conversation pourrait manquer son objectif. Une marque de provenance qui disparaît au cours du processus normal d’exportation du fournisseur soulève une préoccupation différente.
Le code volontaire arrive également peu avant l’échéance. Les entreprises disposaient auparavant du texte central du règlement, mais les orientations opérationnelles détaillées laissent peu de temps pour les derniers ajustements.
Ce calendrier renforce l’intérêt d’une remédiation par étapes. Les équipes devraient d’abord traiter la tromperie directe des utilisateurs, puis tester la provenance dans leurs flux de travail multimédias les plus volumineux.
Elles devraient également conserver des preuves de leurs décisions et des limites non résolues. Les régulateurs peuvent évaluer une contrainte technique documentée différemment d’une affirmation non étayée selon laquelle le marquage était impossible.
Trois signaux montreront si les règles ont réellement du poids
Les trois prochains mois révéleront si l’article 50 devient une infrastructure opérationnelle ou un nouvel avis que les utilisateurs cessent de voir.
Le premier signal viendra des orientations d’application des autorités nationales de surveillance du marché. Leurs premiers avis, enquêtes et pratiques de coordination montreront comment elles interprètent une divulgation adéquate.
Les premiers cas révéleront aussi quels échecs attirent l’attention. Les identités de chatbot dissimulées, les deepfakes non étiquetés et les marques lisibles par machine fragiles présentent des défis différents en matière de preuve et d’application.
Une action nationale cohérente renforcerait l’argument selon lequel l’article 50 établit une base européenne pratique. De fortes divergences rendraient la conformité plus coûteuse et les résultats moins prévisibles.
Le deuxième signal sera la survie technique à travers les grandes plateformes de contenu. Les fournisseurs et les déployeurs devraient tester si la provenance persiste dans les flux de travail courants liés aux images, à l’audio et à la vidéo.
Les fichiers devraient être vérifiés après modification, compression, téléversement, téléchargement, capture d’écran et transcodage. Les résultats comptent davantage que l’affirmation d’un fournisseur selon laquelle un format particulier est pris en charge.
Si les grandes plateformes préservent et exposent la provenance de manière cohérente, le marquage lisible par machine gagnera en valeur pratique. Si elles la suppriment régulièrement, la divulgation visible devra assumer une plus grande part de la charge.
Le troisième signal sera l’échéance de transition du 2 décembre pour les anciens systèmes génératifs. Cette date montrera si les produits historiques peuvent adopter le marquage sans problèmes majeurs de compatibilité.
Les fournisseurs devraient indiquer quels produits sont éligibles à la transition et quand les mises à jour arriveront. Les clients d’entreprise ont besoin de ces dates pour leur propre planification des risques.
Des mises à niveau réussies renforceraient l’approche à plusieurs niveaux de l’UE. Des retards généralisés ou une faible interopérabilité révéleraient un écart entre l’exigence légale et l’infrastructure disponible.
Les lecteurs devraient également surveiller les interfaces produit. Les changements les plus révélateurs pourraient prendre la forme de petites notifications d’identité, de panneaux de provenance, de paramètres d’exportation et d’invites de divulgation.
Ces détails montrent si les entreprises ont intégré la conformité à la conception du produit ou l’ont ajoutée après le développement. Ils déterminent aussi si les utilisateurs reçoivent des informations utiles au bon moment.
Pour les travailleurs du savoir, l’échéance incite à préserver le contexte des sources à côté des contenus assistés par l’IA. Une base de connaissances IA consultable peut aider à conserver les fichiers originaux, les notes de révision et les décisions de publication.
Cette pratique n’établit pas à elle seule la conformité légale. Elle facilite néanmoins une vérification ultérieure lorsque le contenu passe par plusieurs personnes et outils.
Les développeurs devraient tester l’ensemble du chemin de sortie, et pas seulement le point de génération. Les acheteurs d’entreprise devraient exiger la preuve que la divulgation et la provenance survivent à une utilisation normale.
Les éditeurs devraient définir une relecture humaine significative et documenter la responsabilité éditoriale. Les utilisateurs d’IA devraient considérer les étiquettes comme des éléments de preuve sur l’origine, et non comme des jugements automatiques sur la véracité.
Après le 2 août, la question n’est plus de savoir si l’Europe souhaite la transparence de l’IA. Elle est de savoir si les produits, les plateformes et les organisations peuvent faire en sorte que cette transparence résiste au contact de l’internet réel.
