top of page

L’observabilité OpenTelemetry de Claude arrive dans Databricks MLflow et met en lumière les échecs des agents

il y a 20 minutes
13 min de lecture

L’observabilité OpenTelemetry de Claude se connecte désormais nativement à Databricks MLflow, révélant des détails d’exécution qu’une réponse finale convaincante peut masquer. OpenTelemetry est une norme ouverte permettant d’enregistrer et d’échanger l’activité des applications. L’intégration offre aux développeurs un moyen supplémentaire d’enquêter sur les agents qui négligent des éléments probants, répètent des tâches ou terminent avec une réponse incomplète.

Databricks a annoncé cette destination prise en charge le 3 novembre 2026. Anthropic avait présenté sa capacité élargie de traçage natif en bêta publique le 14 octobre. Cette distinction compte : il s’agit d’une intégration Databricks au sein d’un système d’exportation plus vaste, et non d’un accord de supervision exclusif.

La tension centrale porte sur la manière dont les équipes évaluent les performances des agents. Une réponse soignée montre ce qu’un agent a livré. Un enregistrement d’exécution aide à expliquer comment il y est parvenu. Langfuse, Grafana et d’autres plateformes d’observabilité occupent déjà ce terrain. Databricks positionne MLflow, sa plateforme de développement et d’évaluation, comme un espace où relier ces éléments probants à l’enquête et aux tests ultérieurs.

L’observabilité OpenTelemetry de Claude ajoute une destination Databricks native

Selon Databricks, les développeurs peuvent envoyer des enregistrements d’exécution Claude natifs vers MLflow depuis les bibliothèques de développement Anthropic, l’API Messages et Claude Managed Agents. Une API est une interface que les applications utilisent pour demander un service. Les Managed Agents sont des agents hébergés par Anthropic qui exécutent des tâches.

L’intégration de traçage natif utilise Zerobus Ingest, le service d’ingestion de Databricks, pour recevoir les enregistrements. Unity Catalog, son système de gouvernance des données, les stocke dans des tables associées à une expérience MLflow.

Ce changement offre à l’activité de Claude une voie directe vers un environnement d’enquête d’entreprise existant.

Une trace enregistre une exécution, tandis qu’un span représente une opération individuelle au sein de cet enregistrement. Les requêtes au modèle et l’activité des outils peuvent apparaître sous forme de spans distincts. Leurs relations permettent à un enquêteur de suivre la séquence à l’origine d’une réponse.

Pour une équipe de développement, cette séquence modifie le point de départ d’une discussion de débogage. Au lieu de demander à quelqu’un de reconstituer de mémoire une interaction défaillante, l’équipe peut examiner l’activité enregistrée. Cela n’établit pas automatiquement le bon diagnostic. Cela donne au diagnostic un élément concret à traiter.

La distinction devient particulièrement utile lorsqu’une réponse semble raisonnable. Une erreur manifeste déclenche immédiatement une enquête. Une réponse plausible peut passer inaperçue même lorsque l’agent a négligé une source décisive ou consacré des efforts inutiles à collecter des informations.

Prenons l’exemple hypothétique d’un assistant de recherche interne préparant une mise à jour produit. Son résumé final contient un contexte exact, mais omet une note de version récente. La seule lecture du résumé laisse plusieurs explications possibles. L’assistant n’a peut-être jamais trouvé le document, en a mal compris le contenu ou a écarté la découverte lors de la rédaction de sa réponse.

Un enregistrement d’exécution aide à distinguer ces possibilités. Chaque explication oriente vers une intervention différente. Modifier les consignes de rédaction aura peu d’effet si l’étape de récupération n’a jamais présenté le document pertinent.

C’est là l’importance opérationnelle de l’annonce. L’exportation native réduit la distance entre une interaction avec un agent et les outils utilisés pour l’examiner. Les équipes doivent toujours décider quel comportement constitue un échec.

L’intégration fixe également une limite claire autour de l’annonce. Elle ne présente ni un nouveau modèle Claude, ni un score de référence supérieur, ni une amélioration de fiabilité mesurée de manière indépendante. Sa contribution immédiate concerne la collecte et l’accès aux éléments probants.

C’est une affirmation plus restreinte qu’une intelligence améliorée, mais elle répond à une faiblesse pratique du déploiement d’agents. Les équipes ne peuvent pas améliorer systématiquement des comportements qu’elles peinent à examiner.

Les responsables d’agents sont soumis à la pression d’expliquer les réponses acceptables

La pression immédiate pèse sur les développeurs et les responsables produit qui approuvent des agents pour des workflows réels. Leur responsabilité dépasse la question de savoir si une réponse semble utile. Ils doivent expliquer les informations manquées, le travail gaspillé et les échecs qui n’apparaissent qu’après le déploiement.

Le traçage natif élève le niveau de preuve disponible pour ces décisions.

Une démonstration présente généralement une interaction sélectionnée. La production introduit des questions variées, des documents incomplets, des outils changeants et des demandes ambiguës. Un agent qui traite correctement un exemple familier peut néanmoins rencontrer des difficultés lorsque les conditions environnantes évoluent.

Cela crée un problème de gestion autant que d’ingénierie. Les responsables produit doivent distinguer une limite tolérable d’un défaut récurrent. Les développeurs ont besoin d’éléments suffisants pour reproduire le défaut. Les experts métier doivent identifier ce que la réponse aurait dû contenir.

Sans enregistrement partagé, ces groupes peuvent ne pas se comprendre. Un évaluateur signale qu’une réponse semble incomplète. Un ingénieur constate qu’une requête a réussi. Un chef de produit voit un utilisateur ayant terminé le workflow. Chaque observation peut être exacte tout en laissant le problème sous-jacent non résolu.

Le traçage des agents Claude offre un objet commun à cette conversation. L’équipe peut examiner une exécution particulière et relier les retours à ce qui s’est réellement passé. La valeur réside dans le fait de rendre le désaccord suffisamment précis pour pouvoir l’examiner.

Le lancement de l’observabilité des agents d’Anthropic inclut des témoignages de clients issus d’organisations utilisant différentes plateformes de supervision. Foxglove décrit l’analyse des interactions avec les agents aux côtés de l’activité produit dans PostHog. FloQast décrit la connexion entre l’activité des modèles et les workflows comptables dans Grafana Cloud.

Ces témoignages illustrent des priorités différentes. Une équipe produit en robotique veut comprendre où l’assistance ne répond pas aux attentes. Une équipe chargée de workflows financiers veut disposer d’un compte rendu défendable de ce qu’un agent a fait. Ces deux besoins vont au-delà de la vérification du texte final.

Ils restent des déclarations de clients présentées par Anthropic, plutôt que des évaluations indépendantes de l’intégration Databricks. Ils établissent des cas d’usage pertinents sans établir un résultat commercial universel.

Pour les travailleurs du savoir, le même problème apparaît lorsqu’un résumé sert de base à une autre décision. Une nuance manquante peut se retrouver dans un document de planification, une réponse client ou une discussion d’ingénierie. Un langage fluide peut rendre cette omission difficile à déceler.

Les équipes qui organisent une base de connaissances consultable font face à une question connexe : quels documents étayent la réponse ? Les opérateurs d’agents doivent également examiner si le système a accédé à ces documents et les a utilisés de manière appropriée.

La pression est donc concrète. Toute personne qui élargit les responsabilités d’un agent a besoin d’un moyen crédible d’examiner les échecs et de prioriser les corrections. L’exportation native facilite le lancement de cet examen. Elle n’élimine pas le jugement nécessaire pour décider si l’agent mérite davantage de responsabilités.

Le mécanisme relie les preuves d’exécution à l’évaluation

Le mécanisme important est le lien entre le comportement enregistré et une décision de développement reproductible. Collecter l’activité a une valeur limitée si les éléments probants ne modifient jamais la façon dont une équipe enquête sur son agent ou le teste.

L’analyse des traces MLflow devient utile lorsqu’une observation se transforme en explication testable.

Imaginez un agent de recherche hypothétique qui ouvre à plusieurs reprises un document avant de produire un résumé incomplet. L’accès répété est un comportement visible. Sa cause reste à déterminer. L’agent peut manquer d’une règle d’arrêt, recevoir des résultats d’outils incohérents ou avoir de bonnes raisons de revisiter des informations changeantes.

Considérer chaque lecture répétée comme un gaspillage reviendrait à réduire ces explications à un raccourci trompeur. Un enquêteur doit comprendre si l’opération répétée a apporté des éléments utiles. La correction souhaitée dépend de cette distinction.

Une enquête utile relie donc un comportement observé à un résultat attendu. L’équipe doit pouvoir expliquer ce qui s’est mal passé, pourquoi la modification proposée y répond et quels éléments contrediraient cette explication.

Databricks documente la détection de problèmes récurrents via MLflow Issues, une capacité bêta alimentée par Genie Code, son assistant de programmation. Le système analyse l’activité enregistrée et regroupe les éléments en problèmes à examiner.

La documentation décrit également des moniteurs qui établissent une référence à partir de traces récentes et évaluent des échantillons d’activité entrante. Un évaluateur est une fonction qui juge un comportement ou un résultat spécifié.

Ces capacités soutiennent une boucle de développement, mais ne doivent pas être prises pour une garantie automatique. Un détecteur de problèmes propose une manière utile de regrouper les observations. Un évaluateur opérationnalise une définition. Aucun des deux ne supprime la nécessité de vérifier que cette définition correspond à la tâche réelle.

Par exemple, une évaluation qui récompense un nombre réduit d’appels d’outils peut encourager des réponses prématurées. Une meilleure évaluation prendrait en compte le travail inutile autant que l’exhaustivité. Sinon, une amélioration apparente de l’efficacité pourrait simplement refléter une enquête moins approfondie.

Le même raisonnement s’applique à la vitesse de réponse. Une exécution plus rapide est utile lorsque la réponse satisfait toujours la demande. Si un agent ignore une source importante, l’exécution plus courte peut masquer une régression de qualité.

Maintenir la tâche et les critères d’évaluation constants aide à rendre les comparaisons interprétables. Une équipe peut demander si des instructions révisées améliorent le comportement problématique sans affaiblir des exigences non liées. C’est plus instructif que de comparer des exemples sans rapport issus de versions différentes.

L’expertise humaine reste nécessaire partout où l’exactitude dépend du contexte. Un spécialiste du domaine peut identifier une exception manquante ou expliquer pourquoi une action apparemment redondante était justifiée. Ces jugements aident à éviter qu’une évaluation automatisée récompense le mauvais comportement.

L’implication produit est que l’observabilité et l’évaluation doivent appartenir à la même conversation de développement. Les preuves d’exécution expliquent un résultat. L’évaluation vérifie si une correction proposée tient sur des tâches représentatives.

Pour les acheteurs, la question pertinente est donc plus large que celle de savoir si une plateforme affiche des traces attrayantes. Il s’agit de savoir si l’équipe peut passer d’une interaction défaillante à une modification justifiée, puis en examiner les conséquences.

Les normes ouvertes déplacent la comparaison vers le workflow et la gouvernance

La conception de l’exportation d’Anthropic donne à cette annonce un contexte concurrentiel. L’activité de Claude peut atteindre plusieurs destinations d’observabilité. Databricks doit donc rivaliser sur ce qui se passe après l’arrivée des enregistrements.

Une norme d’exportation partagée fait du workflow d’enquête un point de comparaison plus significatif.

L’intégration OpenTelemetry de MLflow documente à la fois l’ingestion et l’export au moyen de cette norme. Elle prend également en charge des conventions partagées pour décrire l’activité d’IA générative. Ces conventions fournissent aux systèmes compatibles des noms et des structures communs pour les informations pertinentes.

Cela offre une alternative à une approche où chaque intégration de modèle devient un projet de supervision isolé. Une équipe peut réfléchir à la manière dont l’activité des modèles s’inscrit aux côtés des autres éléments de preuve de son application.

La compatibilité des protocoles ne rend toutefois pas les produits concurrents interchangeables. Un enregistrement d’exécution requiert toujours une interface utile, des contrôles d’accès adaptés, des évaluations compréhensibles et une place dans le travail quotidien de l’équipe. Ces exigences peuvent l’emporter sur la commodité de l’export initial.

Langfuse, Grafana Cloud et PostHog figurent dans le matériel de lancement d’Anthropic à travers des exemples clients. Leur présence montre que les équipes abordent l’observabilité des agents depuis des points de départ différents. Certaines commencent par l’évaluation de l’IA, d’autres par la supervision de l’infrastructure ou l’analytique produit.

L’argument particulier de Databricks concerne sa proximité avec les données et la gouvernance d’entreprise. Pour une organisation qui analyse déjà des informations opérationnelles dans cet environnement, les enregistrements d’agents peuvent devenir un jeu de données supplémentaire intégré à des processus familiers.

La documentation sur son stockage Unity Catalog indique que l’accès aux traces suit les autorisations de schéma et de table. Les utilisateurs ayant accès à ces tables peuvent consulter leurs traces dans les expériences associées. Ce détail mérite attention lors d’un examen des accès.

La documentation permet également d’interroger les enregistrements stockés via SQL, un langage utilisé pour récupérer et analyser des données structurées. Les équipes data disposent ainsi d’une autre voie pour examiner l’activité des agents parallèlement aux informations qu’elles gèrent déjà.

L’attrait analytique est évident. Une équipe produit peut vouloir relier un schéma de défaillance à un flux de travail ou à une version précise de l’application. La question organisationnelle plus difficile est de savoir si les métadonnées pertinentes sont enregistrées et comprises de manière cohérente.

Un format ouvert ne peut pas, à lui seul, apporter cette discipline. Les équipes ont toujours besoin d’identifiants pertinents, d’une responsabilité clairement définie et d’un accord sur les comparaisons valides. Sinon, une collection d’enregistrements plus vaste peut reproduire la confusion de journaux dispersés.

Il existe aussi une différence entre la flexibilité du transport et la portabilité organisationnelle. Déplacer des spans entre systèmes compatibles est un problème. Recréer des habitudes d’examen, des critères d’évaluation et des dispositifs de gouvernance en est un autre.

Cela limite les affirmations générales sur l’indépendance vis-à-vis d’un fournisseur. Un protocole ouvert réduit un obstacle particulier à l’intégration. Les acheteurs devraient néanmoins examiner dans quelle mesure leur processus d’enquête dépend de fonctionnalités propres à une plateforme.

La conclusion concurrentielle est pratique plutôt que spectaculaire. L’export natif de Claude réduit l’importance de la collecte propriétaire à elle seule. La comparaison la plus solide porte sur l’efficacité avec laquelle chaque destination aide ses utilisateurs à parvenir à une décision de développement et à la vérifier.

Le statut bêta et les enregistrements incomplets limitent ce que les traces établissent

La réserve la plus importante tient à l’écart entre la collecte d’éléments de preuve et l’établissement d’une amélioration. L’annonce documente des capacités et des exemples. Elle ne fournit pas d’étude indépendante montrant comment l’intégration Databricks modifie la fiabilité des agents.

Une trace étaye une enquête ; elle ne certifie pas que l’enquête est terminée.

La publication de Databricks contient une précision particulièrement utile. Sa démonstration d’incident récurrent a été rédigée manuellement, et la détection automatisée des incidents n’a pas été exécutée pour cet exemple. L’illustration doit donc être lue comme une démonstration de flux de travail.

Cette précision n’invalide pas la fonctionnalité sous-jacente. Elle limite ce que l’exemple établit. Les lecteurs peuvent voir la présentation prévue des échecs associés sans considérer l’image comme une preuve de la précision de détection automatique.

Une distinction similaire s’applique aux diagnostics générés par machine. Une explication convaincante d’une exécution échouée reste une explication à évaluer. Les enquêteurs devraient vérifier si les éléments enregistrés l’étayent et si des explications concurrentes demeurent plausibles.

La couverture constitue une autre limite. Anthropic distingue l’activité enregistrée par son service de celle enregistrée au sein de l’application d’un développeur. Un agent peut impliquer les deux environnements, rendant différentes parties de l’exécution visibles au moyen d’instrumentations distinctes.

Pour un acheteur, la question pertinente est de savoir si l’enregistrement couvre les opérations importantes pour la tâche. Un compte rendu détaillé de l’activité du modèle peut encore laisser une incertitude concernant un outil local ou une source d’information en amont.

La documentation de traçage API d’Anthropic distingue également l’export de métadonnées uniquement de l’export de contenu complet. Les métadonnées décrivent l’activité sans nécessairement inclure les prompts, les réponses ou le contenu des outils nécessaires à un diagnostic plus approfondi.

La collecte de contenu complet introduit une décision correspondante de gestion des données. La documentation explique que les informations livrées résident chez la destination choisie, selon les règles de conservation et les contrôles d’accès de ce service. L’export mérite donc la même attention que les autres transferts d’informations sensibles sur l’application.

La livraison elle-même ne constitue pas un historique infaillible. Anthropic documente une livraison selon les meilleurs efforts et la possibilité de spans en double. L’entreprise explique également que les spans perdus ne peuvent pas être renvoyés.

L’implication est importante pour les constats négatifs. L’absence d’une opération n’établit pas automatiquement que l’agent ne l’a jamais exécutée. Les enquêteurs doivent prendre en compte la couverture et la livraison avant de tirer cette conclusion.

Ces limites suggèrent une distinction utile entre les éléments de débogage et des affirmations d’assurance plus fortes. Les traces peuvent aider à expliquer une interaction particulière. Les affirmations sur une auditabilité complète, une détection cohérente ou de meilleurs résultats commerciaux exigent des preuves supplémentaires.

Les acheteurs devraient également distinguer la disponibilité native de la préparation opérationnelle. Une destination prise en charge ne signifie pas que chaque équipe s’est accordée sur la conservation, l’accès des réviseurs, la responsabilité des enquêtes ou l’escalade. Ces décisions déterminent si la capacité devient une pratique courante.

Le scepticisme approprié est précis. Demandez ce qui a été enregistré, ce qui a été omis, comment le problème a été identifié et comment la correction proposée a été testée. Ces questions évaluent la promesse sans écarter sa valeur pratique.

Surveiller la couverture, les corrections vérifiées et l’adoption au-delà des démonstrations

Au cours des prochains mois, les signaux les plus informatifs concerneront la couverture, les améliorations vérifiées et l’utilisation durable. Chacun traite une partie différente de l’affirmation selon laquelle l’export natif facilite l’exploitation des agents.

Les preuves les plus solides relieront une défaillance visible à une correction qui résiste à des charges de travail représentatives.

Premièrement, observez si les équipes démontrent des enregistrements cohérents à travers l’activité des modèles hébergés par le service et leurs propres outils applicatifs. Une enquête devient plus utile lorsqu’elle suit l’opération qui a produit la réponse, plutôt qu’un fragment isolé.

La preuve de cette continuité renforcerait l’argument pratique en faveur de l’observabilité Claude OpenTelemetry. Des rapports d’enregistrements déconnectés ou d’omissions inexpliquées réduiraient les situations dans lesquelles les équipes peuvent s’y fier.

Ce signal devrait être évalué au travers d’exemples de flux de travail réels. Un export réussi confirme que des informations ont atteint une destination. Une enquête utile montre que les informations ont répondu à une question opérationnelle que l’équipe peinait auparavant à résoudre.

Deuxièmement, recherchez des corrections documentées accompagnées de critères d’évaluation stables. Un compte rendu crédible devrait expliquer la défaillance initiale, l’intervention et le comportement observé par la suite. Il devrait aussi traiter les conséquences au-delà du symptôme ciblé.

Un agent de recherche qui cesse de répéter des lectures mais commence à manquer des résultats importants a échangé un défaut contre un autre. Un rapport utile examinerait les deux résultats. Ces éléments étayeraient la boucle de développement décrite par Databricks.

Une reproduction indépendante renforcerait davantage l’affirmation. Les démonstrations des fournisseurs peuvent établir le comportement prévu, tandis que des retours externes peuvent révéler comment le flux de travail traite des conditions moins sélectionnées. Les deux formes de preuves ont de la valeur lorsque leur portée reste claire.

Troisièmement, observez si les organisations intègrent l’enquête et l’examen dans leurs opérations ordinaires. L’utilisation continue compte davantage que la décision initiale d’activer l’export. Les équipes ont besoin d’une personne responsable de l’examen des résultats et de la décision sur le moment où un changement justifie une mise en production.

Des preuves d’adoption concrètes décriraient comment un problème a traversé ce processus. Elles identifieraient les réviseurs concernés, expliqueraient la réponse de développement et montreraient comment l’équipe a vérifié le comportement ultérieur.

Cela renforcerait l’argument selon lequel l’analyse de traces MLflow contribue à la maintenance continue des agents. Une collection de captures d’écran impressionnantes sans suivi laisserait le bénéfice opérationnel moins établi.

Pour les développeurs, l’annonce offre un moment utile pour reconsidérer ce qui qualifie une exécution d’agent comme réussie. Une réponse qui semble correcte est une observation. Un compte rendu justifié de la manière dont l’agent a fonctionné soutient un niveau de confiance différent.

Pour les acheteurs d’entreprise, la décision correspondante concerne l’adéquation au flux de travail. La gouvernance existante, l’expertise des réviseurs et les habitudes d’enquête devraient influencer le choix de destination au même titre que la connectivité native. La meilleure preuve est un problème résolu que votre équipe reconnaît.

Commencez par une tâche d’agent dont l’échec importe et dont le résultat attendu peut être expliqué par un expert métier. Examinez si l’observabilité Claude OpenTelemetry expose suffisamment l’exécution pour distinguer un problème de récupération d’un problème de raisonnement ou d’outil. Demandez ensuite si la correction proposée améliore des cas représentatifs sans écarter le travail nécessaire. Gardez les éléments de preuve liés à la tâche d’origine, plutôt qu’à une démonstration plus propre préparée après coup. Cette approche donne au traçage natif un objectif concret et rend les comparaisons de plateformes plus utiles. Lorsqu’un agent produit une réponse qui semble juste, votre équipe peut-elle expliquer quels éléments de preuve il a pris en compte, où son processus a échoué et pourquoi la prochaine version mérite davantage de confiance ?

 
 

Commencez pour Gratuit

Un premier assistant IA local avec gestion des connaissances personnelles

Pour une meilleure expérience IA,

remio ne supporte que Windows 10+ (x64) et M-Chip Macs actuellement.

Votre partenaire IA au travail
Faites-en plus avec remio

Planifiez. Créez. Livrez.
Tout au même endroit.

bottom of page