NVIDIA Nemotron 3.5 fait passer les agents ouverts des centres de données aux ordinateurs de bureau

NVIDIA a lancé le 15 octobre trois modèles Nemotron 3.5 couvrant 120 milliards de paramètres, le matériel de bureau et les appareils en périphérie. L’extension NVIDIA Nemotron 3.5 remet en question l’idée selon laquelle des agents performants et toujours actifs doivent dépendre de services cloud fermés.

Nemotron 3.5 Super VL gère le raisonnement, l’usage d’outils, le code, les images, les documents et la vidéo au sein d’un même modèle à poids ouverts. Nemotron 3.5 Bolt apporte des systèmes agentiques plus compacts à des matériels dotés de 24 Go ou 4 Go de mémoire. NVIDIA affirme que cette gamme offre aux organisations un modèle pour chaque niveau de déploiement, des centres de données aux appareils locaux.

L’affrontement central oppose désormais une infrastructure ouverte et contrôlable aux API de pointe fermées. NVIDIA ne prétend pas que chaque modèle local égale le meilleur service hébergé pour toutes les tâches. L’entreprise soutient que des agents spécialisés peuvent l’emporter grâce à la personnalisation, à une inférence moins coûteuse, au contrôle des données et à une intégration plus étroite avec les systèmes d’entreprise.

Cet argument s’appuie sur des éléments crédibles, mais il a aussi ses limites. Un test analytique indépendant a relevé une vitesse impressionnante et une analyse routinière compétente. Le même test a mis en évidence des échecs liés à des schémas cachés, à des données manquantes et à des pièges statistiques.

NVIDIA Nemotron 3.5 couvre trois niveaux de déploiement

NVIDIA a transformé Nemotron, d’une collection de modèles, en une échelle de déploiement pour des agents toujours actifs.

La publication de Nemotron présente Super VL aux côtés de deux variantes Bolt. Super VL et Bolt 74B-A9B sont devenus disponibles immédiatement. NVIDIA a prévu Bolt E4B pour le 23 octobre.

Super VL est un modèle mixture-of-experts de 120 milliards de paramètres. Une architecture mixture-of-experts n’active que certaines parties d’un réseau plus vaste pour chaque token. Super VL active 12 milliards de paramètres par token, réduisant le calcul tout en conservant l’accès à une capacité de modèle plus large.

Le modèle associe génération de texte, compréhension visuelle, raisonnement, suivi d’instructions, codage et usage d’outils. Il peut examiner des pages web, des PDF, des tableaux, des graphiques, des images et des vidéos sans transférer chaque entrée vers un système de vision distinct.

Cette combinaison importe pour les agents exécutés sur de longues périodes. Un agent de traitement des demandes d’indemnisation pourrait lire un document numérisé, comparer ses champs avec des règles de police et appeler un outil interne. Passer d’un modèle à l’autre peut accroître la latence et compliquer la gestion du contexte.

Super VL conserve au contraire ces étapes au sein d’un seul modèle multimodal. NVIDIA le positionne pour des flux de travail tels que l’analyse de documents financiers, l’ingénierie logicielle, le triage en cybersécurité, la recherche web et l’examen de vidéos.

Le modèle a été entraîné sur environ 26 000 milliards de tokens lors du préentraînement et du préentraînement continu. NVIDIA a ensuite utilisé environ 3,8 millions d’échantillons de post-entraînement et l’apprentissage par renforcement dans des dizaines d’environnements.

L’entreprise publie également des checkpoints, des jeux de données, des recettes d’entraînement, des supports d’évaluation et des environnements d’apprentissage par renforcement. Cet ensemble offre aux développeurs davantage que des poids de modèle téléchargeables. Il fournit les éléments nécessaires pour modifier le comportement du modèle dans un flux de travail spécialisé.

Bolt 74B-A9B vise un autre compromis opérationnel. Il contient 74 milliards de paramètres au total tout en en activant neuf milliards par token. Sa quantification native à 2 bits le compresse afin qu’il tienne dans 24 Go de mémoire.

La quantification stocke les valeurs du modèle avec une précision numérique inférieure, ce qui réduit les besoins en mémoire et en calcul. En contrepartie, une compression agressive peut dégrader la précision si l’entraînement ne la compense pas.

NVIDIA a conçu Bolt 74B-A9B pour fonctionner à côté d’autres applications sur des systèmes RTX pris en charge. L’entreprise cite la recherche web, la rédaction et le débogage de code parmi les tâches d’agents locaux visées.

Bolt E4B condense davantage le concept dans une empreinte de 4 Go. Il cible les agents conversationnels et physiques exécutés sur GeForce RTX, Jetson, DGX Spark ou des systèmes apparentés. Les usages suggérés comprennent les assistants vocaux, les personnages interactifs et les interfaces embarquées.

La gamme ainsi constituée ne demande pas à un seul checkpoint de servir toutes les charges de travail. Super VL cible les tâches multimodales complexes, Bolt 74B-A9B les agents locaux du quotidien et Bolt E4B les environnements en périphérie contraints.

Cette segmentation crée la tension centrale de l’article. NVIDIA parie que l’adéquation au déploiement peut compter autant qu’un unique score de classement. Les fournisseurs d’API fermées doivent répondre par une économie plus avantageuse, une personnalisation plus simple ou des avantages de fiabilité plus nets.

Pourquoi NVIDIA Nemotron 3.5 mise sur l’efficacité

Cette sortie concerne moins la réduction de taille d’un chatbot que l’augmentation du travail accompli par unité d’infrastructure.

La performance d’un agent ne peut pas être évaluée à la seule vitesse de génération des tokens. Un agent peut générer du texte rapidement tout en gaspillant des appels, en lisant un contexte inutile ou en choisissant les mauvais outils. Une efficacité utile inclut la précision, le temps de réponse, l’usage de la mémoire, les appels d’outils et le nombre d’étapes nécessaires pour terminer une tâche.

NVIDIA affirme que Super VL offre un débit jusqu’à cinq fois supérieur à celui de modèles ouverts comparables sur un seul GPU. Son analyse technique fait état de plus de 600 tokens de sortie par seconde via un endpoint hébergé dans les conditions évaluées.

Ces chiffres dépendent du matériel, de la pile de service, des charges de travail et du jeu de comparaison choisis par NVIDIA. Ils ne doivent pas être considérés comme des garanties universelles de performance. Ils montrent néanmoins comment l’entreprise souhaite que les acheteurs évaluent le modèle.

Super VL combine plusieurs mécanismes d’efficacité. Sa conception mixture-of-experts active 12 milliards de paramètres sur 120 milliards pour chaque token. Cela réduit le calcul actif sans limiter la capacité totale de connaissances à celle d’un réseau de 12 milliards de paramètres.

La prédiction multi-token permet à un générateur interne de proposer plusieurs tokens à vérifier au cours d’un même passage avant. L’acceptation de plusieurs tokens proposés réduit les calculs répétés pendant la génération.

NVIDIA a également développé LiLiCorr, une méthode de décodage spéculatif qui évalue les relations entre les tokens proposés. Le décodage spéculatif utilise un processus plus petit ou plus léger pour ébaucher le texte avant que le modèle principal ne le vérifie.

L’entreprise affirme que LiLiCorr peut accélérer la génération de tokens jusqu’à 2,3 fois sur DGX Spark par rapport à un décodage non spéculatif. Là encore, cette mesure décrit une configuration NVIDIA définie, et non toutes les installations.

Super VL utilise aussi NVFP4, un format numérique à 4 bits conçu pour le matériel NVIDIA Blackwell. La distillation consciente de la quantification entraîne le modèle compressé à imiter son équivalent de précision supérieure. NVIDIA fait état d’une récupération médiane de précision de 99,62 % sur 36 benchmarks évalués.

La fiche du modèle publiée montre que la compression n’affecte pas tous les benchmarks de manière identique. Certains résultats NVFP4 dépassent légèrement le checkpoint BF16, tandis que d’autres reculent. Cette variation rend les tests propres à chaque charge de travail essentiels.

L’efficacité dépend aussi du logiciel de service. NVIDIA affirme que sa configuration Dynamo peut prendre en charge jusqu’à huit fois plus d’utilisateurs avec une latence du premier token inférieure de 85 %. La mesure suppose un objectif d’interactivité de 50 tokens par seconde et par utilisateur.

Ces optimisations relient directement le modèle à l’activité plus large de NVIDIA dans le matériel et les logiciels. Les poids ouverts attirent les développeurs, tandis que le chemin validé le plus rapide pointe vers les GPU NVIDIA, les microservices NIM, les outils NeMo et le service Dynamo.

Cet alignement ne rend pas le modèle moins ouvert. Les développeurs peuvent télécharger et adapter ses poids. Toutefois, cette sortie montre comment un modèle ouvert peut malgré tout renforcer une plateforme verticalement intégrée.

Pour les acheteurs en entreprise, cette relation a deux facettes. Une combinaison matériel-logiciel prétestée peut raccourcir le travail de déploiement. Elle peut aussi approfondir la dépendance envers la pile d’optimisation d’un seul fournisseur.

Bolt précise ce calcul. Faire tenir un modèle d’agent performant dans 24 Go permet une utilisation locale sur une base matérielle bien plus large. Pourtant, la quantification native à 2 bits soulève aussi des questions plus difficiles sur la précision en codage, navigation, planification et longues conversations.

NVIDIA cite Bolt comme le principal modèle ouvert de sa catégorie PinchBench et le deuxième parmi les modèles ouverts sur BrowseComp. Ces résultats constituent des points de départ utiles, et non un substitut aux tests de déploiement avec de vrais outils et de vraies données.

La mesure pratique est le travail accompli correctement. Un modèle plus lent qui repère un enregistrement manquant peut avoir plus de valeur qu’un modèle rapide qui traite avec assurance de mauvaises données.

Les agents ouverts mettent la pression sur les API cloud fermées

Le défi le plus fort de NVIDIA ne réside pas dans l’intelligence brute ; il consiste à donner aux organisations le contrôle de l’endroit où un agent s’exécute et de son évolution.

Les services de pointe fermés offrent de solides performances générales et un accès API simple. Les fournisseurs gèrent la capacité, les mises à jour des modèles, les correctifs de sécurité et une grande partie de l’infrastructure de service. Cette commodité reste attrayante pour les équipes qui ne souhaitent pas exploiter elles-mêmes des modèles.

Cependant, les agents toujours actifs suscitent des préoccupations que l’usage ordinaire d’un chat ne soulève pas. Ils accèdent de façon répétée à des documents internes, exécutent des outils, conservent du contexte et prennent des décisions sur des flux de travail étendus. Chaque frontière supplémentaire entre systèmes crée un nouveau point où les autorisations, la latence ou le contexte peuvent échouer.

Les modèles à poids ouverts permettent aux organisations de conserver les charges de travail sensibles au sein d’une infrastructure approuvée. Elles peuvent aussi post-entraîner un modèle pour leur terminologie, leurs outils, leurs politiques et leurs procédures internes.

NVIDIA présente les services financiers, l’assurance, la santé, la sécurité et l’ingénierie comme des cibles initiales. Ces domaines combinent des données sensibles et des règles spécialisées. Un modèle généraliste peut comprendre le langage tout en gérant mal le processus réel de l’organisation.

Scale AI a post-entraîné Super VL pour le traitement du crédit fournisseur chez Skydance. NVIDIA indique que ce déploiement devrait réduire le coût d’inférence par 40 et la latence par cinq.

Ramp adapte le modèle pour convertir des images de reçus en enregistrements de transactions structurés. Selon NVIDIA, Ramp prévoit un débit jusqu’à 50 % supérieur et une latence dix fois plus faible pour ce flux de travail.

AI21 et Alice ont utilisé le post-entraînement pour le renseignement sur les menaces et l’analyse des vulnérabilités. NVIDIA rapporte une amélioration de précision de 41 % dans ce contexte spécialisé.

Il s’agit d’affirmations d’entreprises et de partenaires. Elles n’ont pas toutes été reproduites de manière indépendante sur des systèmes de production équivalents. Leur intérêt réside dans ce que la spécialisation peut viser, non dans l’établissement de gains universels.

La liste plus large des partenaires comprend Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce et Synopsys. Leurs cas d’usage couvrent la recherche en entreprise, la sécurité défensive, la simulation d’ingénierie, les flux de travail gouvernementaux et la vérification des semi-conducteurs.

C’est ici que la concurrence avec les API fermées devient concrète. Un modèle de pointe hébergé peut rester plus performant globalement tout en perdant sur un flux de travail étroitement défini. Le post-entraînement, la conception des outils, l’accès aux données et la vitesse de service peuvent l’emporter sur la domination des benchmarks généraux.

Les modèles ouverts offrent aussi davantage de contrôle sur le versionnage. Une entreprise peut tester un checkpoint, le figer et décider du moment où elle adoptera une mise à jour. Les services fermés peuvent modifier leur comportement par des révisions de modèles gérées par le fournisseur.

Le contrôle ne supprime pas la responsabilité opérationnelle. Les équipes doivent évaluer la sécurité, surveiller les résultats, corriger les composants de service, protéger les endpoints des modèles et entretenir les données d’entraînement. Des poids téléchargeables ne produisent pas automatiquement un agent d’entreprise fiable.

NVIDIA tente de combler cet écart avec NIM, son microservice d’inférence packagé. NIM fournit des configurations validées et un support d’entreprise, avec des mises à jour de sécurité et de performances prévues toutes les deux semaines.

Cela crée une offre hybride. Les poids, les jeux de données et les recettes sont ouverts, tandis que NVIDIA vend une voie optimisée pour les exploiter. Les entreprises peuvent choisir davantage d’indépendance ou un déploiement NVIDIA pris en charge.

Ce choix met les fournisseurs fermés sous pression pour expliquer ce que les clients reçoivent en échange d’un contrôle moindre. Les réponses peuvent inclure une précision supérieure, une exploitation plus simple, des tests de sécurité plus étendus et l’accès à des modèles plus grands.

NVIDIA doit prouver que la personnalisation ne se transforme pas en coûteux projet d’ingénierie. Un modèle spécialisé ne peut surpasser un service généraliste que si les équipes peuvent produire des données d’entraînement, des évaluations et des intégrations d’outils fiables.

Pour les agents intensifs en connaissances, ces évaluations devraient refléter l’environnement informationnel réellement utilisé par les employés. Les équipes qui construisent une base de connaissances interrogeable ont besoin de tests impliquant de vrais documents, des autorisations, des révisions et des éléments de preuve contradictoires.

Le résultat n’est pas une simple victoire des modèles ouverts ou fermés. NVIDIA a rendu la voie ouverte plus crédible en reliant l’efficacité des modèles, les outils de déploiement et la couverture matérielle. Les services fermés conservent un avantage lorsque les acheteurs privilégient la simplicité et des capacités étendues.

Des tests indépendants révèlent vitesse et angles morts

Super VL semble rapide sur des tâches d’analyse réalistes, mais cette vitesse provient parfois de l’examen d’un volume moindre d’éléments de preuve.

Les affirmations de NVIDIA nécessitent une évaluation indépendante, car les benchmarks des fournisseurs reflètent souvent des configurations matérielles et des définitions de tâches favorables. Un test tiers de Plotly offre à la fois une confirmation et un avertissement utile.

Plotly a évalué Super VL sur un examen privé d’analyse de données utilisant un jeu de données synthétique sur l’énergie éolienne. Le modèle a réussi 30 questions sur 43, pour un score global de 70 %. Il a répondu à une question type en 12 secondes, le résultat le plus rapide parmi les 28 modèles testés.

Le benchmark analytique couvrait l’analyse courante, les demandes impossibles, les questions ambiguës, les pièges statistiques, les problèmes de qualité des données et les motifs cachés. Garder l’examen privé réduit la probabilité que des réponses aient figuré dans les données d’entraînement.

Super VL a répondu correctement à 19 des 20 questions d’analyse conventionnelle. Il a traité des opérations SQL à plusieurs étapes, des jointures temporelles et des intervalles fusionnés avec de solides performances dès la première tentative.

Il a également rejeté les cinq demandes impossibles. Ce comportement est important, car des agents d’entreprise utiles doivent reconnaître lorsque les données disponibles ne permettent pas d’étayer une réponse.

Le modèle a résolu quatre des cinq questions ambiguës. Dans un exemple, il a défini les mois comptés comme hivernaux avant de comparer les performances saisonnières des turbines. Cette réponse a montré une gestion judicieuse d’une demande insuffisamment spécifiée.

Les échecs étaient plus révélateurs. Super VL n’a détecté aucun des trois problèmes de qualité des données introduits volontairement. Il n’a pas non plus trouvé les cinq motifs cachés qui nécessitaient une investigation exploratoire.

Dans une tâche, le modèle n’a pas remarqué qu’un jeu de données ne contenait pas le dernier jour d’un mois. Il a également manqué une semaine de relevés absents en résumant un trimestre de températures d’équipements.

Le modèle n’a réussi que deux des cinq questions comportant des pièges statistiques. Il a parfois accepté une relation globale sans vérifier si une autre variable expliquait les deux effets observés.

Ces lacunes remettent en cause l’idée qu’une exécution plus rapide des tâches indique toujours un meilleur agent. Plotly a constaté que Super VL effectuait environ quatre appels au modèle et lisait approximativement 150 000 tokens par question.

Nemotron 3 Ultra a effectué davantage d’appels et examiné nettement plus de contexte. L’approche plus légère de Super VL a amélioré le temps de réponse, mais a aussi réduit les occasions de découvrir des problèmes dissimulés.

C’est la principale incertitude entourant la stratégie NVIDIA Nemotron 3.5. L’efficacité peut améliorer l’économie d’agents continus. Elle peut aussi encourager les systèmes à cesser leurs recherches avant d’avoir réuni suffisamment d’éléments de preuve.

Le problème est particulièrement grave lorsque l’utilisateur ne sait pas quoi demander. Un modèle peut répondre correctement à une requête précise tout en omettant d’identifier l’enregistrement manquant ou le motif suspect qui modifie la décision.

Les propres évaluations de NVIDIA présentent une vision plus favorable. L’entreprise indique que Super VL obtient 63,44 % sur Hermes Bench et 87,05 % dans les évaluations LangChain. Nemotron 3 Ultra a obtenu respectivement 56,33 % et 84,3 %, selon les configurations rapportées.

NVIDIA indique également un score de 80,8 % sur CharXiv, un benchmark de raisonnement sur graphiques. L’utilisation de l’interprétation de code Python a porté ce résultat à 84 %. Selon l’entreprise, le modèle se classe près du sommet du classement OCRBench v2 des modèles ouverts.

Ces résultats et les conclusions de Plotly peuvent tous être vrais. Les benchmarks isolent différentes capacités, architectures d’agents, politiques d’outils et comportements d’arrêt. Un agent peut exceller dans l’interprétation de graphiques tout en échouant à vérifier si un jeu de données est complet.

Les équipes de déploiement devraient donc tester l’ensemble du flux de travail, et non seulement le checkpoint. Elles ont besoin d’évaluations portant sur la récupération des données, le choix des outils, la reprise après erreur, la couverture des sources et la vérification de la réponse finale.

Les agents à forts enjeux peuvent nécessiter des étapes d’inspection explicites. Un flux de travail financier peut obliger le système à vérifier le nombre d’enregistrements, les intervalles manquants, les lignes dupliquées et les valeurs contradictoires avant de produire une conclusion.

La même règle s’applique aux agents de recherche. Une réponse rapide a moins de valeur si l’agent ignore des documents primaires ou ne fait pas ressortir des éléments de preuve contradictoires. L’évaluation doit récompenser une investigation complète, et pas seulement une réponse fluide.

Les matériaux ouverts d’entraînement et d’évaluation de Super VL facilitent l’examen de tels tests. L’ouverture ne garantit pas la fiabilité, mais elle donne aux équipes techniques davantage de latitude pour étudier et modifier les comportements d’échec.

Nemotron 3.5 Bolt apporte la compétition au matériel local

Bolt teste si une autonomie utile des agents peut coexister avec les applications quotidiennes, plutôt que de résider exclusivement dans un cluster cloud.

Le modèle Bolt de 24GB est important car ce niveau de mémoire est accessible au-delà des centres de données. NVIDIA affirme qu’il fonctionne sur les PC GeForce RTX, DGX Spark, DGX Station, les stations de travail RTX PRO et les futurs ordinateurs portables RTX Spark.

L’exécution locale modifie la relation entre un agent et ses données. Les documents, le code, les images et l’état des applications peuvent rester sur l’appareil au lieu d’être transférés vers un endpoint de modèle hébergé.

Cette configuration peut réduire le délai réseau et prendre en charge une utilisation hors ligne. Elle peut aussi simplifier certaines exigences de résidence des données, même si l’exploitation locale ne supprime pas les obligations de sécurité ou de conformité.

Un agent de programmation local pourrait inspecter un dépôt privé, exécuter des outils de développement et suggérer des modifications sans transmettre le dépôt à un fournisseur externe de modèles. Un agent de recherche pourrait organiser les documents stockés sur la station de travail.

Bolt E4B étend cette idée aux interfaces embarquées. Sa cible de 4GB prend en charge des appareils pour lesquels un modèle de 24GB serait peu pratique. NVIDIA décrit les assistants vocaux, les personnages interactifs et les agents physiques comme des charges de travail visées.

Cette empreinte réduite s’accompagne d’une limite de capacité attendue. On ne peut pas supposer qu’un modèle conversationnel de 4GB égale un système multimodal de 120 milliards de paramètres en matière de planification complexe.

La gamme de NVIDIA traite cette différence comme une décision de routage. Le modèle de périphérie gère les conversations immédiates ou les actions simples. Super VL prend en charge le raisonnement plus lourd, l’analyse visuelle et le travail à plusieurs étapes.

Cette architecture peut conserver les interactions courantes en local tout en faisant remonter les tâches difficiles vers une infrastructure plus importante. Elle introduit aussi des défis de coordination concernant les autorisations, le transfert de contexte et la cohérence du comportement entre les modèles.

Les développeurs doivent décider quel modèle traite chaque demande. Un mauvais routage peut envoyer du travail privé vers le cloud, surcharger le modèle plus grand ou confier une tâche complexe à un modèle de périphérie insuffisant.

La compatibilité matérielle mérite également un examen attentif. Super VL fonctionne sur les systèmes de centres de données et locaux de NVIDIA, mais ses voies d’optimisation les plus agressives privilégient les architectures NVIDIA récentes. Les performances peuvent différer sur les GPU plus anciens ou les appareils non-NVIDIA.

La prise en charge par llama.cpp, Ollama, LM Studio, Unsloth et vLLM élargit l’accès à Bolt 74B-A9B. Ces intégrations facilitent l’expérimentation locale et réduisent la dépendance à une seule interface de serving.

Toutefois, l’expérience opérationnelle comptera davantage que les listes de compatibilité. Les développeurs jugeront le temps de démarrage, la stabilité mémoire, la vitesse de génération soutenue, l’appel d’outils, la gestion du contexte et la précision après compression.

La stratégie de bureau de NVIDIA profite également à sa feuille de route matérielle. Un agent convaincant de 24GB donne aux clients une raison supplémentaire d’acheter des systèmes RTX riches en mémoire. L’IA locale devient une catégorie d’applications susceptible de stimuler la demande matérielle.

Cette incitation n’invalide pas le logiciel. Elle explique pourquoi NVIDIA investit simultanément dans les poids des modèles, les bibliothèques d’inférence, les outils de développement et les appareils.

Le test le plus important consiste à déterminer si les agents locaux restent utiles une fois que les applications réelles consomment une partie de la mémoire disponible. Bolt est censé fonctionner aux côtés d’autres logiciels, et non occuper une machine de benchmark autrement vide.

Les développeurs devraient également examiner la température, la consommation électrique et la stabilité lors de longues sessions. Un modèle toujours actif a des exigences différentes d’une courte démonstration. Un système qui réduit sa fréquence après une utilisation prolongée peut effacer son avantage initial de vitesse.

Les affirmations relatives à la confidentialité exigent une attention égale. Garder l’inférence en local réduit les transferts de données, mais un agent peut toujours exposer des informations par les journaux, les plugins, les outils réseau ou des autorisations mal limitées.

L’exploitation locale transfère la responsabilité vers le propriétaire de l’appareil. Les équipes doivent sécuriser les fichiers du modèle, les identifiants des outils, le contexte stocké et les artefacts générés. Elles ont également besoin d’un processus de mise à jour fiable.

Si Bolt gère correctement ces conditions, il élargira le marché des agents privés. S’il ne fonctionne bien que dans des benchmarks étroits, les utilisateurs locaux continueront de s’appuyer sur des services cloud pour les travaux sérieux.

Trois signaux détermineront si le pari de NVIDIA fonctionne

La prochaine phase dépend de la fiabilité indépendante, de performances locales soutenues et d’une adoption visible en production.

Le premier signal sera un élargissement des tests de Super VL et Bolt sur des benchmarks d’agents indépendants. Les résultats devraient couvrir l’exécution complète des tâches, et pas seulement la génération de tokens ou les réponses à des questions isolées.

Les preuves les plus solides proviendraient d’évaluations répétées utilisant différentes architectures d’agents, configurations matérielles et politiques d’outils. Des résultats cohérents renforceraient l’argument de NVIDIA sur l’efficacité. D’importantes variations de performances montreraient que la recette de serving contribue autant que le modèle.

Les tests devraient aussi mesurer la profondeur d’investigation. Les conclusions de Plotly montrent pourquoi la détection des données manquantes et le comportement exploratoire doivent être évalués au même titre que la vitesse et la précision. Un agent qui exécute davantage de tâches rapidement peut tout de même créer un risque s’il néglige des éléments de preuve.

Le deuxième signal sera la performance de Bolt sur de vrais systèmes de 24GB après le déploiement d’octobre. Les développeurs devraient surveiller l’utilisation de la mémoire, la vitesse soutenue, la coexistence avec les applications et la qualité avec la configuration 2-bit publiée.

De solides résultats locaux valideraient l’affirmation de NVIDIA selon laquelle le travail agentique quotidien ne nécessite plus un cluster distant. Une utilisation faible des outils ou des longues sessions instables réduiraient le rôle de Bolt à une assistance légère.

Bolt E4B fournira un autre test de limite utile. Sa valeur dépend de la capacité d’un modèle de 4GB à maintenir un comportement cohérent sur plusieurs tours tout en appelant des outils et en répondant rapidement sur des appareils de périphérie.

Le troisième signal sera constitué de preuves de production fournies par des partenaires nommés. NVIDIA a identifié de nombreuses organisations qui testent ou personnalisent Super VL. La prochaine étape consiste en un déploiement mesurable au-delà des expérimentations annoncées.

Des preuves utiles incluraient les volumes de travail effectivement traités, les améliorations vérifiées de précision, la latence opérationnelle, les taux d’escalade et les exigences de relecture humaine. Les études de cas devraient comparer le modèle spécialisé au système qu’il remplace dans des conditions similaires.

L’adoption par les partenaires révélerait également à quel point le post-entraînement est difficile en pratique. NVIDIA fournit des modèles, des jeux de données, des outils NeMo et des recettes d’évaluation. Les entreprises doivent toujours fournir les données métier, les politiques, les intégrations et la gouvernance.

Les fournisseurs de modèles fermés ne resteront pas immobiles. Ils peuvent réduire la latence, ajouter des options de déploiement privé, améliorer le routage des modèles et offrir des contrôles plus robustes pour les données d’entreprise.

Leur réponse déterminera si les agents ouverts deviennent une catégorie d’achat distincte ou restent une option pour les équipes techniquement avancées. NVIDIA a réduit l’écart de commodité, mais ne l’a pas éliminé.

La sortie de NVIDIA Nemotron 3.5 établit un éventail crédible, allant des agents multimodaux pour centres de données aux assistants locaux compacts. Ses preuves les plus solides concernent l’efficacité et la facilité de déploiement, plutôt qu’une supériorité incontestée.

Les développeurs et les acheteurs devraient désormais tester un flux de travail représentatif de bout en bout. Mesurez si l’agent identifie les éléments de preuve manquants, utilise les bons outils et produit un résultat correct sous une charge soutenue. Cette évaluation répondra à la question à laquelle les classements de modèles ne peuvent répondre : un agent ouvert et spécialisé accomplit-il votre travail de manière plus fiable qu’une API fermée pratique ?