Nemotron 70B : ce que vaut le modèle de Nvidia face à GPT-4o et Claude

Nvidia ne se contente plus de fournir les processeurs graphiques qui font tourner une grande partie de l’intelligence artificielle générative. Le groupe veut aussi démontrer qu’il peut produire des modèles capables de rivaliser avec les assistants les plus commentés du marché. En octobre 2024, son modèle Llama-3.1-Nemotron-70B-Instruct est ainsi présenté avec des résultats ambitieux face à GPT-4o d’OpenAI et Claude 3.5 Sonnet d’Anthropic.

Cette annonce mérite toutefois une mise au point. Sous les appellations Nemotron et NVLM, Nvidia désigne plusieurs familles de modèles aux objectifs distincts. L’une est avant tout conçue pour le langage et le dialogue, l’autre pour comprendre ensemble du texte et des images. Cette différence est essentielle pour interpréter correctement les comparaisons de performances, notamment en reconnaissance visuelle et en lecture de documents.

Nemotron 70B : le modèle de dialogue mis en avant par Nvidia

Le modèle au centre de l’annonce est Llama-3.1-Nemotron-70B-Instruct. Comme son nom l’indique, il s’appuie sur Llama 3.1, la famille de modèles publiée par Meta, puis a été adapté par Nvidia afin de mieux répondre à des consignes écrites et de tenir une conversation. Son ordre de grandeur est de 70 milliards de paramètres.

Les paramètres sont les valeurs numériques ajustées pendant l’entraînement d’un réseau de neurones. Ils représentent la capacité interne du modèle à repérer des régularités dans d’immenses corpus de textes et de code. Un nombre élevé de paramètres peut contribuer à de bonnes performances, mais il ne constitue pas, à lui seul, un gage de qualité. Les données utilisées, le travail de post-entraînement, les règles de sécurité et la manière dont un modèle répond aux instructions comptent tout autant.

Nemotron 70B vise donc des tâches familières aux utilisateurs d’assistants conversationnels : rédiger et résumer un texte, répondre à une question, produire ou expliquer du code, raisonner sur une consigne structurée, ou encore servir de socle à un chatbot d’entreprise. Son intérêt pour Nvidia est stratégique : proposer aux développeurs un modèle performant, utilisable dans leurs propres environnements, tout en s’appuyant sur l’écosystème matériel et logiciel du groupe.

Que signifie la comparaison avec GPT-4o et Claude 3.5 Sonnet ?

Nvidia indique que son modèle surpasse GPT-4o et Claude 3.5 Sonnet sur certains benchmarks de conversation et de suivi d’instructions. Ces résultats placent Nemotron 70B parmi les modèles ouverts les plus compétitifs de son segment, à un moment où les assistants propriétaires d’OpenAI et d’Anthropic constituent des références largement utilisées.

Il faut néanmoins éviter de transformer ce constat en classement absolu. Un benchmark mesure un ensemble précis de questions, avec un protocole donné. Il peut évaluer la préférence d’un juge humain ou automatisé entre deux réponses, la fidélité à une instruction, la qualité de la rédaction, le raisonnement ou la résolution de problèmes. Il ne résume pas toutes les situations qu’un utilisateur rencontrera au quotidien.

Par exemple, un assistant peut être particulièrement convaincant dans un dialogue créatif, mais moins fiable lorsqu’il faut citer une information récente, traiter un document très long, respecter un format complexe ou répondre dans une langue peu présente dans ses données d’entraînement. Les résultats communiqués par l’éditeur sont utiles pour situer un modèle, mais ils doivent être complétés par des essais sur les cas d’usage réels d’une organisation.

La prudence est d’autant plus importante que GPT-4o et Claude 3.5 Sonnet sont des produits ou des modèles propriétaires, dont les versions accessibles au public, les réglages et les fonctionnalités peuvent évoluer. Comparer des modèles, c’est toujours comparer des configurations et des dates précises.

Nemotron, NVLM et Nemotron-4 : des noms proches, des modèles différents

La communication autour de Nvidia peut prêter à confusion car plusieurs modèles aux noms semblables coexistent. Nemotron-4 340B, Llama-3.1-Nemotron-70B-Instruct et NVLM ne désignent pas un seul et même système.

Nemotron-4 340B appartient à une précédente famille de modèles Nvidia dont l’appellation renvoie à 340 milliards de paramètres, et non à 70 milliards. Le modèle de 70 milliards de paramètres mis en avant en octobre est Llama-3.1-Nemotron-70B-Instruct. Il est destiné au texte, au code et à la conversation.

Les capacités de compréhension d’images, de reconnaissance visuelle et d’OCR, c’est-à-dire de lecture automatique de texte présent dans une image ou un document numérisé, se rattachent en revanche à NVLM, pour NVIDIA Large Multimodal Model. Nvidia a présenté une variante de 72 milliards de paramètres dans cette famille multimodale.

Un modèle multimodal reçoit plusieurs types de contenus en entrée. Il peut par exemple analyser la photographie d’un tableau, répondre à une question sur un graphique, transcrire le texte d’une facture ou décrire les étapes représentées dans un schéma. Il ne se contente donc pas de transformer des mots en réponse : il doit relier les éléments visuels à la consigne textuelle de l’utilisateur.

Pourquoi les modèles multimodaux intéressent les entreprises

La multimodalité ouvre des usages qui dépassent le chatbot classique. Dans une interface de support, elle peut aider à interpréter une capture d’écran envoyée par un client. Dans un outil documentaire, elle peut faciliter l’extraction d’informations depuis des documents scannés. Dans l’éducation, elle pourrait assister la lecture d’un schéma ou proposer une explication associant texte et illustration.

Nvidia met également en avant la prise en charge de plus de 50 langues naturelles et de 40 langages de programmation pour ses travaux autour de NVLM. Cette couverture peut être utile aux équipes internationales et aux développeurs qui travaillent avec des langages moins courants. Mais la disponibilité d’une langue ne garantit pas une qualité égale pour chacune d’elles. Dans l’IA générative, les langues disposant de moins de données d’entraînement peuvent être davantage exposées aux maladresses, aux contresens ou à une maîtrise inégale des expressions locales.

La lecture d’images et de textes imprimés reste aussi une tâche imparfaite. Une image floue, un document incliné, une écriture manuscrite, un tableau dense ou des termes techniques peuvent dégrader le résultat. Pour un usage à enjeu élevé, notamment lorsqu’un document conditionne une décision administrative, financière ou médicale, une vérification humaine demeure indispensable.

Des poids accessibles, mais pas une absence de règles

Nvidia a choisi de rendre accessibles les modèles et les ressources associées à ses travaux. Cette ouverture présente un intérêt concret pour les chercheurs, les startups et les équipes techniques : ils peuvent expérimenter le modèle, l’évaluer sur leurs données et, dans certains cas, l’adapter à un domaine particulier plutôt que d’envoyer toutes leurs requêtes vers une interface distante.

Cette approche est souvent décrite comme « open source », mais l’expression mérite d’être précisée. Dans l’univers des grands modèles de langage, l’ouverture peut concerner les poids du modèle, le code d’inférence, les jeux de données, les recettes d’entraînement ou seulement une partie de ces éléments. Les conditions de licence déterminent par ailleurs les possibilités de redistribution, de modification et d’exploitation commerciale.

Pour une entreprise, l’accès aux poids n’efface pas les contraintes de déploiement. Un modèle de 70 ou 72 milliards de paramètres exige d’importantes ressources de calcul et de mémoire, particulièrement lorsqu’il doit répondre rapidement à de nombreux utilisateurs. Il faut aussi prévoir la sécurisation des données, la surveillance des réponses, des mécanismes de modération et une méthode pour mettre le système à jour.

L’ouverture peut néanmoins favoriser une IA plus personnalisable. Une organisation peut faire évaluer le modèle dans sa langue de travail, tester son comportement sur ses documents et définir des garde-fous correspondant à ses procédures. Cette liberté s’accompagne d’une responsabilité accrue : celle de mesurer les erreurs avant de placer l’outil dans un processus critique.

Ce qu’il faut surveiller après l’annonce

La percée revendiquée par Nvidia illustre une évolution importante du marché : les modèles accessibles aux développeurs réduisent l’écart avec les systèmes propriétaires sur certaines évaluations de référence. La compétition ne se joue plus uniquement sur la taille des modèles, mais sur leur efficacité, leur spécialisation, leur coût d’exécution, leur capacité à fonctionner avec du texte et des images, et la facilité avec laquelle ils peuvent être intégrés dans des produits.

Pour Nemotron 70B, la question centrale sera celle de la robustesse hors des benchmarks : sa qualité demeure-t-elle élevée dans des conversations longues, des contextes métiers exigeants et des langues variées ? Pour NVLM, il faudra observer les performances sur des documents réels, souvent bien moins propres que les images utilisées dans les démonstrations, ainsi que les garanties apportées contre les erreurs d’interprétation.

Enfin, Nvidia se retrouve dans une position singulière. L’entreprise est à la fois un fournisseur majeur de l’infrastructure qui entraîne les grands modèles et un éditeur de modèles qui veut s’imposer dans les usages. En rendant ses familles Nemotron et NVLM accessibles, elle ne propose pas seulement une alternative technique à GPT-4o ou Claude 3.5 Sonnet. Elle cherche aussi à renforcer un écosystème où logiciels, modèles et matériel Nvidia sont étroitement liés.