NVIDIA évalue la mémoire HBM3E de Samsung, un test décisif pour l’IA

Dans les centres de données dédiés à l’intelligence artificielle, la puissance de calcul ne suffit plus. Les processeurs graphiques doivent être nourris en continu par d’immenses volumes de données, à un rythme que les mémoires conventionnelles ne peuvent pas toujours assurer. C’est dans ce contexte que NVIDIA évalue les mémoires HBM3E de Samsung, une étape industrielle scrutée de près par toute la filière des semi-conducteurs.

L’enjeu dépasse la seule relation entre deux groupes. NVIDIA domine le marché des accélérateurs destinés à entraîner et exécuter des modèles d’IA, tandis que Samsung cherche à renforcer sa position dans la mémoire à très haut débit. Si les composants du conglomérat sud-coréen remplissent les exigences de NVIDIA, celui-ci disposerait potentiellement d’une source d’approvisionnement supplémentaire. Samsung, de son côté, pourrait réduire l’avance prise par ses rivaux dans un segment devenu stratégique.

Ce que NVIDIA examine chez Samsung

NVIDIA, entreprise dirigée par Jensen Huang, mène des tests sur les mémoires HBM3E à 8 et 12 couches conçues par Samsung. HBM signifie High Bandwidth Memory, soit mémoire à large bande passante. Il s’agit de puces de mémoire vive empilées verticalement, puis intégrées au plus près du processeur de calcul dans un même assemblage avancé.

Le nombre de couches désigne ici le nombre de puces de mémoire superposées. Une pile à 12 couches peut notamment loger davantage de mémoire qu’une pile à 8 couches, à architecture comparable. Mais ce chiffre ne résume pas à lui seul les performances finales : la rapidité, la consommation électrique, la stabilité thermique et la capacité à fonctionner durablement dans un système complet comptent tout autant.

Les essais menés par NVIDIA ne se limitent donc pas à vérifier qu’une puce fonctionne isolément. Pour être utilisée dans un accélérateur d’IA, une mémoire doit démontrer sa fiabilité dans des conditions de charge soutenues, sa compatibilité avec le conditionnement électronique du produit et sa capacité à répondre à des critères industriels précis. Samsung a rapporté des progrès significatifs dans ses tests de qualité, ce qui ouvre la voie à une fourniture potentielle de mémoire haut débit à NVIDIA.

Il faut toutefois distinguer évaluation et certification. Le fait que NVIDIA analyse les composants de Samsung ne signifie pas encore qu’un feu vert commercial définitif a été donné, ni que des volumes de livraison ont été décidés. Dans l’industrie des puces, les procédures de validation peuvent être longues, car une défaillance de mémoire peut affecter tout un serveur d’IA.

Pourquoi la mémoire HBM est si importante pour l’intelligence artificielle

Les modèles d’IA modernes effectuent un très grand nombre de calculs sur des paramètres et des données stockés en mémoire. À chaque opération, l’accélérateur doit accéder rapidement à ces informations. Si la mémoire ne suit pas, le processeur se retrouve partiellement en attente, même s’il dispose d’une puissance de calcul considérable.

La HBM répond à ce problème par une architecture différente des barrettes mémoire utilisées dans les ordinateurs classiques. Les puces sont empilées et reliées par des connexions verticales très courtes. Cette proximité avec le processeur permet d’augmenter fortement les échanges de données tout en limitant, dans certaines configurations, l’énergie nécessaire à ces transferts.

Dans les infrastructures d’IA, la demande porte à la fois sur la vitesse et sur la capacité. Entraîner un grand modèle, servir des réponses à de nombreux utilisateurs ou analyser de vastes ensembles de données impose de conserver beaucoup d’informations accessibles près des unités de calcul. C’est pourquoi les générations de mémoire HBM sont devenues un facteur de différenciation pour les fabricants de puces, les fondeurs et les entreprises qui construisent des centres de données.

Pour NVIDIA, la qualification de plusieurs fournisseurs potentiels est également un sujet de résilience industrielle. Les accélérateurs d’IA associent de nombreux éléments complexes : processeur graphique, mémoire, interconnexions, alimentation et assemblage avancé. Un goulot d’étranglement sur l’un de ces composants peut limiter les livraisons de l’ensemble du système.

Samsung face à SK Hynix et Micron

La démarche de Samsung intervient dans un marché particulièrement disputé. SK Hynix et Micron sont eux aussi engagés dans la course aux mémoires adaptées aux charges de travail d’intelligence artificielle. Les fabricants ne se concurrencent pas seulement sur la capacité de production : ils doivent aussi gagner la confiance des concepteurs d’accélérateurs et satisfaire des exigences techniques de plus en plus élevées.

Une éventuelle qualification de la HBM3E de Samsung par NVIDIA pourrait donc modifier les équilibres entre fournisseurs. Elle donnerait à Samsung l’opportunité de s’inscrire plus fortement dans la chaîne de valeur des infrastructures d’IA. Pour NVIDIA, elle pourrait élargir les options disponibles pour équiper ses produits, alors que la demande mondiale pour les capacités de calcul spécialisées reste très forte.

Cette compétition ne se joue pas uniquement sur les performances brutes. Les industriels doivent livrer des volumes importants, maintenir une qualité constante d’un lot à l’autre, maîtriser le rendement de fabrication et coordonner la mémoire avec les technologies de conditionnement les plus avancées. Une puce rapide sur le papier ne devient un avantage commercial que si elle peut être produite de façon fiable et intégrée à grande échelle.

La prochaine étape s’appelle HBM4

Samsung ne concentre pas ses efforts sur la seule HBM3E. Le groupe développe également la HBM4, présentée comme sa prochaine génération de mémoire à haute bande passante. La production de masse est prévue pour 2025, selon les informations disponibles au 24 novembre 2024.

Cette feuille de route illustre le rythme imposé par le marché de l’IA. Alors qu’une génération de mémoire est encore en phase de validation chez un client potentiel, la suivante est déjà en préparation. Pour Samsung, la HBM4 représente l’occasion de démontrer sa capacité à progresser dans la hiérarchie technologique du secteur et à proposer des composants adaptés aux futures plateformes de calcul.

La transition entre générations ne se résume pas à un changement de nom. Elle implique généralement de nouveaux défis de conception, d’empilement, de dissipation de chaleur et de fabrication. Dans ce domaine, le calendrier annoncé compte beaucoup, mais la réussite dépendra aussi de la capacité à atteindre les critères de qualité requis par les grands clients.

Les discussions entre Samsung et OpenAI, un dossier distinct

En parallèle du dossier mémoire, Samsung et OpenAI discutent d’une possible intégration de fonctions d’intelligence artificielle dans les smartphones Galaxy. Ces échanges pourraient avoir des conséquences sur la compétition des assistants et des services d’IA mobiles, mais ils constituent un sujet distinct de l’évaluation des mémoires HBM3E par NVIDIA.

Pour Samsung, l’intérêt est clair : les fonctions d’IA deviennent un argument central dans les smartphones haut de gamme, qu’il s’agisse d’assistance à l’écriture, de traduction, de recherche ou de traitement d’images. Pour OpenAI, une présence plus directe dans les appareils mobiles pourrait renforcer la concurrence avec Google, qui occupe déjà une place importante dans les fonctions d’IA des appareils Galaxy.

Le développement de SearchGPT et d’autres outils d’OpenAI nourrit cette rivalité autour de la recherche et des assistants. Toutefois, au 24 novembre 2024, les discussions évoquées avec Samsung ne permettent pas de conclure à un accord commercial définitif ni de prédire quelles fonctions seraient effectivement intégrées aux téléphones Galaxy. Elles signalent surtout que les fabricants de terminaux cherchent à multiplier leurs partenariats dans l’IA.

Altera, autre signe de recomposition dans les puces

Le secteur des semi-conducteurs est aussi traversé par des mouvements capitalistiques. Lattice Semiconductor envisage la possibilité d’acquérir l’activité de puces programmables d’Intel, connue sous le nom d’Altera. Lattice, dont la capitalisation boursière atteint alors 7,48 milliards de dollars, étudie cette option avec l’appui potentiel de sociétés de capital-investissement.

Intel avait acquis Altera pour environ 17 milliards de dollars en 2015. Le groupe préférerait vendre une participation minoritaire dans cette activité plutôt que s’en séparer totalement. Les discussions se poursuivent et aucune offre concrète n’est alors annoncée. Il reste donc incertain que Lattice, ou un autre investisseur, formule une proposition aboutissant à une transaction.

Les puces programmables d’Altera ne répondent pas exactement aux mêmes besoins que la mémoire HBM. Elles peuvent être reconfigurées pour accomplir certaines tâches spécifiques, ce qui les rend utiles dans des équipements réseau, industriels ou de télécommunications. Mais ce dossier, comme la course à la HBM, témoigne d’une même tendance : face à l’essor de l’IA et des infrastructures numériques, les acteurs cherchent à consolider ou à renforcer leurs positions dans les composants jugés stratégiques.

Ce qu’il faut surveiller dans les prochains mois

Le premier élément à suivre sera l’issue des tests de NVIDIA sur les HBM3E de Samsung. Une qualification complète constituerait une étape commerciale importante pour le fabricant coréen, tout en élargissant potentiellement les possibilités d’approvisionnement de NVIDIA. À l’inverse, un allongement du processus laisserait davantage de temps aux concurrents déjà présents sur ce marché pour consolider leur position.

Le deuxième indicateur concernera l’exécution de la feuille de route HBM4 de Samsung en 2025. Dans une industrie où les cycles de conception et de production sont longs, la capacité à tenir le calendrier annoncé peut peser sur les choix des grands clients de l’IA.

Enfin, les discussions autour d’OpenAI et des smartphones Galaxy, comme l’avenir d’Altera chez Intel, rappellent que la bataille de l’IA ne se limite pas aux seuls processeurs graphiques. Elle se joue simultanément dans la mémoire, les équipements de calcul, les téléphones, les logiciels et les opérations de consolidation. La qualification d’une puce HBM est ainsi un événement technique précis, mais aussi un révélateur des rapports de force qui redessinent l’industrie mondiale des semi-conducteurs.