Groq, Rivos, Cerebras : faut-il miser sur les nouvelles puces d’IA ?

Les processeurs graphiques, ou GPU, ont permis l’essor spectaculaire de l’intelligence artificielle générative. Ils ne sont pourtant plus les seuls à prétendre exécuter les modèles les plus exigeants. À la date du 18 octobre 2024, des entreprises comme Groq, Cerebras et Rivos cherchent à imposer des architectures conçues autour de besoins plus ciblés : répondre très vite à une requête de chatbot, entraîner de très grands réseaux de neurones, ou réduire la dépense énergétique des centres de données.

Cette effervescence ne signifie pas qu’il faut remplacer à marche forcée les GPU déjà installés. Une puce d’IA n’est pas un produit interchangeable comme peut l’être un ordinateur portable. Son intérêt dépend du modèle utilisé, du volume de requêtes, des contraintes de délai de réponse, des outils logiciels disponibles et, surtout, de la capacité de l’entreprise à faire évoluer son infrastructure. La bonne question n’est donc pas seulement « quelle puce est la plus puissante ? », mais « quelle architecture améliore réellement notre usage de l’IA ? ».

Pourquoi les puces spécialisées attirent autant

Un modèle d’IA passe principalement par deux phases de calcul. L’entraînement consiste à lui faire analyser d’immenses jeux de données afin d’ajuster ses paramètres. C’est une opération longue, coûteuse et particulièrement gourmande en puissance de calcul. L’inférence, elle, correspond au moment où le modèle est utilisé : produire la réponse d’un assistant conversationnel, classer une image, détecter une anomalie ou générer du texte.

Les GPU excellent dans le calcul parallèle. Cette polyvalence explique leur succès : ils peuvent servir à entraîner de nombreux modèles et à exécuter une grande variété de charges de travail. Mais une telle flexibilité a un coût. Certains calculs récurrents, notamment l’inférence d’un grand modèle de langage, peuvent être optimisés par un processeur conçu pour un enchaînement précis d’opérations.

C’est la promesse des accélérateurs spécialisés, souvent désignés par les termes ASIC ou processeurs dédiés. Ils cherchent à limiter les détours inutiles dans les échanges de données, à rapprocher la mémoire du calcul et à utiliser l’énergie plus efficacement. En contrepartie, ils peuvent être moins souples lorsqu’un modèle, un format de données ou une bibliothèque logicielle change.

Groq cible la vitesse de réponse des modèles

La société californienne Groq s’est placée sur le terrain de l’inférence, c’est-à-dire l’exécution des modèles déjà entraînés. En août 2024, l’entreprise a annoncé une levée de fonds de 640 millions de dollars. Ce financement illustre l’intérêt des investisseurs pour des solutions capables de servir les modèles de langage à très grande vitesse.

Groq appelle son architecture LPU, pour Language Processing Unit. L’idée est de privilégier un chemin de calcul très prévisible afin de réduire la latence, ce délai entre la demande de l’utilisateur et le début de la réponse. Pour un assistant client, un outil de programmation ou une application de traduction en direct, quelques secondes de moins peuvent modifier fortement l’expérience perçue.

La vitesse affichée par une plateforme ne suffit néanmoins pas à trancher. Une entreprise doit regarder le modèle précis qui est exécuté, la longueur des requêtes, le nombre d’utilisateurs simultanés et la qualité de l’intégration dans son application. Une réponse qui commence instantanément, mais dont le coût par requête est trop élevé ou qui impose de revoir toute la chaîne logicielle, ne constitue pas forcément un avantage économique.

Cerebras fait le pari de la puce géante

Cerebras a choisi une voie très différente. Son approche repose sur une puce de très grande taille, gravée sur une tranche de silicium entière plutôt que découpée en nombreuses puces plus petites. L’objectif est de réunir sur un même composant une quantité massive de calcul et de mémoire, afin de limiter certains échanges entre processeurs qui ralentissent l’entraînement des très grands modèles.

En septembre 2024, Cerebras a déposé auprès du régulateur boursier américain son projet d’introduction en Bourse. Le document indique un chiffre d’affaires de 78,7 millions de dollars en 2023, contre 24,6 millions de dollars en 2022, soit plus de trois fois plus en un an. Il ne s’agit donc pas d’une entreprise déjà introduite en Bourse au 18 octobre 2024, mais d’un groupe qui a engagé cette procédure.

Les systèmes de Cerebras s’adressent surtout aux organisations confrontées à des besoins considérables d’apprentissage profond : laboratoires, fournisseurs de modèles ou grandes entreprises qui entraînent des réseaux très volumineux. Cette conception radicale peut éviter une partie de la complexité liée à l’assemblage d’un très grand nombre de GPU. Elle implique toutefois une infrastructure spécifique et une vérification minutieuse de la compatibilité avec les modèles et les outils employés.

Rivos veut concilier calcul de centre de données et sobriété

Moins visible auprès du grand public, Rivos est un autre acteur suivi de près dans le matériel pour l’IA. La jeune entreprise a obtenu 250 millions de dollars de financement en 2024. Son projet concerne des processeurs pour centres de données s’appuyant notamment sur l’architecture ouverte RISC-V.

RISC-V ne désigne pas une puce prête à l’emploi, mais un jeu d’instructions ouvert, c’est-à-dire un langage de base que les concepteurs de processeurs peuvent utiliser et adapter. À l’inverse d’une architecture intégralement contrôlée par une seule entreprise, cette approche ouvre la voie à davantage de personnalisation. Pour les centres de données, l’enjeu est de concevoir des composants performants sans laisser la facture électrique progresser au même rythme que les besoins de calcul.

Rivos attire donc l’attention par la perspective d’une efficacité énergétique accrue et d’une plus grande maîtrise de la conception matérielle. Mais, pour un acheteur, une levée de fonds n’est pas encore une garantie de disponibilité industrielle, de support durable ou de performances mesurées sur son propre cas d’usage. Les promesses d’architecture doivent être confrontées à un test concret.

Trois stratégies matérielles, trois usages possibles

Les acteurs cités ne proposent pas une simple variante d’un même produit. Ils s’attaquent à des points différents de la chaîne de calcul de l’IA.

Le principal concurrent de ces nouveaux venus demeure Nvidia, dont les GPU sont au cœur de nombreux centres de données d’IA. La force de Nvidia ne tient pas à ses seules puces : l’entreprise bénéficie aussi d’un vaste écosystème logiciel et d’habitudes de développement bien installées. Nvidia a notamment noué un partenariat avec Foxconn autour d’infrastructures d’IA et de ce que les entreprises appellent des usines d’IA, des centres de calcul destinés à entraîner et exploiter des modèles.

Intel, les fournisseurs de cloud et plusieurs fabricants de puces développent également leurs propres alternatives. Cette concurrence est structurante : elle peut diversifier l’offre, rendre les clients moins dépendants d’un seul fournisseur et pousser chaque acteur à améliorer le rapport entre performances, énergie et coût.

Les gains annoncés doivent être comparés au coût total

L’achat ou la location de calcul ne représente qu’une part de la décision. Passer à une nouvelle architecture exige souvent d’adapter les logiciels, de former les équipes, de modifier le déploiement des modèles et de prévoir l’exploitation quotidienne. La performance d’une puce dépend aussi de sa mémoire, des interconnexions, du stockage, du réseau et de la qualité du compilateur qui traduit le modèle en instructions utilisables par le matériel.

Une évaluation sérieuse commence donc par un prototype, sur un périmètre restreint. Il faut mesurer les indicateurs qui comptent réellement :

• le délai de réponse perçu par l’utilisateur ;
• le nombre de requêtes ou d’unités de données traitées par seconde ;
• le coût complet pour une requête, un entraînement ou un service ;
• la consommation électrique rapportée au travail réellement accompli ;
• le temps nécessaire pour porter, surveiller et mettre à jour le logiciel.

Il est également essentiel de distinguer les démonstrations techniques des conditions de production. Un résultat peut être excellent sur un modèle donné et moins convaincant sur une autre version, avec des requêtes plus longues ou une charge plus irrégulière. Les entreprises ont intérêt à demander des tests reproductibles sur leurs données et leurs cas d’usage, sans extrapoler un benchmark isolé à l’ensemble de leurs activités.

Compatibilité, logiciels et dépendance : les critères souvent oubliés

Dire qu’une nouvelle puce est « compatible » avec une infrastructure existante est insuffisant. La compatibilité doit être examinée à plusieurs niveaux : formats de modèles, bibliothèques d’apprentissage, conteneurs, outils de surveillance, sécurité, gestion des identités et procédures de secours. Plus un matériel se distingue, plus la question du logiciel devient déterminante.

Le risque de verrouillage fournisseur mérite une attention particulière. Lorsqu’un modèle ne fonctionne efficacement qu’avec un compilateur, un service cloud ou une pile logicielle propriétaire, changer de prestataire peut devenir coûteux. Ce risque n’est pas propre aux jeunes pousses : il existe aussi avec les plateformes les plus établies. Il est toutefois plus sensible lorsqu’un produit est récent, qu’un fournisseur n’a pas encore une longue histoire de déploiements ou que l’offre matérielle reste limitée.

Pour réduire cette dépendance, une organisation peut conserver des formats de modèles portables, documenter ses procédures de déploiement, prévoir une solution de repli et répartir certains usages entre plusieurs fournisseurs. Les logiciels libres peuvent aussi faciliter l’audit et l’adaptation, sans faire disparaître à eux seuls les contraintes de matériel.

La Chine cherche aussi ses alternatives aux puces américaines

La course aux accélérateurs d’IA dépasse les entreprises américaines. En Chine, des groupes comme Huawei et Baidu développent des composants et des plateformes destinés à réduire la dépendance envers les technologies étrangères. Huawei met notamment en avant sa famille de puces Ascend, tandis que Baidu travaille sur ses propres accélérateurs Kunlun.

Cette dynamique répond à un enjeu industriel et géopolitique. Les restrictions américaines sur l’exportation de certaines puces avancées vers la Chine renforcent l’incitation à construire des alternatives locales. Pour les entreprises qui achètent des capacités de calcul, cette fragmentation du marché peut multiplier les options, mais aussi compliquer les choix de compatibilité, de chaîne d’approvisionnement et de support international.

Ce qu’il faut surveiller avant d’adopter une nouvelle puce d’IA

Les nouvelles puces spécialisées peuvent être particulièrement intéressantes dans trois situations : un service exigeant une faible latence, un volume d’inférence massif et prévisible, ou un projet d’entraînement assez important pour justifier une infrastructure dédiée. À l’inverse, une équipe qui expérimente plusieurs modèles, change fréquemment de méthodes ou dispose d’un volume limité aura souvent intérêt à privilégier la souplesse des GPU et du cloud.

Dans les prochains mois, plusieurs éléments permettront de juger la solidité des challengers : la disponibilité effective de leurs systèmes, la maturité de leurs logiciels, les retours de clients en production, leur capacité à fabriquer à grande échelle et la stabilité de leur financement. Les comparaisons devront aussi intégrer la consommation énergétique, devenue un facteur à la fois économique et environnemental pour les centres de données.

La compétition entre Groq, Cerebras, Rivos, Nvidia et les autres fabricants ne se résumera pas à une course aux chiffres. Les gagnants seront les architectures qui permettront aux entreprises d’obtenir, pour un usage précis, un résultat mesurable : des réponses plus rapides, un entraînement plus efficace, une facture maîtrisée et une infrastructure qui reste évolutive.