OpenAI et Broadcom préparent une puce pour accélérer l’inférence en IA

À mesure que les assistants conversationnels, les générateurs d’images et les services d’IA entrent dans les usages quotidiens, le défi ne consiste plus seulement à entraîner des modèles toujours plus puissants. Il faut aussi répondre rapidement, des millions de fois, aux requêtes des utilisateurs. C’est sur cette seconde étape, appelée l’inférence, qu’OpenAI chercherait à innover avec le spécialiste des semi-conducteurs Broadcom.

Selon des sources proches du dossier, les deux entreprises collaborent au développement d’une puce spécialisée destinée à exécuter les modèles d’intelligence artificielle une fois leur entraînement terminé. Le projet pourrait également s’appuyer sur Taiwan Semiconductor Manufacturing Co, plus connu sous le nom de TSMC, pour la fabrication. À ce stade, aucune fiche technique, aucun calendrier de production et aucune date de déploiement n’ont été rendus publics.

L’enjeu dépasse la seule conception d’un nouveau composant. Pour OpenAI, dont les services doivent absorber un volume considérable de demandes, disposer d’un matériel mieux adapté à certains calculs pourrait améliorer l’efficacité de son infrastructure. C’est aussi une manière de diversifier ses options dans un marché des puces pour l’IA largement dominé par Nvidia.

Une puce pensée pour le moment où l’IA répond

Pour comprendre l’intérêt de cette collaboration, il faut distinguer deux grandes phases dans la vie d’un modèle d’IA.

La première est l’entraînement. Durant cette étape, le modèle analyse des quantités massives de données afin d’ajuster ses paramètres. Ces opérations demandent une puissance de calcul considérable et sont généralement réalisées dans de grands centres de données, avec de très nombreux processeurs travaillant de concert.

La seconde est l’inférence. Elle intervient lorsqu’un modèle déjà entraîné reçoit une consigne et fournit un résultat : répondre à une question, résumer un document, écrire du code, traduire une phrase ou produire une image. Pour un utilisateur de ChatGPT ou d’un autre service comparable, c’est la partie visible de l’IA.

Une puce dédiée à l’inférence ne vise donc pas nécessairement à remplacer tous les composants utilisés pour entraîner l’IA. Elle cherche plutôt à optimiser une partie précise de la chaîne de calcul : l’exécution répétée des modèles au moment où ils sont sollicités.

Cette précision est importante. Un service d’IA populaire peut recevoir des requêtes en continu. Même si chaque réponse individuelle ne demande qu’une fraction des ressources mobilisées pendant l’entraînement, la répétition de ces calculs à très grande échelle devient une question industrielle majeure. Réduire le temps nécessaire à chaque réponse, ou les ressources consommées pour la générer, peut avoir des effets significatifs sur l’exploitation d’un service.

Pourquoi OpenAI s’intéresse à une puce sur mesure

Les processeurs graphiques, ou GPU, ont joué un rôle central dans l’essor de l’intelligence artificielle moderne. Initialement conçus pour effectuer de nombreux calculs en parallèle, notamment pour l’affichage graphique, ils se sont révélés particulièrement efficaces pour les opérations mathématiques nécessaires aux réseaux de neurones.

Nvidia occupe une position dominante dans cette infrastructure. Ses GPU sont largement utilisés pour entraîner les modèles et les faire fonctionner dans les centres de données. Mais les GPU restent des composants polyvalents : ils peuvent convenir à de nombreux types de calculs, sans être nécessairement optimisés pour chaque tâche particulière.

C’est là qu’intervient l’idée d’une puce spécialisée. En concevant un circuit pour une famille de traitements bien définie, une entreprise peut chercher à mieux ajuster l’architecture matérielle aux besoins de ses logiciels. Dans le cas évoqué pour OpenAI, la cible serait l’inférence des modèles d’IA, avec l’objectif d’exécuter les demandes des utilisateurs de manière efficace et avec une faible latence.

La latence désigne le délai entre l’envoi d’une requête et le début de la réponse. Dans un chatbot ou un outil de génération, ce délai joue directement sur la perception du service. Une IA très capable mais lente peut sembler moins utile qu’un système un peu moins ambitieux qui répond sans attendre.

GPU et puce d’inférence : deux logiques complémentaires

La comparaison entre un GPU et une puce spécialisée ne doit pas être comprise comme une opposition absolue. Les entreprises qui développent de l’IA utilisent souvent plusieurs types de processeurs selon leurs besoins. Les GPU peuvent servir à l’entraînement, aux phases de recherche, aux tâches changeantes ou aux modèles nouveaux. Une puce plus spécialisée peut être envisagée pour des charges de travail devenues stables et répétitives.

L’intérêt potentiel est double. D’un côté, le matériel peut être davantage adapté aux caractéristiques des modèles utilisés par l’entreprise. De l’autre, la société réduit son exposition à un seul fournisseur de composants dans un contexte où l’accès aux capacités de calcul est devenu stratégique.

Cela ne veut pas dire qu’une puce personnalisée est une solution simple ou immédiate. Concevoir un circuit intégré demande des équipes spécialisées, des outils de conception, des phases de validation exigeantes et l’accès à des procédés de fabrication avancés. Une erreur de conception peut entraîner des retards coûteux, car la production physique du composant intervient tard dans le processus.

Le rôle potentiel de Broadcom et de TSMC

Le partenariat envisagé réunit trois compétences différentes dans la chaîne des semi-conducteurs. OpenAI connaît les besoins logiciels de ses modèles et de ses services. Broadcom possède une expérience reconnue dans les composants et les circuits intégrés destinés aux infrastructures technologiques. TSMC, de son côté, est le plus grand fabricant mondial de puces et produit des composants conçus par de nombreuses entreprises du secteur.

Cette organisation reflète le fonctionnement courant de l’industrie des semi-conducteurs. Une entreprise peut définir l’architecture d’un composant et travailler avec un partenaire de conception, puis confier la fabrication à une fonderie. Construire sa propre usine de puces exige en effet des investissements considérables, des équipements très spécialisés et plusieurs années de préparation.

OpenAI avait envisagé de développer à plus long terme une capacité de fabrication interne, notamment à travers l’idée d’un réseau de fonderies. Mais, selon les éléments rapportés, l’entreprise privilégierait ici une approche partenariale, plus réaliste pour accélérer un projet de puce personnalisée. S’associer à Broadcom et potentiellement à TSMC permettrait de mobiliser des savoir-faire déjà présents dans l’industrie.

Cette stratégie ne garantit pas un aboutissement rapide. Entre la définition d’une architecture, la validation de sa compatibilité avec les logiciels, la préparation de la production et la fabrication elle-même, les délais sont substantiels. Le projet demeure donc à un stade où les ambitions sont connues, mais où les résultats concrets restent à démontrer.

Une réponse à la montée en puissance de l’inférence

Le développement d’une puce dédiée s’inscrit dans une évolution plus large du marché de l’IA. Pendant les premières vagues de l’IA générative, l’attention s’est souvent concentrée sur la construction de modèles toujours plus grands et sur les gigantesques capacités de calcul requises pour les entraîner. Mais lorsqu’un service est déployé auprès du public ou des entreprises, l’inférence devient un poste essentiel.

Chaque interaction a un coût matériel : les serveurs doivent recevoir la demande, mobiliser le modèle, effectuer des calculs et renvoyer une réponse. Plus l’outil est utilisé, plus la qualité de l’infrastructure devient déterminante. Les acteurs du secteur cherchent donc des moyens de concilier trois objectifs parfois difficiles à réunir : proposer des modèles capables, répondre rapidement et maîtriser les ressources nécessaires.

Pour les utilisateurs, cette compétition matérielle peut sembler lointaine. Pourtant, elle peut se traduire de manière concrète : réponses plus fluides, accès à davantage de fonctionnalités, meilleure disponibilité aux heures de forte affluence ou possibilités de faire tourner certains outils à moindre coût. Les bénéfices précis d’une éventuelle puce OpenAI-Broadcom ne sont toutefois pas connus et ne pourront être évalués qu’à partir de produits effectivement déployés.

Une tentative de réduire la dépendance à Nvidia

L’un des objectifs attribués au projet est de réduire la dépendance d’OpenAI envers Nvidia. Cette formulation doit être nuancée. Développer une puce dédiée à l’inférence ne signifie pas automatiquement abandonner les GPU, ni mettre fin aux relations existantes avec les fournisseurs de matériel. Il s’agit plutôt d’élargir l’éventail des options disponibles pour certaines charges de travail.

Dans un marché en forte croissance, la capacité à obtenir suffisamment de puces est aussi importante que leur performance théorique. Les besoins des laboratoires d’IA, des grands fournisseurs de services cloud et des entreprises technologiques ont renforcé l’importance stratégique des composants de calcul avancé. Concevoir des alternatives, même partielles, devient donc un levier de négociation, d’approvisionnement et de maîtrise technique.

Le projet d’OpenAI s’inscrit ainsi dans une tendance de fond : les entreprises qui exploitent les modèles les plus exigeants cherchent de plus en plus à rapprocher le logiciel et le matériel. L’objectif est d’éviter qu’une technologie conçue pour tous les usages ne constitue l’unique fondation de services aux besoins très spécifiques.

Ce qu’il faut surveiller

Au 30 octobre 2024, les informations disponibles ne permettent pas de connaître les caractéristiques de la puce envisagée, son niveau de performance, son coût ou son calendrier de fabrication. Ces inconnues sont décisives : une annonce de partenariat ne se transforme pas automatiquement en produit opérationnel dans les centres de données.

Plusieurs éléments mériteront donc une attention particulière. Le premier sera la confirmation officielle des rôles respectifs d’OpenAI, Broadcom et TSMC. Le deuxième concernera la nature exacte de la puce : sera-t-elle réservée à l’inférence, à certains modèles, ou à des usages plus larges ? Enfin, il faudra observer si ce matériel apporte des gains mesurables en matière de rapidité, d’efficacité ou de coût d’exploitation.

Pour OpenAI, l’enjeu est autant technique que stratégique. Si le projet aboutit, il pourrait lui offrir une infrastructure davantage alignée sur ses propres modèles et ses besoins de service. Pour l’ensemble du secteur, il rappelle surtout une réalité souvent masquée par les conversations sur les assistants : l’avenir de l’IA se joue aussi dans les centres de données, au niveau des puces qui rendent ces réponses possibles.