Sujet
Tous les articles d’Actu.ai consacrés à Inférence IA : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 3 articles
Alibaba renforce ses ambitions dans les semi-conducteurs avec un processeur conçu pour l’inférence IA et compatible avec l’environnement de Nvidia. Cette initiative intervient alors que les restrictions américaines et les réserves de Pékin compliquent la présence de Nvidia en Chine, ouvrant un espace stratégique aux fournisseurs locaux.
Tenstorrent présente Blackhole, une nouvelle gamme d’accélérateurs orientée vers l’inférence des modèles d’IA générative. Derrière cette promesse matérielle, l’enjeu est d’exécuter plus efficacement des assistants, générateurs d’images ou outils vocaux. Les spécifications et mesures comparatives restent toutefois déterminantes pour juger ses performances réelles.
NVIDIA a présenté Dynamo, un logiciel open-source destiné à mieux faire fonctionner les modèles d’IA une fois entraînés. Compatible avec plusieurs outils majeurs du secteur, il promet d’améliorer la vitesse de réponse, le débit et l’utilisation des GPU, un enjeu clé pour les services d’IA à grande échelle.
