AWS renforce Bedrock et SageMaker pour industrialiser l’IA générative

L’intelligence artificielle générative ne se résume pas au choix d’un grand modèle de langage. Pour une entreprise, il faut aussi connecter ce modèle aux bonnes données, contrôler les coûts de calcul, personnaliser les réponses et permettre aux équipes non techniques de s’en servir. C’est sur cette chaîne complète qu’Amazon Web Services, ou AWS, a choisi de concentrer ses annonces lors de sa conférence re:Invent 2024.

Le 2 décembre 2024, lors de la journée inaugurale de l’événement, Swami Sivasubramanian, vice-président AI et Data d’AWS, a détaillé plusieurs évolutions de l’offre du groupe. Elles concernent principalement Amazon Bedrock, le service qui donne accès à des modèles génératifs pour construire des applications, et Amazon SageMaker, l’environnement historique d’AWS pour développer et entraîner des projets de machine learning.

L’idée défendue par le fournisseur de cloud est claire : aider les organisations à gérer à la fois l’inférence, c’est-à-dire le moment où un modèle produit une réponse, et l’entraînement, qui consiste à ajuster ou créer des modèles à partir de données et de puissance de calcul. Les nouveautés annoncées touchent aussi à la préparation des données, un sujet souvent plus difficile que le choix du modèle lui-même.

Bedrock cherche à rendre l’inférence moins coûteuse

Lorsqu’un salarié interroge un assistant d’entreprise, le modèle doit lire la consigne, prendre en compte le contexte fourni, puis générer sa réponse. Cette phase d’utilisation est appelée l’inférence. À grande échelle, elle peut devenir coûteuse, en particulier lorsque de nombreux utilisateurs envoient des requêtes proches contenant les mêmes documents de référence ou les mêmes instructions.

AWS introduit dans Bedrock le cache prompting. Le principe consiste à conserver des éléments déjà traités pour des prompts précis, afin d’éviter de refaire inutilement les mêmes calculs lorsque le contexte est réutilisé. Le bénéfice attendu est double : des réponses plus rapides et une facture d’inférence plus maîtrisée.

Il ne faut pas confondre ce mécanisme avec une mémoire générale de l’assistant. Le cache ne signifie pas qu’un modèle comprend durablement l’entreprise ou l’utilisateur. Il sert avant tout à réemployer efficacement une partie du travail de calcul dans des situations semblables, par exemple lorsqu’un grand document interne accompagne de nombreuses questions.

AWS a aussi présenté un routage intelligent, inspiré d’Amazon Q. À chaque demande, le système doit choisir le modèle le plus approprié selon la complexité estimée de la tâche. Une question simple peut être adressée à un modèle moins lourd, tandis qu’une requête plus exigeante peut nécessiter un modèle plus avancé.

Cette approche répond à un compromis central dans l’IA générative : le modèle le plus puissant n’est pas forcément nécessaire pour toutes les tâches. L’enjeu est donc d’obtenir une réponse suffisamment pertinente sans appliquer systématiquement le niveau de calcul le plus cher.

Des données structurées aux documents, Bedrock élargit son rôle

Une grande partie de la connaissance utile d’une organisation ne se trouve pas dans une base de données parfaitement rangée. Elle est dispersée dans des contrats, présentations, courriels, images, vidéos ou fichiers numérisés. Ces contenus sont dits non structurés, car ils ne suivent pas spontanément le format d’un tableau avec des colonnes et des lignes.

Avec Bedrock Data Automation, AWS propose d’automatiser la transformation de ces données non structurées en formats exploitables par des applications d’IA. L’objectif est de rendre accessible un gisement de données souvent peu utilisé. AWS souligne que 80 % des données d’entreprise sont fréquemment difficiles d’accès ou d’exploitation dans leur état d’origine.

Bedrock reçoit également un support pour les données structurées, afin de faciliter les questions formulées en langage naturel sur des bases de données. Concrètement, plutôt que d’écrire une requête technique, un utilisateur peut chercher à demander quels produits ont le plus progressé, quels clients sont concernés par un indicateur ou quelles anomalies apparaissent dans une période donnée. Cette simplicité ne dispense pas d’une gouvernance rigoureuse : la qualité de la réponse dépend toujours de la qualité, des droits d’accès et de la mise à jour des données sous-jacentes.

Autre ajout, GraphRAG vise à mieux établir les liens entre les informations. Le terme RAG, pour retrieval-augmented generation, désigne une méthode qui consiste à chercher des documents pertinents avant de demander au modèle de rédiger une réponse. GraphRAG ajoute une dimension relationnelle, en s’appuyant sur les connexions entre les personnes, documents, produits, concepts ou événements contenus dans un corpus.

Le but est notamment de réduire les hallucinations, ces réponses plausibles mais inexactes que peut produire une IA générative lorsqu’elle manque de contexte fiable. Il ne s’agit pas d’une garantie d’exactitude absolue. En revanche, relier explicitement les sources et leurs relations peut aider une application à s’appuyer sur des informations plus pertinentes.

Bedrock s’ouvre à davantage de modèles spécialisés

AWS ne mise pas uniquement sur ses propres technologies. La valeur d’une plateforme comme Bedrock dépend aussi de la diversité des modèles auxquels les entreprises peuvent accéder, selon qu’elles veulent générer du texte, du code, des images ou de la vidéo.

Dans ce cadre, AWS intègre les solutions de Poolside, spécialisées dans la génération de code. L’offre s’enrichit aussi de Stable Diffusion 3.5 de Stability AI pour la création d’images, ainsi que de la technologie de Luma pour la génération vidéo. Ces ajouts répondent à des usages distincts : assistance aux développeurs, production visuelle ou création de séquences vidéo.

La Bedrock Marketplace donne par ailleurs accès à plus d’une centaine de modèles spécialisés, dont des modèles développés par IBM. Pour les entreprises, ce type de catalogue peut éviter de multiplier les intégrations techniques avec chaque éditeur. Il ne résout toutefois pas à lui seul la question du choix : comparer les modèles reste nécessaire, notamment sur la qualité des résultats, les coûts, les règles de confidentialité et leur adéquation avec une tâche précise.

SageMaker veut mieux organiser l’entraînement des modèles

Si Bedrock est conçu pour intégrer et utiliser des modèles génératifs, Amazon SageMaker reste un pilier d’AWS pour le machine learning, l’entraînement et la personnalisation. Les nouveautés présentées à re:Invent s’attaquent surtout à la planification des ressources et à l’utilisation des infrastructures de calcul.

Les flexible training plans doivent faciliter la réservation et l’allocation de capacités de calcul selon les besoins d’un projet d’entraînement. En pratique, entraîner ou ajuster un modèle exige de disposer de ressources, notamment graphiques, au bon moment et en quantité suffisante. AWS estime que cette évolution peut réduire le temps de planification jusqu’à 40 %.

Ce chiffre concerne la planification, et non une accélération automatique de 40 % de l’entraînement des modèles eux-mêmes. La nuance est importante : la durée d’un entraînement dépend entre autres de la taille du modèle, du volume de données, de la méthode choisie et des capacités disponibles.

AWS ajoute aussi la task governance, une fonction destinée à optimiser l’usage des clusters graphiques. Elle vise à réallouer ces ressources entre l’inférence et l’entraînement selon les flux de trafic. Pour une entreprise qui fait fonctionner des assistants tout en développant de nouveaux modèles, la promesse est de mieux exploiter une infrastructure coûteuse plutôt que de la laisser sous-utilisée à certaines heures.

Enfin, les fine-tuning recipes doivent aider à personnaliser les modèles à partir d’exemples de réponses attendues. Le fine-tuning, ou ajustement fin, ne consiste pas nécessairement à repartir de zéro pour entraîner un modèle géant. Il permet plutôt d’adapter un modèle existant à un ton, un format, un vocabulaire métier ou une catégorie de tâches bien définie.

Amazon Q rapproche l’IA des équipes métier

L’adoption de l’IA ne dépend pas seulement des ingénieurs. Les analystes, équipes commerciales, responsables opérationnels et spécialistes des données doivent eux aussi pouvoir formuler des besoins sans maîtriser les outils de programmation. AWS poursuit cette logique en intégrant son assistant Amazon Q à SageMaker Canvas et à QuickSight.

Dans SageMaker Canvas, Amazon Q permet de créer des modèles de machine learning par le dialogue en langage naturel. L’assistant peut aider à décomposer un projet en tâches définies et en étapes d’analyse. L’ambition est de réduire la barrière technique pour des utilisateurs qui connaissent leur métier et leurs données, mais ne sont pas nécessairement spécialistes du code ou de l’apprentissage automatique.

Dans QuickSight, le service d’analyse et de visualisation de données d’AWS, Amazon Q joue un rôle d’analyste conversationnel. À partir d’une question rédigée en langage courant, il doit identifier les données pertinentes et analyser un scénario. Ce type d’interface peut rendre les tableaux de bord plus accessibles, mais il ne remplace pas la vérification humaine. Une question ambiguë, des données incomplètes ou un indicateur mal défini peuvent conduire à une interprétation trompeuse, même lorsque la formulation paraît claire.

Ce qu’il faut surveiller après re:Invent 2024

Les annonces d’AWS dessinent une stratégie cohérente : proposer une chaîne intégrée allant des données brutes à l’entraînement, puis à l’usage quotidien d’applications d’IA générative. Bedrock se positionne comme une couche d’accès et d’orchestration des modèles, tandis que SageMaker conserve un rôle plus technique de développement et de gestion des ressources d’apprentissage automatique.

Pour les entreprises, la question ne sera pas seulement de savoir quelles fonctionnalités sont disponibles. Elles devront mesurer si le cache et le routage intelligent produisent effectivement les économies attendues, si les données préparées automatiquement sont suffisamment fiables, et si la personnalisation des modèles apporte un bénéfice concret par rapport à une bonne instruction accompagnée de documents pertinents.

La sécurité, les autorisations d’accès et la traçabilité resteront également décisives. Donner à un assistant la capacité d’interroger des données internes peut améliorer la productivité, à condition que chaque utilisateur ne voie que les informations auxquelles il est habilité. L’enjeu pour AWS, comme pour ses clients, est donc moins de multiplier les démonstrations que de transformer ces outils en systèmes fiables, gouvernés et réellement utiles dans les opérations quotidiennes.