Lois de scalabilité : mieux prévoir le coût d’entraînement des grands modèles
Avant d’investir des millions de dollars dans l’entraînement d’un grand modèle de langage, les équipes peuvent en estimer les résultats à partir de modèles plus modestes. Une étude du MIT et du MIT-IBM Watson AI Lab analyse 485 modèles pour rendre ces prévisions plus fiables et mieux piloter les budgets de calcul.























