CALDERA compresse les modèles de langage pour les smartphones et PC
Exécuter un grand modèle de langage sans dépendre en permanence d’un serveur distant devient plus envisageable. Des chercheurs de Princeton et Stanford présentent CALDERA, une méthode de compression testée sur Llama 2 et Llama 3, qui associe calcul à faible précision et réduction des redondances.























