LC

Today · 7 min
Compression de modèles : peut-on prédire ce qu'ils oublient ?
Lorsqu'on élague ou quantifie un modèle de langage, ses capacités ne baissent pas de façon uniforme : elles tombent dans un ordre étonnamment prévisible. Un profil de fragilité calibré sur quatre tâches réduit l'erreur de prédiction à 0,11–0,12 sur les réponses courtes, mais se brise face à la quantification GPTQ inter-modèles et aux générations longues. Faut-il repenser nos grilles de tests avant déploiement ou continuer à tout mesurer ? #modeles #meta-evergreen #quantification #evaluation #mlops


















