RMSNorm est mon meilleur ami.
Bien que notez que (1) une meilleure entropie croisée avec VAE ne dit pas grand-chose, en réalité (2) une meilleure entropie croisée en général peut ne pas se traduire par une meilleure évaluation. Mais au moins, il n'explose pas et il semble que l'encodeur remplisse parfaitement sa fonction.