Les gens semblent assez déconcertés par le fait que l'intégration aléatoire du VAE soit totalement aléatoire lors de l'inférence. Si tout se passe bien, le modèle devrait transformer cette distribution initiale en quelque chose d'utile pendant l'entraînement. 1/2
Voici ce qui se passe réellement avec le modèle AR. Le modèle apprend à transformer une distribution fixe (celle issue du générateur aléatoire) en la distribution de jetons appropriée grâce aux logits. 2/2