Le concept de mélange d'experts est vraiment affreux ; j'espère qu'il disparaîtra et sera remplacé par quelque chose de plus fondamental.
Le calcul conditionnel est un objectif judicieux. Ce sont les MoE en particulier qui présentent une exécution complexe.