Le blog technique très complet de HuggingFace (200 pages, soit 2 à 4 jours de lecture) documente en détail le processus d'entraînement de SmolLM3 par l'équipe. C'est une lecture incontournable pour les équipes souhaitant entraîner des modèles de petite taille ! À travers des directives de formation, des processus de formation de base, des meilleures pratiques, des recommandations en matière d'infrastructure et de ressources, il met l'accent sur « l'obtention de modèles à haute performance grâce à des données bien planifiées, une infrastructure stable et des processus optimisés, plutôt que de s'appuyer sur des ressources informatiques massives », ce qui mérite d'être appris progressivement.
