Outro livro essencial: o Manual de Treinamento LLM da Hugging Face. Esta seção fornece uma visão geral bastante detalhada de todo o processo de formação em LLM, incluindo diretrizes de treinamento (se o treinamento prévio é obrigatório), treinamento prévio, treinamento posterior e infraestrutura. O principal exemplo é o modelo SmolLM3 3B que eles mesmos treinaram. O artigo, ou melhor, o manual, contém uma análise do processo de treinamento do modelo, descrevendo uma série de decisões, descobertas e becos sem saída — tudo baseado na experiência prática. Detalhes:
