O que eu disse? A quantização dinâmica de 1 bit da Unsloth chegou! Se modelos de grande porte vierem a ter precisão de 4 bits como padrão no futuro, a quantização realmente se tornará desnecessária... Claro, o principal negócio da Unsloth é, na verdade, o ajuste fino.
