¿Qué dije? ¡La cuantización dinámica de 1 bit de Unsloth ya está aquí! Si en el futuro los modelos grandes van a incorporar una precisión de 4 bits como estándar, entonces la cuantización será realmente innecesaria... Por supuesto, el negocio principal de Unsloth es precisamente el ajuste fino.
