¡La versión original de Qwen3-Next-80B-A3B, gguf, por fin está disponible! Este modelo por fin se puede usar localmente sin problemas. Mi M.2 Ultra de 128 GB ahora funciona a 6 bits con gran fluidez. Ahora solo estamos esperando el lanzamiento del próximo modelo de arquitectura a gran escala a finales de año. Next utiliza atención controlada, que ganó el premio al mejor artículo en NeurIPS de este año, por lo que se espera que el nuevo modelo de arquitectura a gran escala a finales de año tenga un buen rendimiento. Y sería fantástico si también hubiera un modelo de tamaño mediano de unos 70-80 bytes disponible para uso local, jaja. DIRECCIÓN:
