Qwen3-Next-80B-A3B의 gguf라는 이름의 멋진 버전이 드디어 출시되었습니다! 이 모델을 드디어 로컬에서 문제없이 사용할 수 있게 되었습니다. 제 128GB M.2 Ultra는 이제 6비트를 아주 부드럽게 구동합니다. 이제 연말에 출시될 다음 대규모 아키텍처 모델만 기다리고 있습니다. Next는 올해 NeurIPS에서 최우수 논문상을 수상한 Gated Attention을 사용하므로, 연말에 발표될 새로운 대규모 아키텍처 모델은 좋은 성능을 보일 것으로 예상됩니다. 그리고 로컬에서 사용할 수 있는 70~80바이트 정도의 중간 크기 모델도 있으면 좋겠습니다. 하하. 주소:
