Qwen3-Next-80B-A3Bのunsloth版、ggufがついにリリースされました！このモデルはついにローカルで問題なく使えるようになりました。128GBのM.2 Ultraが6ビットで非常にスムーズに動作するようになりました。 今は年末にリリースされる次の大規模アーキテクチャモデルを待つばかりです。Nextは今年のNeurIPSで最優秀論文賞を受賞したGated Attentionを採用しているので、年末にリリースされる新しい大規模アーキテクチャモデルは高いパフォーマンスが期待できます。あと、ローカルで使える70～80バイト程度の中規模モデルもあったら最高ですね（笑）。 住所：
