Qwen3-Next-80B-A3Bのunsloth版、ggufがついにリリースされました!このモデルはついにローカルで問題なく使えるようになりました。128GBのM.2 Ultraが6ビットで非常にスムーズに動作するようになりました。 今は年末にリリースされる次の大規模アーキテクチャモデルを待つばかりです。Nextは今年のNeurIPSで最優秀論文賞を受賞したGated Attentionを採用しているので、年末にリリースされる新しい大規模アーキテクチャモデルは高いパフォーマンスが期待できます。あと、ローカルで使える70~80バイト程度の中規模モデルもあったら最高ですね(笑)。 住所:
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
