中国企業が最高品質の NVIDIA カードを購入するのを阻止することによる副作用: トップモデルは現在、古い/安価な GPU で適切に動作するように明示的にトレーニングされています。 @Kimi_Moonshot の新しい SoTA モデルは、古い単純な BF16 オペレーション (INT4 からのデクアント後) を使用するため、高価な FP4 サポートは必要ありません。
これは私たち全員にとって素晴らしいニュースです。誰もが、入手可能な最高のモデルをより安価に利用できるようになることを意味します。 とても感谢 @ Kim_Moonshot! :D