llama.cpp 與 NVIDIA 合作，全面支援新款 Nemotron 3 Nano 型號。 Nemotron 3 Nano 採用高效能的混合式 Mamba MoE 架構，是一款極具發展潛力的晶片，適用於中階硬體上的本地 AI 應用。其寬廣的上下文視窗使其成為各種應用場景的理想之選。 llama.cpp 的高效性以及 `llama-server` 工具獨特的上下文管理功能，使我們能夠在各種硬體上部署和使用此模型。由於 NVIDIA 工程團隊和開源合作者的最新程式碼貢獻，我們可以在所有 NVIDIA GPU 上高效運行此模型。了解更多信息，請訪問 @NVIDIA_AI_PC https://t.co/3c9LRmfmRp
正在載入線程內容
正在從 X 取得原始推文，整理成清爽的閱讀畫面。
通常只需幾秒鐘，請稍候。