4 台 Mac Studio 透過 Exo 使用新的 RDMA 技術連接。 消費級硬體(雖然仍很貴),大容量 LLM,1.5TB 記憶體。 DeepSeek 3.1(671B 型號)速度超過 30 tok/s。 Vibecode價格有點貴,但它完全私密、永久、可自訂。 https://t.co/aF7zJnuBuA
你可以預料到,企業公司已經在軟體工程實驗室裡對這類技術進行了研究,試圖找到擺脫由他人託管和控制的人工智慧平台的方法,尤其是在監管限制大多數雲端軟體使用的行業。 這類工作將有助於這些公司採用人工智慧工具,因此軟體公司必須考慮到,他們不僅要對軟體堆疊進行本地部署,還要能夠將其整合到人工智慧叢集的本地部署中。