4 台 Mac Studio 通过 Exo 使用新的 RDMA 技术连接。 消费级硬件(虽然仍然很贵),大容量 LLM,1.5TB 显存。DeepSeek 3.1(671B 型号)速度超过 30 tok/s。 Vibecode价格有点贵,但它完全私密、永久、可定制。 https://t.co/aF7zJnuBuA
你可以预料到,企业公司已经在软件工程实验室里对这类技术进行了研究,试图找到摆脱由他人托管和控制的人工智能平台的方法,尤其是在监管限制大多数云软件使用的行业。 这类工作将有助于这些公司采用人工智能工具,因此软件公司必须考虑到,他们不仅要对软件堆栈进行本地部署,还要能够将其集成到人工智能集群的本地部署中。