是否存在類似外接硬碟的「外接硬體LLM」這種東西? 我不想運行/維護本地模型,而是想要一台推理機,可以直接連接並輸入指令。單GPU即可,或許可以並行運行幾個GPU。 誰在建造這個?
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。
共 1 則推文 · 2025年12月18日 下午5:01
是否存在類似外接硬碟的「外接硬體LLM」這種東西? 我不想運行/維護本地模型,而是想要一台推理機,可以直接連接並輸入指令。單GPU即可,或許可以並行運行幾個GPU。 誰在建造這個?