文本大模型也能去馬賽克了? ? ? 你有沒有遇到過大模型輸出到一半, 然後拒絕請求的情況? 沒錯, 你遇到模型內部審查了。當偵測到敏感資訊後模型機制就會停止輸出。然後,越獄工具來了,就這個Heretic,記不住repo名字沒關係,這個字就是異教徒的意思哈哈哈哈 用法也很簡單,先安裝: pip install heretic-llm 然後直接在命令列運行heretic {huggingface 模型名稱} 即可. 沒有任何參數需要設定. 執行速度的話, 8B 模型在RTX 3090 上需要大概45分鐘. 算下來大概1B需要6分鐘的樣子? 另外無論是dense 或MoE 模型都支援. 話不多說,地址:
正在載入線程內容
正在從 X 取得原始推文,整理成清爽的閱讀畫面。
通常只需幾秒鐘,請稍候。
