文本大模型也能去馬賽克了? ? ? 你有沒有遇到過大模型輸出到一半, 然後拒絕請求的情況? 沒錯, 你遇到模型內部審查了。當偵測到敏感資訊後模型機制就會停止輸出。然後,越獄工具來了,就這個Heretic,記不住repo名字沒關係,這個字就是異教徒的意思哈哈哈哈 用法也很簡單,先安裝: pip install heretic-llm 然後直接在命令列運行heretic {huggingface 模型名稱} 即可. 沒有任何參數需要設定. 執行速度的話, 8B 模型在RTX 3090 上需要大概45分鐘. 算下來大概1B需要6分鐘的樣子? 另外無論是dense 或MoE 模型都支援. 話不多說,地址:
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
