大きなテキスト モデルをピクセル化解除できるようになりましたか? 大規模なモデルが途中で出力し、その後リクエストを拒否する状況に遭遇したことはありませんか? そうです、内部モデル検閲に遭遇したんです。機密情報が検出されると、モデルメカニズムは出力を停止します。そこで、脱獄ツールが登場します。Hereticです。リポジトリ名が思い出せなくても心配しないでください。Hereticは「異端者」という意味ですから、ハハハ。 使い方も非常に簡単です。まずはインストールします: pip install heretic-llm コマンドラインで「heretic {huggingface model_name}」と実行するだけです。パラメータの設定は不要です。実行速度は、RTX 3090で8バイトモデルを実行すると約45分かかります。1バイトモデルだと約6分くらいでしょうか？ さらに、高密度モデルと MoE モデルの両方がサポートされています。 早速ですが、住所は以下のとおりです。
