Agora é possível despixelizar modelos de texto grandes? Você já se deparou com uma situação em que um modelo complexo gera resultados no meio do processo e, em seguida, rejeita a solicitação? Isso mesmo, você se deparou com censura interna do modelo. O mecanismo do modelo para de gerar saída quando informações sensíveis são detectadas. Então, entra em ação a ferramenta de jailbreak — Heretic. Não se preocupe se não se lembrar do nome do repositório; a palavra significa simplesmente herege, hahaha. A utilização também é muito simples. Primeiro, instale: pip install heretic-llm Em seguida, basta executar `heretic {huggingface model_name}` na linha de comando. Não é necessário definir nenhum parâmetro. Em termos de velocidade de execução, um modelo de 8 bytes leva aproximadamente 45 minutos em uma RTX 3090. Isso equivale a cerca de 6 minutos para um modelo de 1 byte. Além disso, ambos os modelos, denso e MoE, são suportados. Sem mais delongas, aqui está o endereço:
