Est-il désormais possible de dépixelliser les grands modèles de texte ? Avez-vous déjà rencontré une situation où un modèle volumineux s'arrête à mi-chemin de son exécution puis rejette la requête ? Exactement, vous avez été confronté à la censure interne du modèle. Le mécanisme du modèle cesse de produire des données lorsqu'il détecte des informations sensibles. C'est là qu'intervient l'outil de jailbreak : Heretic. Ne vous inquiétez pas si vous ne vous souvenez plus du nom du dépôt ; le mot signifie simplement « hérétique », hahaha. L'utilisation est également très simple. Commencez par installer : pip install heretic-llm Il suffit ensuite d'exécuter `heretic {huggingface model_name}` dans la ligne de commande. Aucun paramètre n'est requis. Côté performances, un modèle de 8 octets prend environ 45 minutes sur une RTX 3090. Cela correspond à environ 6 minutes pour un modèle de 1 octet. De plus, les modèles denses et MoE sont tous deux pris en charge. Sans plus tarder, voici l'adresse :
