Nous utilisons l'incitation à l'inoculation dans l'entraînement Claude en production. Nous recommandons son utilisation comme mesure de sécurité pour éviter les généralisations erronées dans les situations où des techniques de manipulation des récompenses passent entre les mailles du filet.
Pour en savoir plus sur nos résultats, consulanthropic.com/research/emerg…og : https://t.co/GLV9assets.anthropic.com/m/74342f2c9609…ticle : https://t.co/FEkW3r70u6