実稼働環境のClaudeトレーニングでは、接種プロンプトを使用しています。報酬ハックが他の緩和策をすり抜けてしまう状況において、誤った一般化を防ぐためのバックストップとして接種プロンプトを使用することをお勧めします。
結果の詳細については、ブログ投稿をご覧ください：https://t.co/GLV9Gcgvanthropic.com/research/emerg… https://t.co/FEkW3r70u6
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。