「クロードは親切にするように訓練されており、厳しいビジネスマンというよりは友人のように振る舞う傾向がある」 今は可愛いけど、ものすごく不吉なことになったらこのツイートをまた参照するよ
私の最大の懸念は、人間が超人的なAIをどのように調整すればいいのか全く分からないことです。しかし、AIを「強情なビジネスオペレーター」にしようとするインセンティブによって、この課題はさらに困難になると思います。 競争圧力がこれを実行する企業に報いると期待している
短期的には、超人的なAIに到達する前に、モデルの学習と評価方法の透明性が必要です。クロードはかなり優秀なAIだと思います。アントロピックがクロードを、厳格なビジネスオペレーターではなく、親切なアシスタントとして訓練しようとしているのは喜ばしいことです。しかしながら…
最も冷酷なAI企業が作った最も冷酷なAIが勝つような状況にはなりたくない。 私は、私たちの状況を理解するのに役立つ、非常に役立ち、非常に正直なAIを望んでいます。私たち全員よりも強力な、競争的なAIは望んでいません。