中国語でLLMってどう違うんだろう、と時々思うことがあります。もしかしたら、R1以降DeepSeekに起こった「魂のこもった」感覚の衰退は、言語の壁の向こう側には存在しないのかもしれません。
とはいえ、効率的なトークナイザーは、複合中国語単語や主要な部分文字列も使用します(Qwenのトークナイザーでは、典型的なCPCダックスピークの行に50文字程度使用されていたのを覚えています)。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
2 件のツイート · 2025/12/13 7:39
中国語でLLMってどう違うんだろう、と時々思うことがあります。もしかしたら、R1以降DeepSeekに起こった「魂のこもった」感覚の衰退は、言語の壁の向こう側には存在しないのかもしれません。
とはいえ、効率的なトークナイザーは、複合中国語単語や主要な部分文字列も使用します(Qwenのトークナイザーでは、典型的なCPCダックスピークの行に50文字程度使用されていたのを覚えています)。