RT @mikasenghaas: この控えめなピダンティック構築は、logprobs で 32k トークンの場合約 200 ミリ秒かかります はい、これは 4k b で 10 分を超える CPU オーバーヘッドになります...
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
1 件のツイート · 2025/10/30 3:12
RT @mikasenghaas: この控えめなピダンティック構築は、logprobs で 32k トークンの場合約 200 ミリ秒かかります はい、これは 4k b で 10 分を超える CPU オーバーヘッドになります...