OSSモデルの自己ホスティングによる経済的メリットは過小評価されている。「ロスレス」なパフォーマンス改善はすぐに発見され、普及し、ワークロードごとに検証する必要がある「ロスのある」トリックだけが残る。 マルチテナント API では利用できません --「BF16 か死かだ」
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
1 件のツイート · 2025/12/06 22:23
OSSモデルの自己ホスティングによる経済的メリットは過小評価されている。「ロスレス」なパフォーマンス改善はすぐに発見され、普及し、ワークロードごとに検証する必要がある「ロスのある」トリックだけが残る。 マルチテナント API では利用できません --「BF16 か死かだ」