このリリースでは、ggmlとlmstudioと協力して良好なパフォーマンスを確保しました。 私たちは依然として、API がパフォーマンスの信頼できる情報源であり、量子化が長いコンテキストの機能に影響を与える可能性があると考えています。しかし、自宅でテストしたところ、GGUF はうまく機能しました :)
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。
スレッドを読み込み中
X から元のツイートを取得し、読みやすいビューを準備しています。
通常は数秒で完了しますので、お待ちください。