デバイス上で AI を実行すると、効率が上がり、ビッグ ブラザーの圧力が軽減され、無料になります。 そのため、Wi-Fi を必要とせず、API 外部にデータを送信することなく、ラップトップで完全に実行される chatgpt のようなアプリである新しい llama.cpp UI を見るのは非常にクールです。 サポート対象: - 150,000以上のGGUFモデル - PDF、画像、テキスト文書をドロップイン - いつでも会話を分岐・編集できます - 並列チャットと画像処理 - 数学とコードのレンダリング - JSONスキーマによる制約付き生成をサポート @ggerganov とチームの皆さん、よくやった!
