インライン関数としてクエリできる、CPU 依存の超高速マイクロ LLM が待ちきれません。 > Application::prompt("これらの中にフランス語に聞こえるものはありますか?", ["John", "Pierre"], ["json_format" => `{"french": boolean", "name": string}`]; ... 2ミリ秒後 {"french": true, "name": "ピエール"}
最大でも2年かかるでしょう。その後は各OSに導入され、あらゆるコーディングフレームワークに組み込み機能として搭載されるでしょう。
現在、この分野は非常に興味深いです。 我々は持っています： - SmolLM2 https://t.co/Ir0BEJ6lhuggingface.co/HuggingFaceTB/…: https://t.co/9XMySH1uN8 - 小型のLgithub.com/AliOsm/deepsee…QBp3oX5r - Microsoft ai.meta.com/blog/llama-3-2….co/2EHpDbPKw6 誰もが量子化にさらに取り組んでいます。