Googleは、関数呼び出しが可能なGemma 3 270Mを使用したエッジモデル「FunctionGemma」を微調整しました。これは、インターネット接続のないモバイル端末などのエッジデバイスでも実行できます。 関数呼び出しを微調整するために特別に設計されたモデル その機能は、対話とアクションを統合すること、つまり、構造化された API 呼び出しを生成し、同じ一連の対話内で自然言語で結果を要約して、単一のモデルで閉ループを完了することです。 たとえば、「アラームを午前 7 時に設定してください。」 コマンドを生成し、スマートフォンの目覚まし時計アプリに渡して実行させます。その後、「アラームは午前7時に設定されました」と応答します。 携帯電話の動作評価では、ゼロサンプル精度は 58% でしたが、微調整により 85% まで向上できました。 FunctionGemma は、オフライン エージェントとして機能して指示を独立して完了することも、「スケジューラ」として機能して最初に単純なタスクを処理し、次に複雑な要求をクラウド内の大規模なモデルに転送して、非常に効率的なハイブリッド AI システムを形成することもできます。 携帯電話、NVIDIA Jetson Nano、Raspberry Pi、車載インフォテインメント システム、ブラウザー WebGPU などのエッジ デバイスでオフラインで実行できます。 #FunctionGemma #モバイルAI
ブログblog.google/technology/dev…Nx huggingface.co/google/functio…YrIx