구글은 Gemma 3 270M을 사용하여 함수 호출이 가능한 엣지 모델인 FunctionGemma를 개발했습니다. 이 모델은 인터넷 연결 없이도 휴대폰과 같은 엣지 디바이스에서 실행될 수 있습니다. 함수 호출을 세밀하게 조정하기 위해 특별히 설계된 모델 이 기능은 대화와 행동을 통합하는 것, 즉 동일한 상호 작용 과정 내에서 구조화된 API 호출을 생성하고 결과를 자연어로 요약하여 단일 모델로 폐쇄 루프를 완성하는 것입니다. 예를 들어, "오전 7시에 알람을 맞춰 주세요." 이 기능은 명령어를 생성하여 휴대폰의 알람 앱에 전달하고 실행합니다. 그런 다음 "알람이 오전 7시에 설정되었습니다."라고 응답합니다. 휴대폰 작동 평가에서 제로 샘플 정확도는 58%였으며, 미세 조정을 통해 85%까지 향상될 수 있었습니다. FunctionGemma는 오프라인 에이전트로 작동하여 명령을 독립적으로 완료하거나, "스케줄러" 역할을 하여 간단한 작업을 먼저 처리한 후 복잡한 요청을 클라우드의 대형 모델로 전달하여 고효율 하이브리드 AI 시스템을 구축할 수 있습니다. 이 기술은 휴대폰, NVIDIA Jetson Nano, Raspberry Pi, 차량용 인포테인먼트 시스템 및 브라우저 WebGPU와 같은 엣지 디바이스에서 오프라인으로 실행될 수 있습니다. #FunctionGemma #모바일AI
블로그blog.google/technology/dev…Nx huggingface.co/google/functio…YrIx