Yangyi(@Yangyixxxx)의 스레드

이 친구는 방금 Mac 기반 MLX 로컬 추론 프로젝트를 출시했습니다. Qwen3-omni-30b-a3b가 Mac으로 이식되어 완전한 오프라인 엔드투엔드 음성 상호작용이 가능해졌습니다. 이는 커뮤니티에서 개발된 최초의 MLX 호환 버전이 될 것입니다. Qwen3-omni는 Thinker-Talker 듀얼 모듈 아키텍처와 MoE 하이브리드 전문가 구조를 사용합니다. 이를 MLX로 포팅하려면 상당한 재작성 작업이 필요하며, 구현 과정에서 많은 난관에 부딪혔을 것입니다. Mac용 현지화된 e2e 음성 모델이 필요하다면 이것을 확인해 보세요! 데모: https://t.co/6ZAGwmgJDr Github: https://t.co/cscW99XTJw