Smol 정말 아름다워요! 방금 제 M1 Mac에서 테스트해 봤는데 정말 인상적이었어요. 여러분, 이건 3B 4비트 양자화예요! Mac에서 사용해 보고 싶으시다면 아래 빠른 MLX 포트 링크를 참고하세요. @Dorialexander 님도 관심 있으실 것 같아요.
여기 MLX 포트가 있습니다. 설명서에 따라 직접 모델을 변환해야 합니다. (변환된 모델은 곧 HF로 업로드하겠습니다.) https://t.co/gCWnvuNEjs
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.