Yohei(@yoheinakajima)의 스레드

이미 소규모 작업을 위해 오픈 소스 모델을 미세 조정하기 시작했다면 @runanywhereai SDK와 같은 것을 사용하면 일부 추론을 사용자 장치에 오프로드하여 클라우드 추론 비용과 지연 시간을 줄일 수 있습니다. 하지만 내가 생각하지 못한 더 재밌고 독특한 응용 프로그램이 있을 수도 있습니다.