@vllm_project의 오픈 가중치 모델, @pipecat_ai와 같은 오픈 소스 프레임워크, @modal의 인프라를 사용하면 1초 미만의 지연 시간으로 RAG를 포함한 자체 음성 챗봇을 실행할 수 있습니다.
여기에서 소스 코드와 함께 자세한 방법을 알아보고 직접 실행해 보세요. https://t.co/L12y063oks
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.