우리가 외장 하드 드라이브를 사용하는 것처럼 "외부 하드웨어 LLM"이라는 것이 이미 존재하나요? 로컬 모델을 실행하고 유지 관리하는 대신, 연결해서 프롬프트만 지정하면 바로 사용할 수 있는 추론 머신이 필요합니다. 단일 GPU 또는 병렬로 사용할 수 있는 몇 개의 GPU면 충분합니다. 누가 이걸 짓고 있는 거죠?
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.
트윗 1개 · 2025. 12. 18. 오후 5:01
우리가 외장 하드 드라이브를 사용하는 것처럼 "외부 하드웨어 LLM"이라는 것이 이미 존재하나요? 로컬 모델을 실행하고 유지 관리하는 대신, 연결해서 프롬프트만 지정하면 바로 사용할 수 있는 추론 머신이 필요합니다. 단일 GPU 또는 병렬로 사용할 수 있는 몇 개의 GPU면 충분합니다. 누가 이걸 짓고 있는 거죠?