bf16 할로윈이 벌써 끝났나요? 그냥 플래시 어텐션 버그일 수도 있겠네요.
최근에는 신스 프리트레인에만 집중했지만, 다음에 rl로 돌아올 때는 vllm이 아닌 구현을 정말 기대하고 있습니다.
이걸로 처음부터 다시 시작하는 게 얼마나 어려울까? https://t.co/0getkvHpBk
확장성은 떨어지겠지만 코드는 정말 깔끔해 보이네요. 제대로 문서화된 노트북 같은 걸 만든 사람은 아무도 없나요?
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.