손실이 폭발하면 RMSNorm을 추가하고 다시 시작합니다.
RMSNorm은 제 가장 친한 친구예요.
(1) VAE를 사용한 더 나은 교차 엔트로피가 많은 것을 의미하지는 않지만, 일반적으로 (2) 더 나은 교차 엔트로피가 더 나은 평가로 이어지지 않을 수도 있습니다. 하지만 적어도 폭발하지는 않고 인코더가 인코더의 역할을 수행하는 것 같습니다.
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.