Transformer++는 실제 논문이지만 이 용어는 일반적으로 Mamba 논문에서 처음 사용된 LLaMA2 레시피에 사용됩니다. 제 생각에는 지금까지 트랜스포머가 여러 개 있습니다. DSMoE 이후의 업계 표준은 또 다른 +를 받을 자격이 있으며, 가장 완성도 높은 버전은 Zaya입니다. 내 의견에 따른 최고 경쟁자 표:
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.