Andrej Karpathy（@karpathy）のスレッド

「スロップ」の良い定義をご存知の方はいらっしゃいますか？定量的、測定可能な意味で。私の脳には直感的に「スロップ指数」というものがあって、それを確実に推定できるのですが、どう定義すればいいのかよく分かりません。LLMミニシリーズを使ったり、トークン予算を考えたりといった、いくつか悪いアイデアがあるのですが。