Kimi-Linear est une expérience de 3 milliards de jetons actifs et de moins de 6 000 jetons. Son architecture n'a rien de futuriste (sauf qu'elle fonctionne) : NoPE MLA + GatedDeltaNet sophistiqué. Cela me laisse fortement penser que : a) l’attention à long terme des Gémeaux n’a rien de secret ; b) tout repose sur les TPU. Pas de « Titans ».
