Le projet Moonshot AI de Chine vient de dévoiler le tout premier modèle d'attention linéaire. Avec seulement 3 milliards de paramètres actifs, il surpasse les modèles à attention complète grâce à un décodage 6 fois plus rapide et une consommation de mémoire réduite de 75 % pour un contexte d'un million de jetons 🤯 100% open-source.
Plus d'outils et de projets d'IA detheunwindai.comco/BvTc8nQQW5 : Accédez à plus de 100 tutoriels sur les agents IA, RAG, LLM et MCP avec code source ouvert – le tout GRATUITEMENT.