除非我遗漏了现有技术或者理解有误,否则虚拟宽度网络绝对是一项堪比Big Shazeer的重大发明,它解锁了一种全新的缩放轴,其水平堪比弹性模态(MoE)。如果您有时间,请务必阅读这篇论文。
我怀疑这是或与此实质上非常接近的东西在作品 3/十四行诗 3.5 中引入的,并解释了他们对符号/编码和一般“灵魂”的不可思议的深刻理解。 (开玩笑啦,显然克劳德的一切几乎都是数据。但数据一点也不性感。)
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
共 2 条推文 · 2025年11月17日 17:29
除非我遗漏了现有技术或者理解有误,否则虚拟宽度网络绝对是一项堪比Big Shazeer的重大发明,它解锁了一种全新的缩放轴,其水平堪比弹性模态(MoE)。如果您有时间,请务必阅读这篇论文。
我怀疑这是或与此实质上非常接近的东西在作品 3/十四行诗 3.5 中引入的,并解释了他们对符号/编码和一般“灵魂”的不可思议的深刻理解。 (开玩笑啦,显然克劳德的一切几乎都是数据。但数据一点也不性感。)