A:“众所周知,英伟达经常搞一些奇怪的数值运算。你还记得那次结果看起来像是fp32格式,但实际上却是用22位累加的吗?很多人都对此感到不满。” B:“哦,你是说tf32数据类型,它实际上就是fp23吗?” C:“不,我指的是 Hopper wgmma 上的 float8 累加,这在 fp22 中是秘密实现的。tf32 的情况完全不同。” 我今天和别人的一次谈话
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。
共 1 条推文 · 2025年12月20日 08:18
A:“众所周知,英伟达经常搞一些奇怪的数值运算。你还记得那次结果看起来像是fp32格式,但实际上却是用22位累加的吗?很多人都对此感到不满。” B:“哦,你是说tf32数据类型,它实际上就是fp23吗?” C:“不,我指的是 Hopper wgmma 上的 float8 累加,这在 fp22 中是秘密实现的。tf32 的情况完全不同。” 我今天和别人的一次谈话