当前位置:首页 > 实时热点 > 正文内容

DeepSeek提到的FP8到底是啥 引发AI圈热议

5天前实时热点16

  DeepSeek提到的FP8到底是啥 引发AI圈热议!DeepSeek V3.1发布后,一则官方留言在AI圈引起轰动。短短不到20个字的留言中提到新的架构和下一代国产芯片,信息量巨大。受此影响,国产芯片企业的股价纷纷上涨,例如寒武纪早盘盘中大涨近14%,总市值跃居科创板头名。半导体ETF也在半天内大涨5.89%。

  

  许多人对UE8M0 FP8这一概念感到困惑。UE8M0 FP8可以拆分为两部分解释。UE8M0是MXFP8路径中的“缩放因子”,而MXFP8是Open Compute Project在2023年发布的8 bit微缩块格式。Open Compute Project是一个由Facebook(现Meta)、英特尔、Rackspace等发起的开源硬件协作计划,旨在通过共享数据中心及服务器设计推动行业效率提升。其成员包括微软、谷歌、亚马逊、AMD、英伟达以及国内的阿里、腾讯、百度等公司。

  

  MXFP8基于FP8建立,将常规浮点格式压缩到8 bit。MXFP8的核心思想是将张量切成固定长度的“块”,为每个块指定一个2的整数次幂作为“缩放因子”,然后将块内所有数值除以这个系数后再写成FP8。这种块级的缩放方式保留了8 bit位宽,同时扩展了可用动态范围。UE8M0中的U表示无符号,E和M分别代表指数位和尾数位分配到的bit数。UE8M0指8个bit全部分配给了指数位。

  采用全指数表示缩放因子的方式有多个好处。首先,处理器在根据缩放因子复原数据时只需移动指数位,无需进行浮点乘法、规格化或舍入逻辑,缩短了时钟关键路径。此外,UE8M0的动态范围覆盖2^(−127)到2^128,为后续块缩放提供了充足空间。它还能解决单尺度FP8无法同时处理大/小值的问题,减少了信息损失。

  

  UE8M0 FP8更适配“下一代国产芯片”。目前,大部分已量产的国产AI加速器仍使用FP16/BF16 + INT8计算通路,未集成完整的FP8乘加单元。但摩尔线 NPU等新款国产芯片已在宣传资料中列出“原生 FP8”或“Block FP8”支持,并与多家厂商联合验证UE8M0格式。虽然下一代国产芯片在HBM/LPPDDR带宽方面仍有差距,但UE8M0让一组32个FP8数据只追加8bit缩放引子,相比传统FP32节省75%流量,成为重要优化方向。DeepSeek提到的FP8到底是啥 引发AI圈热议

相关文章

早田希娜3比2张本美和 上演王者归来

早田希娜3比2张本美和 上演王者归来

  中国乒乓球队正在参加日本横滨冠军赛,派出了孙颖莎等主力队员。孙颖莎已顺利进入八强,粉丝们希望她能杀入决赛争夺冠军。然而,在日本夺冠难度较大,因为日本队也派出了早田希娜等主力。...

专家:美股美债对美经济衰退看法不同 市场信号分歧明显

专家:美股美债对美经济衰退看法不同 市场信号分歧明显

  上周公布的美国非农就业数据表现不佳,促使固定收益投资者迅速调整预期实时热点,认为经济将急剧放缓。然而,在股票和信贷市场中,这份就业报告的影响几乎被忽视。本周,各类高风险交易再度飙升,尽...

北京今明有分散性雷阵雨 闷热感持续 注意防雷避雨

北京今明有分散性雷阵雨 闷热感持续 注意防雷避雨

  今明两天,北京受弱短波槽影响,将有分散性雷阵雨。今天白天晴转多云,西部山区可能出现雷阵雨,北转南风2至3级,最高气温32℃;夜间多云间阴,有分散性雷阵雨,南风2级左右,局地阵风可达7级...

舒淇为51岁老公冯德伦庆生 靓佬生日快乐

舒淇为51岁老公冯德伦庆生 靓佬生日快乐

  8月9日,舒淇为老公冯德伦庆生,并在社交媒体上祝福他生日快乐,称呼他为“靓佬”。冯德伦在评论区幽默回应:“终于等到你坦诚面对我靓仔了。”两人结婚近9年实时热点,感情依旧甜蜜。舒淇为51...

百果园董事长称在教育消费者成熟 品质优先获认可

百果园董事长称在教育消费者成熟 品质优先获认可

  8月8日,百果园董事长余惠勇通过视频回应了关于水果价格高的问题。他表示,百果园坚持走高品质路线,认为优质水果在市场上供不应求。余惠勇强调,商业有两种模式,一种是利用消费者的无知,另一种...

震惊!女孩肚痛查出卵巢像麻花一样扭了4圈 肚子里竟“藏”了15cm的大包块!

震惊!女孩肚痛查出卵巢像麻花一样扭了4圈 肚子里竟“藏”了15cm的大包块!

   女孩肚痛查出卵巢像麻花一样扭了4圈   【女孩肚痛查出卵巢像麻花一样扭了4圈】近日,一则令人揪心的医疗新闻引发...