《科创板日报》8月24日发布消息(记者 张洋洋)国产大模型公司DeepSeek引起资本市场高度关注。
最新消息,DeepSeek发布新一代模型DeepSeek-V3.1,该模型使用UE8M0 FP8 Scale参数精度,公司强调此精度是为未来国产芯片量身定做的。此消息一出,资本市场立即出现显著波动,寒武纪等芯片行业上市公司股票价格普遍上涨。
然而,就在最近两日举办的2025算力大会上,依据《科创板日报》记者的实地走访和所见所闻,人们在关注国产算力的同时,DeepSeek的FP8精度标准虽然引起了热议,但业内专家们的情绪显然不如资本市场那般热烈,他们更注重FP8在模型训练、推理以及生态规范方面的实际意义和所面临的难题。

▍FP8是什么,有哪些提升?
AI训练和推理时,常通过降低数值精度来提高计算效率,这是一种常见的技术方法。
摩尔线程AI Infra总监陈志向《科创板日报》记者表示,以往,大模型训练推理多采用32位浮点数,后来慢慢转为16位浮点数混合精度,目的是为了降低存储和通信成本,而FP8又将数据精度缩减到了8位。
FP8最突出的长处在于运算效能提升一倍,此外还能减少训练和推断时网络传输的数据量。陈志指出,比如以前传输一个FP32数据要4个字节,现在用FP8只需1个字节。虽然网络物理传输能力未必增强,但每单位时间能传递的信息增多了,同时也使得存储需求变小了。这表明在相同的能量消耗水平上,人工智能处理器能够处理规模更宏大的数据集或者将学习周期显著压缩。
不过,FP8也不是万能的。
2025算力大会现场,一位不愿透露身份的国产芯片行业人士向《科创板日报》记者表示,采用类似FP8的低精度方式进行训练推理虽然效率高,却容易因为数值范围过小引发计算失误。此外,不同运算对精度的需求存在差异,例如矩阵乘法这类运算对精度要求不高,可以用FP8等较低精度进行计算;而累加运算或某些特定函数则必须使用较高精度。因此,业内一般会运用“混合精度训练”的方法,依据计算任务的不同,灵活选用不同的精度标准,以此在提升效率的同时保证结果的准确性。
▍Deepseek能否推动新标准
DeepSeek-V3.1采用UE8M0 FP8 Scale的参数精度,这被视为国产AI芯片进入新时期的标志。这一消息促使寒武纪等芯片相关上市公司股价显著攀升,然而业内专家反应较为谨慎。

业内普遍认为,DeepSeek的这个行动无疑为国内算力企业带来了机遇,FP8象征着算力提升的正确路径,训练和运用大型模型并非单纯依靠硬件叠加,它也并非万能钥匙,更关键的是要注重实际应用成效,而且DeepSeek的这次举措,将来是否会演变为大模型训练和推理领域的新规范。
陈志认为,大模型对精度的要求越来越宽松,从FP32到FP16,再向FP8过渡,是整个行业经过验证的发展过程。DeepSeek此次验证了FP8在大型模型上的可用性,未来在FP8这一标准或更高精度上进行研究或训练,也是一个关键的发展方向。
这表明,国内计算能力环境必须相应改进,涵盖芯片、基础软件、运算支持系统直至软件应用的全流程整合。
陈志谈到,精度规范若发生更动,供应链两端企业须同步改进。摩尔线程已着手推进FP8探索,这既是能力积淀,也为将来生态格局变动时赢得先机。
他接着讲,大模型训练推理的关键难点不仅在于计算资源的大小,还涉及能源消耗、系统稳定和团队效能,国内已有万卡规模的团队配置,不过仍需向高智能计算团队发展,以攻克效能与抗错难题,保障团队稳固运行,单纯增加设备数量无法完全满足条件,提升单个设备的性能和团队资源调配同样重要。
(科创板日报记者 张洋洋)
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/278177.html
