1. 首页>>分享

飞腾信息技术有限公司宣布腾云 S5000C 和腾锐 D3000 成功支持 DeepSeek 全系列大模型

IT Home在2月9日报道说,Feiteng Information Technology Co.,Ltd。昨晚宣布,其Tengyun S5000C和Tengrui D3000成功地获得了对完整的DeepSeek模型的端到端支持,涵盖了数据中心和终端场景,以及本地部署。推理效率与类似的外国产品体系结构解决方案相媲美。

国产飞腾CPU实现对DeepSeek全系列大模型端到端支持__国产飞腾CPU实现对DeepSeek全系列大模型端到端支持

据报道,DeepSeek-V2.5 236B大型型号将在2024年的Feiteng Tengyun S5000C平台上保持稳定。基于Feiteng Cloud S5000C设备和8张国内AI卡,总体绩效可能达到外国外国表现的80%平台。发行DeepSeek-V3和R1版本后,Feiteng技术团队在Tengyun S5000C平台和Tengrui D3000上进行了本地部署验证,以构成整体解决方案。

在数据中心,Feiteng Cloud S5000C服务器可以与各种AI加速卡一起使用,以实现DeepSeek蒸馏版本和完整版本部署。 Feiteng AI实验室已在独立8卡服务器平台上蒸馏

DeepSeek-R1-Distill-Lalama-70B版本测试,推理速度可以达到22Tokens/s。 DeepSeek R1 671b模型的完整版本采用了分布式推理框架,可以根据四台32牌AI服务器群集成功部署。

国产飞腾CPU实现对DeepSeek全系列大模型端到端支持__国产飞腾CPU实现对DeepSeek全系列大模型端到端支持

在用户终端方面,DeepSeek-R1 7B蒸馏版型号可以在本地使用国内推理卡部署,以实现AI PC的功能。

IT Home拥有有关两个CPU的主要信息,Feiteng Tengyun S5000C和Feiteng Teng Rui D3000,如下:

Tengyun S5000C

Feiteng Cloud S5000C具有三种形式:64个核心,32个核心和16个核心。它与ARMV8指令集兼容,支持硬件虚拟化,并支持商业和工业分级。该产品主要旨在计算服务器,存储服务器,AI服务器和高端网络。安全性,行业级业务主机服务器系统,大型互联网数据中心和其他方案。

Tengrui D3000

Feiteng Rui D3000整合了由Feiteng独立开发的新一代高性能处理器核心。它与64位ARMV8指令集兼容,并支持两种执行模式:ARM64和ARM32,并支持单精制,双精度浮点操作指令和ASIMD处理指令。 ,主要频率达到2.5GHz,支持硬件虚拟化,并支持商业和工业分级。

国产飞腾CPU实现对DeepSeek全系列大模型端到端支持__国产飞腾CPU实现对DeepSeek全系列大模型端到端支持

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/274061.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息