IT Home在2月9日报道说,Feiteng Information Technology Co.,Ltd。昨晚宣布,其Tengyun S5000C和Tengrui D3000成功地获得了对完整的DeepSeek模型的端到端支持,涵盖了数据中心和终端场景,以及本地部署。推理效率与类似的外国产品体系结构解决方案相媲美。
据报道,DeepSeek-V2.5 236B大型型号将在2024年的Feiteng Tengyun S5000C平台上保持稳定。基于Feiteng Cloud S5000C设备和8张国内AI卡,总体绩效可能达到外国外国表现的80%平台。发行DeepSeek-V3和R1版本后,Feiteng技术团队在Tengyun S5000C平台和Tengrui D3000上进行了本地部署验证,以构成整体解决方案。
在数据中心,Feiteng Cloud S5000C服务器可以与各种AI加速卡一起使用,以实现DeepSeek蒸馏版本和完整版本部署。 Feiteng AI实验室已在独立8卡服务器平台上蒸馏
DeepSeek-R1-Distill-Lalama-70B版本测试,推理速度可以达到22Tokens/s。 DeepSeek R1 671b模型的完整版本采用了分布式推理框架,可以根据四台32牌AI服务器群集成功部署。
在用户终端方面,DeepSeek-R1 7B蒸馏版型号可以在本地使用国内推理卡部署,以实现AI PC的功能。
IT Home拥有有关两个CPU的主要信息,Feiteng Tengyun S5000C和Feiteng Teng Rui D3000,如下:
Tengyun S5000C
Feiteng Cloud S5000C具有三种形式:64个核心,32个核心和16个核心。它与ARMV8指令集兼容,支持硬件虚拟化,并支持商业和工业分级。该产品主要旨在计算服务器,存储服务器,AI服务器和高端网络。安全性,行业级业务主机服务器系统,大型互联网数据中心和其他方案。
Tengrui D3000
Feiteng Rui D3000整合了由Feiteng独立开发的新一代高性能处理器核心。它与64位ARMV8指令集兼容,并支持两种执行模式:ARM64和ARM32,并支持单精制,双精度浮点操作指令和ASIMD处理指令。 ,主要频率达到2.5GHz,支持硬件虚拟化,并支持商业和工业分级。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/274061.html