人工智能上市公司深圳云天励飞近期在算力产品与服务业务板块完成多笔大单。

首先，11月5日，云天励飞宣布完成近16亿元人工智能大订单交付，为北京德源方汇科技发展有限公司（简称“德源方汇”）提供AI训练和推理服务。 ) 计算服务。同时，第一批算力服务（相当于合同中算力规模的60%左右）的验收相关工作已完成，上线日期为2024年10月1日。

▲云天励飞最新公告部分内容

不久前的9月，云天里飞飞刚刚中标价值约1.3亿元的“天府智能计算中心（一期）项目设备采购及监理服务采购项目”，连续中标两个城市。

去年以来，大型模型对训练和推理计算能力产生了大量需求。全球云计算厂商、服务器厂商、AI公司以及一些跨界玩家已经开始进军智能计算行业。

作为一家以AI算法起家的公司，云天励飞拿下这些项目背后是怎样的技术和商业逻辑？这能给AI同行带来怎样的启发？

本文通过与云天励飞副CFO兼资本中心总经理陈腾宇的对话进行了深入探讨。

1、大模型暴涨500天，训练和推理算力需求激增。

自2023年大型模型普及以来，对训练和推理计算能力有大量需求。

大型模型正在向超大参数规模发展。 OpenAI提出的百万卡智能计算集群的想法得到了验证，带动智能计算中心如雨后春笋般涌现。工信部最新数据显示，截至2024年上半年，我国已建成或在建智能计算中心超过250个。 2024年上半年，智能计算中心招标相关事件791起，同比增长407.1%。

提前预见到这一趋势，云天励飞于2023年初进军异构算力领域，这是国内AI企业布局智能计算的最早举措之一。陈腾宇向智东西谈起当时的机会：短期来看，云天理飞在研发过程中有大量的技术积累，可以支持异构算力集群的高效运行，盈利能力也不错。大量;另一方面，训练背后的推理需求是更大的蓝海，这将为云天励飞自研推理芯片提供广阔的应用场景。

经过一年多的筹划，2024年7月，云天励飞与德源方汇一举签订了16亿元的人工智能大订单，在业内名声大噪。

根据合同，云天励飞将为后者提供智能算力调度和AI大模型开发服务平台配套服务。总算力规模约为4000PFLOPS，用于大型模型训练和推理。

项目规模之大、业务之集中，让不少业内人士好奇，云天励飞能否胜任这个项目？

陈腾宇告诉智喜喜，该项目已全面交付，已进入调试验收阶段。同时，该项目的商业化也不成问题。据云天励飞官方公告，该项目预计未来三年每年为公司新增收入约5亿元，三年内累计利润5.39亿元。

今年9月，云天励飞跟进中标价值约1.3亿元的天府智能计算中心项目。

据悉，该项目现已进入交付流程，预计将进一步为云天励飞的业绩带来直接效益。

大项目纷纷交付，标志着云天力飞异构算力业务步入正轨，成为新的增长曲线。

可以看到，与国内其他AI领域的同行相比，云天理飞是一家在该领域跑得更快的AI公司。究其原因，首先是因为公司较快地看到并抓住了这波AI机会。

不过，也有不少企业提前布局了AI算力。云天黎飞为何能够突破？

2. 为什么选择云天励飞？左手算法，右手芯片

AI算力混战已经持续一年多了。

去年以来，虽然云巨头们陆续推出了令人瞩目的大规模模型训练和推广“全家桶”，但实际可用的算力仍然是稀缺资源。服务器厂商、AI公司纷纷布局智能计算，甚至跨界玩家也纷纷入局。是的，竞争就是这么激烈。

之所以能够在群雄逐鹿的AI算力市场站稳脚跟，陈腾宇认为，云天励飞的核心竞争力在于技术储备，主要体现在算法和芯片两大方面。

1、自主研发大模型经验积累工具，帮助客户提高算力利用效率

在算法层面，云天励飞于2023年推出了自主研发的千亿级“云天天枢”大模型，并在大模型的发展过程中，积累了一系列算力优化的技术平台和相应技术。并提高模型训练效率。工具。

这些经验和工具已经被云天励飞融入到产品和服务中，可以帮助客户提高模型训练和算力利用效率，以更低的成本训练大型模型。

具体到集群管理，云天励飞的智能训练平台和算力调度平台可以按任务调度卡，进行任务管理、任务编排、训练报警、大模型断点续训等。

此外，其数据管理（DataHub）支持数据可视化、挖掘、治理等多维度管理，在保证数据安全的同时实现数据资产化；此外，在集群管理中的通信优化、日志集群、监控报警等多个工具链方面也积累了经验。

具体到软件平台，云天励飞推出了智能算法标注平台，为算法训练提供可靠的底层数据支持，支持图像、文本的自动标注。据称，与人工标注相比，效率提高了40%左右。

此外，还有支持大模型负载均衡的部署平台、支持零代码、在多个主流硬件平台上自动化模型发布的模型发布平台、提供完整工具和资源、全面覆盖的模型评估平台。内容审查和过滤。智能内容审核平台等，可以大大提高算法训练的效率。

2、算法融入芯片，自研大模型芯片提供高效推理服务。

在芯片层面，基于对AI算法技术特点和行业场景计算需求的理解，云天励飞通过定制指令集、处理器架构和工具链的协同设计，实现了基于芯片的算法技术，并构建了基于芯片的算法技术。神经网络处理器平台。 ，可以支撑其算力产品和服务。

同时，云天励飞已经拥有自主研发的推理卡，依托创新的D2D Chiplet架构，可以承载大型模型应用的大规模推理计算。据悉，从2022年开始，其将开始优化大型号的Transformer架构并实现流片，可见其对市场的前瞻性认知。

虽然在软件生态上还存在差距，但与海外高性能算力相比，一些国产推理芯片在某些专项项目上已经具备优势。例如，云天力飞X6000一体机采用Mesh互联技术，实现多卡互联时存储共享，最大限度发挥带宽优势，从而提高大型模型的推理效率。 70B模型的推理效率已达到60 Token/s。对于MoE架构模型，如mistral08*7B，推理效率达到260 Tokens/s。

具体到大模型推理的实践中，很多客户更关心的是带宽是否能够得到充分利用。云天励飞在卡间互联、堆叠设计等多方面的研发储备，使其能够满足客户的这一核心需求。

可见，其之所以能够拿下近20亿元的大单，是因为云天励飞建立了左手算法、右手芯片的双护城河，让其在行业内杀出了一条血路。群雄逐鹿的AI算力市场。

3、以技术为基础，提供最理解大型模型的算力产品和服务。

纵观算力行业，一个项目金额往往可达数亿甚至数十亿元，周期长、工作量大，对后续运营服务需求高。

针对这样的业务特点，陈腾宇告诉智洞智，对于大客户来说，在选择算力服务商时，首先要考虑该公司是否靠谱。除了技术储备外，检验的主要方面还包括行业经验、供应链和交付能力、运营稳定性和资金实力等一系列综合能力。

随着百款大战持续推进，集群运营面临的最大挑战在于整体运营能力，而随着市场趋势的变化，通过软硬件协同迭代，不断满足新的客户需求。

谈及云天励飞在这些“软实力”方面的储备，陈腾宇表示，云天励飞打造了一支能力比较完善的业务团队，包括技术研发、运营销售、技术运维、交付等人员，以保证云天励飞在这些“软实力”方面的储备。业务开展顺利。

同时，该业务板块已得到大规模落地。据云天理飞官方公告，已在西南、华南区域上线三个高性能计算集群，运行算力规模近5000P。在拿下两笔巨额订单之前，截至2024年5月末，该公司已搭建了算力超过800P的异构计算集群。

此外，云天励飞还积累了多个行业的客户资源。通过早期的业务拓展和上下游生态建设，云天励飞积累了众多有大模型训练和推理需求的客户，包括AI初创公司、科研院所、互联网公司、自动驾驶公司、运营商等客户资源。

可以看到，正是这样的团队储备、实施案例和客户资源积累，结合“算法芯片化”的战略和技术储备，才让云天力飞的异构算力业务稳步发展。

对于AI行业来说，云天励飞为AI企业在大模型时代开辟了一条新出路——不停留于算法研究，而是将算法与算力经验相结合，布局算力产品和服务，这对人工智能同行有一定的影响。鼓舞人心的效果。

结语：顺应趋势，为AI企业创造新价值

回顾过去一年多，AI算力在“百模之战”的狂潮中成为竞争焦点；现在放眼未来，行业经历了一波又一波的浪潮，像云天励飞这样突围而出的玩家正在真枪实弹地战斗。上阵，为AI企业构筑新的价值壁垒。

智能计算中心正在从“建设”走向“使用”，这也给云天励飞带来了新的挑战。 “我们在能力建设和商业化方面已经做好了，下一步我们将继续深化，绑定多个行业龙头，尽可能挖掘客户需求，同时借用他们的行业经验进行迭代我们自己的推理计算能力。”陈腾宇说道。