1. 首页>>分享

火山引擎在云计算市场的崛起:从业者看法转变与未来发展分析

“原本我并不看好火山引擎,但现在我有了一些改变。”在云行业工作了8年的张坤说。

模型大战两年后,当雷锋网再次与众多从业者谈论火山引擎的“后进生”时,一些人对火山引擎的看法发生了很大变化。

01

云扑克桌上的后来者

火山引擎于2021年12月正式宣布开始进军云计算市场。与其他几家云厂商相比,这次进入的时间显得有些晚了。

回顾其他几家云厂商,阿里云是最先采取行动的。 2009年成立阿里云,开始自主研发大规模分布式计算操作系统“飞天”。

腾讯云于2013年3月正式上线。2018年930后,腾讯成立CSIG,转型工业互联网。

华为云在集团中的地位经历了多次调整和提升。最初,华为云作为二级部门存在,但短短六个月就迅速晋升为一级部门,战略地位仅次于华为三大BG(运营商BG、企业BG、消费者BG) 。随后又回归集团业务体系。

到2021年底,火山引擎入局时,云市场已经呈现出四强竞争格局,阿里云领衔,占据国内云服务市场40%的份额,其次是华为云、腾讯云和腾讯云。百度智能云。作为后来者,火山引擎想要在这个市场占据一席之地,需要经历一场非常艰难的战斗。

当时,尽管以Ucloud、青云为代表的独立云厂商拥有先发优势,但这四家云厂商进入云市场后,开始投入10-20倍的人力,不计成本和成本,快速占领市场。好处。后来,独立云厂商不得不退出中心舞台。从独立云厂商的角度来看,这个故事确实听起来颇为悲伤,但也隐含着云市场争夺战的激烈程度。

半年前,雷锋网与数十位云从业者交流,火山引擎是否能找到不一样的命运,进入云行业前三。大多数人给出的答案是:很难,入局太晚了。

面对强劲对手,火山引擎如何撬开云计算市场?雷锋网认为,核心策略之一是价格。这一策略在云市场引起了不小的轰动。火山引擎先后赢得了泛互联网、游戏、消费电子等行业的众多客户,并实现了快速增长。据业内人士透露,火山引擎今年的营收目标是比上年翻一番。

Volcano Engine的发展趋势也使其成为目前云市场上唯一一家大规模招募的公司。 “过去几年,其他几家云供应商的招聘需求减少了至少30%,而Volcano Engine不仅招聘了更多职位,而且薪资也略有增加。”猎头刘云说道。

然而,这种快速增长和繁荣并没有掩盖担忧。不少从业者认为,短期来看,火山引擎有资源自然可以大量投入。然而,低成本弹药并不是无穷无尽的。长期来看,还是需要产品驱动。目前,火山引擎在产品方面还很难赶上竞争对手。

不过,这是半年前大多数人的结论。在过去的六个月里,一些业内人士改变了对火山引擎的评价。他们认为,这波大车型浪潮,正在给火山发动机提升产品竞争力的绝佳机会。同时,也为火山引擎的销量开辟了新的突破。

02

AI基础设施、云厂商站在同一起跑线上

为什么说大模型让 Volcano Engine 能够赶上老牌云厂商呢?

核心原因在于,随着大模型训练和推理的需求不断增加,客户在选择云基时不仅会关注上一个云的基础能力,还会进一步关心AI基础设施的能力。在AI基础设施上,所有云厂商都站在同一起跑线上,而Volcano引擎的迭代速度几乎是厂商中最快的。

不久前,火山引擎原力冬季大会全新升级了以GPU为核心的AI基础设施分布式业务系统,通过vRDMA网络支持大规模并行计算和P/D分离推理架构,提高训练和推理效率,降低企业使用量成本。 ; EIC弹性超快缓存解决方案实现GPU直连,将大模型推理延迟降低至五十分之一,成本降低20%。

火山引擎之所以能够在AI基础设施上快速迭代,可以追溯到火山引擎在2021年制定的产品战略。

“从2021年开始,我们就确立了注重双方的产品思路,同时注重库存,做增量。”火山引擎云基础产品负责人罗浩表示。

_火山引擎logo_火山岩桌子

罗浩,火山引擎云基础产品负责人

罗浩提到的盘点是指传统云计算的需求,包括ECS、存储、数据库、网络、安全等一些云基础产品。不可否认,作为后来者,霍山引擎在这些基础云产品上与其他厂商还是有差距的,所以罗浩认为他们在这方面的核心就是快速弥补短板。

然而,仅仅弥补缺点是不够的。如何使产品具有差异化是赢得市场竞争的关键。随着生成式AI浪潮的到来,火山引擎立即决定在算力方面进行突破,也就是罗浩所说的增量,服务于两年前爆发的训练需求和如今的大规模推理需求。

“最早在2021年,我们就会开始大规模投资AI和GPU。”

从过去一年火山引擎在AI基础设施上的销售表现可以验证这一战略判断的正确性。几乎所有大型模型公司都是火山引擎人工智能基础设施的买家。

如果说4年前“两手抓”的产品策略是火山引擎追赶AI基础设施的基础,那么这几年的内外部实践则是AI基础设施迭代的关键驱动力。所有的产品稳定性和能力往往都是在业务场景中得到提炼和重生。

在这些实践中,让火山引擎AI基础设施加速的就是大豆袋模型。不久前,火山发动机总裁谭代在火山发动机动力冬季大会上公布了一个数据。 2024年豆宝日均代币数据从5月15日的1200亿增长至12月18日的4万亿。

能够实现其他厂商几乎没有遇到过的33倍的增长,这对底层AI基础设施的性能和成本来说几乎是一个很大的考验。

罗浩表示,今年5月之前,豆宝的规模还很小。为了让大豆宝模型能够良好运行,他们增加了更多的GPU资源,以保证大模型能够快速响应大量的查询请求,以提高客户体验。

但他们很快发现“卷堆叠”方法行不通。随着用户数量的增加,继续这样做的成本变得难以承受。

优化推理成本刻不容缓,他们的团队开始大规模分析哪些地方是“成本暴发户”。经过仔细计算,他们发现缓存和存储部分是推高计算成本的重要部分。

“传统缓存技术的一个问题是,当它处理数据时,会绕一大圈,经过CPU,然后到达内存,这会导致延迟增加和性能下降。”罗浩说道。

为了解决这个问题,他们决定重写整个缓存系统。新系统完全围绕GPU展开,不再依赖传统的CPU架构。这意味着数据可以以更高效的方式直接从GPU传输到远程内存,使用一种称为GDR、GPU Direct RDMA(GPU直接远程内存访问)的技术,这不仅减少了延迟,还提高了整体性能。

这个数据传输过程就像寄信一样。本来需要经过邮局,速度慢而且容易出错。现在,系统就像数据的直通车,快速地从一个人直接发送到另一个人,省去了中间环节,变得更快、更准确。

“这些内外部业务对我们的意义在于,我们可以比别人更早避开陷阱,更早发现问题,更早解决问题。”

今年5月的火山引擎动力春季发布会上,豆宝主力机型在企业市场的定价比行业价格低99.3%。 “这个99.3%的降价并不是我们想到的,而是建立在之前AI基础设施的优化之上的。计算一下。”

罗浩表示,目前计算范式正在从云原生进入“AI云原生”的新时代。火山引擎正在重新优化以GPU为中心的计算、存储和网络架构。 GPU可以直接访问存储和数据库,显着降低IO延迟。同时整个系统提供高速互联和端到端的安全防护。

这是国内云厂商首次提出“AI云原生”概念。如今,新架构依然支撑豆宝大模型,实现业务快速指数级增长。

除了大型豆袋模型让人“排斥”之外,火山引擎AI基础设施能够在较短时间内升级,这也与火山引擎独特的组织结构有关。

国内其他几家云厂商的产研团队基本与集团业务分离,但火山引擎却不是。做火山引擎的这群人来自字节中心,和罗浩本人一样,有两个身份,一个是火山引擎云基础产品负责人,另一个是字节跳动基础设施负责人云产品,吴迪也是如此。他的第一个身份是火山引擎的算法负责人,另一个身份也是字节机器的负责人。学习中心负责人。

这种组织方式有两个好处:一是Volcano资源和Byte资源都由一个人管理,资源可以得到充分利用;二是人才能力得到重用。

03

开辟商业化新突破

大型号的到来,除了缩小火山发动机与其他厂商产品的差距外,更明显的作用是为火山发动机的商业化带来新的突破。

如上所述,当成绩不佳的火山引擎进入云市场时,面临的一个大问题是如何打开市场。过去,火山引擎使用了一些定价策略,确实取得了一些效果,但这毕竟不是长久之计。 。

而对于这波大车型来说,火山引擎最重要的是它多了一张吸引顾客的“王牌”——大豆袋车型。

一位火山引擎销售人员曾向雷锋网讲述了自己的销售经历:以前,我经常绞尽脑汁地寻找拜访客户的理由,而且由于火山引擎是云市场的后来者,一些客户经常会问灵魂问题,他们为什么选择云引擎?你?但自从大模型出现之后,越来越多的客户有大模型训练的需求,有的客户会主动询问如何构建自己的大模型。

趁着大车型普及的浪潮,火山引擎正在加速商业化。据资深猎头王帆介绍,今年年中,火山引擎独立组建了一支不到10人的大型模型商业化团队。云厂商之间也是如此。是唯一一家独立组建大型模型销售团队的公司。其他云厂商的大模销售人员依然是卖云的销售和渠道。

云销售销售大车型的一个问题是存在技术壁垒。一般的云销售不一定有能力向客户清楚地解释大机型的价值和技术,而火山引擎也希望通过豆包大机型进入更大的市场。很多客户已经和朋友合作过,这也是成立这个群的重要原因。

过去的一年,我们可以看到火山引擎借助大模型在商业化方面取得的突破。据了解,豆宝大模型已应用于汽车、手机、金融、消费、互动娱乐等30多个行业。特别值得一提的是,在汽车行业,火山发动机确实拿下了很多汽车大订单。

早在去年,火山引擎就与吉利、长城、蔚来、广汽等多家车企达成深度合作,为车企提供数字营销、智能座舱、车载等一系列服务。聚合的音频和视频内容。

今年5月,火山引擎成立了汽车大车型生态联盟,由一汽红旗、东风乘用车、吉利汽车、长城汽车、广汽乘用车、宇通客车等24家整车厂、官方机构、出行生态企业组成。下半年,火山发动机在汽车领域有一个重要的突破性客户,那就是奔驰。 8月13日,火山发动机与梅赛德斯-奔驰签署战略合作备忘录。双方宣布将在大模型、生成式人工智能、大数据技术等领域开展合作。

不过,也有不少人质疑,出售大型车型能否增加火山引擎的营收。毕竟OpenAI和Gemini都在不断降价。今年5月,豆宝在国内率先对大机型进行降级。豆宝主力机型在企业市场定价为0.0008元/千Token。在接下来的几个月里,其他制造商迅速效仿。 12月底,火山引擎再次升级视觉模型,价格定为0.003元/千代币。

火山引擎总裁谭戴公开表示,大豆袋车型定价一步到位,毛利合理。但目前各厂商大模型API营收规模并不大。根据雷锋网的研究发现,每月1万的消费,相当于公有云消费1000万的客户数量,是一个非常大的客户。

诚然,大车型带来的效益远不及目前的投入,但大车型的业务需要用长远的眼光来看待。当大型模型应用规模增大时,肯定会带动云的使用。据IDC报告,未来五年国内训练算力和推理算力分别以超过50%和190%的年复合增长率发展,2028年推理算力将超过训练算力。届时,火山引擎最先大举投入大机型的,或许也更新了云卡榜的排名。

BAT 云销售涌入 Volcano Engine

火山引擎To B,复制字节数据技术体验之旅

多云时代已至,火山发动机“弯道超车”正在进行

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/273641.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息