21世纪经济报道记者 雷晨
近期一场媒体沟通会上, 月之暗面Kimi B端负责人黄震昕坦言, 今年以来,所有模型厂商都在涨价, 核心原因是全球范围内,算力成本上涨, 不管是海外的卡, 还是国内的卡, 都跟不上token需求的增长。
下游企业对于AI的应用需求呈现出爆发式的增长态势, 然而上游的算力供给却因为芯片产能受到限制,而持续处于紧张的状态。他持有这样的观点, 在供需两端所形成的双重挤压环境之下, API的价格随着形势发展而不断上涨, 这已然成为必然的结果。
然而, 黄震昕讲道, 要是仅仅一味地关注输入以及输出价格的变动情况, 以此来评判模型的性价比, 那么对于客户来说, 这是并不公平公正的。他提及了一项指标, 那便是Cache率, 也就是缓存命中率, 它指的是模型在处理重复或者相似输入的时候, 复用已经缓存的计算结果的比例, 而且命中率越高的话, 其实际使用成本就越低。
根据其有所讲述, 拿Kimi来讲, 原厂缓存命中率达到百分之九十以上, 于第三方平台OpenRouter的公开排名里处于首位。“缓存命中率九十多同七八十相较, 成本或许相差好几倍。”他讲道。
黄震昕更进一步地, 以某一家互联网大厂当作例子, 来佐证AI生产力变革的真实性, 这家企业给每一位员工, 每个月800美元的Coding Quota, “老板算得过来账, 才愿意投入资源和资金。”。
从他的角度来看, 这一回的AI变革和移动互联网的本质差异在于, 移动互联网是提升了信息交换的速度, 然而生产力以及生产结构根本没有发生质的变化;可是这一次不一样, 一旦企业主能够算清楚ROI并且持续追加投入, 那就表明生产力提升“实实在在已经产生了质变”。
有外界针对行业泡沫提出担忧, 对此他予以回应, 他承认当下确实存在泡沫, 不过他紧接着补充表示, Anthropic已经达成了季度盈利, 所获收益是真实存在的, 泡沫虽有, 然而基本面并非空洞无物, 当生产力切实出现重大改变时, 那些能够算得清账的企业会持续进行投入, 这恰恰是行业健康程度的一种体现。
有关模型未来的发展路径, 黄震昕称Kimi不会鉴于底层架构创新存在颇大难度就选择避开, “我们挑选直接朝着最难的问题展开挑战, 唯有达成底层架构方面的突破, 才能够构筑更大的模型, 促使Scaling Law持续推进前行。”他泄露, Kimi首次进行大规模验证以及应用的Muon优化器在后续已被GLM、DeepSeek V4等模型所采用, 进而成为新的标准。
关于企业AI落地处于“最后一公里”的情况, 他进行了判断, 当前的FDE(前沿部署工程师)模式仍处于摸索阶段。他表示, 难点并非在于模型厂商, 而是在于怎样能够迅速寻找到最先能够达成效率提升的业务环节, 并且行业目前还不存在标准范式。不过, 他坚信, 伴随模型基础能力不断增强的过程, 应用层的技术范式也会相应地得到简化 , 他举例说, 去年大家那会儿还整日都在探讨Prompt该如何去写, 而到了今天, 由于模型变得更加智能了, 已经很少会有人提及Prompt了。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/280544.html
