蓝鲸新闻报道,7月12日,经过半年的等待,“大模型六小龙”之一的月之暗面团队成功发布了新一代基座模型Kimi K2。官方透露,Kimi K2是一款在代码处理能力上更为卓越、在通用Agent任务方面表现更佳的MoE架构基础模型。该模型的总参数量高达1万亿,其中激活参数达到了320亿。
7月11日公布并对外共享的模型有两个版本,分别是基础版Kimi-K2-Base和针对通用聊天及智能体任务优化的后训练版Kimi-K2-Instruct。在涉及自主编程、工具运用及数学推理解析等能力的评估中,Kimi K2展现了出色的表现。以SWE-bench Verified、AIME 2025等评测平台为参照,Kimi-K2-Instruct的表现优异,其得分不仅超越了同属开源范畴的DeepSeek-V3、阿里Qwen3,更是接近甚至超越了诸如OpenAI GPT-4.1、Anthropic Claude 4 Opus等业界领先的闭源模型。
观察6月底启动的内测版新智能体“Kimi-Researcher”,我们可以明显看出,关于月之暗面的研究理念正在向“模型即智能体”的方向转变。这个模型本身就具备了自主做出决策和执行任务的能力,能够以智能体的身份处理各种复杂任务。
官方发布的案例显示,用户请求Kimi K2协助安排参与Coldplay乐队巡演的行程。该模型经过17次工具的调用,包括搜索、日程安排、电子邮件、航班查询以及餐厅预订等多个方面,成功制定了一份全面的机票、酒店以及旅游计划,并生成了可视化的报告。
智能体技术正成为全球各大模型制造商争相追求的发展趋势。在本周,马斯克领导下的AI初创企业xAI推出了全新的大规模模型Grok 4,该模型分为单智能体和多智能体两个版本,并具备了运用工具、进行实时搜索等多样化功能。Anthropic在发布Claude 4系列模型的同时,也着重指出,该系列在编程、推理以及Agent领域实现了前所未有的突破,确立了全新的标杆。它具备了应对复杂且持续时间较长的任务的能力。
Kimi K2在其技术博客中探讨了构建开放智能体的智能之道。他认为,预训练构成了智能体智能的基石,赋予模型基本的知识、理解以及推理能力,使得模型在后续的强化学习过程中能够更加高效地学习。然而,"人类数据如同珍贵的‘化石燃料’",如何在预训练阶段提高对有限数据的利用效率,已成为当前AI领域扩展所面临的关键挑战。
在后续的训练过程中,大型模型不再仅仅依赖于人类提供的数据,而是开始依据自身的行动和所取得的效果来获取奖励,并在此基础上进行自我优化,从而有望达到超越人类能力的水平。
Kimi K2便是在这些深刻见解的基础上得以塑造的,正如月之暗面所指出的。它还着重指出,Kimi K2构成了打造通用Agent的稳固基石,然而,通用Agent还需具备更高级别的技能,例如思维和视觉认知能力。未来,我们计划为这一模型增添这些先进功能。除此之外,Kimi在处理长文本方面曾具备显著优势,然而,Kimi K2所支持的上下文长度仅为128k,这一数据相较于近期推出的某些新型模型而言,显得略逊一筹。
值得注意的是,Kimi K2成为了我国首个公开的万亿参数规模模型。尽管在此之前,诸如腾讯的混元Turbo、MiniMax abab 6.5等厂商已经成功训练出了万亿参数的模型,然而,这些模型均选择了闭源的方式。
在培养Kimi K2这类拥有万亿参数规模的大型模型过程中,月之暗面团队运用了自主研发的Muon优化算法。相较于传统的Adam优化器,Muon在处理token时的效率更高,这使得大型模型能够以更快的速度、更高效的方式学习。为了应对Muon在超大规模训练过程中所遭遇的不稳定性挑战,研究团队创新性地提出了名为MuonClip的稳定性提升技术。这一技术有效地保障了Kimi K2在完成15.5万亿tokens的预训练任务时,没有出现训练损失值的异常波动。
自年初DeepSeek崭露头角,尽管其月之暗面陆续推出了一些技术或产品上的更新,却始终未能恢复外界对其的强烈期待,一度显得相当低调与沉默。然而,此次Kimi K2的问世,使得这家备受瞩目的创新企业终于重返基模领域的聚光灯下,而这场竞争的胜负尚未明朗。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/277117.html
