文 I 奕萱

编辑 I 萌萌

2022年11月，GPT的问世在全球范围内引发了大规模模型发展的热潮。仅仅两年半的时间，大模型领域便以前所未有的速度出现了众多创新成果，这些成果涉及模型架构、训练方法以及应用等多个技术领域，从而不断推动人工智能技术向更高层次发展。

7月27日，在举办的世界人工智能大会（WAIC）中，“大模型技术演进与发展之路”这一圆桌论坛吸引了众多目光。该论坛集中探讨了前沿的大模型技术动态及其未来趋势。与会嘉宾包括阶跃星辰的首席科学家张祥雨博士、上海人工智能实验室书生大模型负责人陈恺博士、智谱华章的总裁王绍兰女士、第四范式的首席科学家陈雨强博士以及英伟达副总裁Neil Trevett。

会议聚焦于技术范式转换、强化学习所面临的挑战及其发展、模型结构的革新、突破数据限制的方法、基础模型开发与行业应用之间的协调、开源社区的成长等核心问题，与会嘉宾们基于自己的实践经验与研究成果，交流了富有洞见的见解，为揭示大型模型技术发展的内在规律和前进方向贡献了宝贵的参考资料。

技术范式正经历着迁移过程，原先由OpenAI所创立的以“预训练为核心、监督学习为补充”的大模型技术模式，正逐步演变为强调“显著增强推理性能的强化学习”新模式。

模型架构可能迎来变革，传统Transformer架构在满足智能体自主性需求方面存在不足。展望未来，类似循环神经网络（RNN）的架构有望成为主流。这要求我们引入深层与浅层之间的反向交互机制，并解决并行化过程中的挑战。

数据面临瓶颈，破解之道在于：互联网领域的数据质量问题突出，且数据量正逐渐减少，因此行业数据显得尤为关键。提高数据质量，并借助行业应用场景，是挖掘行业数据价值的关键所在。

在追求基础模型研发与行业应用落地的过程中，我们必须认识到，目前基础模型的发展距离实现通用人工智能（AGI）还有一段较长的路要走，因此需要我们不断地加大投入；与此同时，大型模型也需要找到实际的应用场景，这样才能充分展现其价值。

开源项目在当前大模型时代中，有助于优化资源配置、推动行业加速进步，然而，我们还需关注模型可能出现的分化、零散化以及不当使用等挑战。

WAIC大模型圆桌实录：技术演进、数据瓶颈与开源生态

以下为对话内容实录整理：

林达华指出，随着大模型技术的不断进步，它已经走到了一个关键的岔路口，不同层面的技术路径上出现了许多不同的观点。在过去的半年里，大模型的发展经历了一次重要的转变：它从以OpenAI为主导的“以预训练为主，监督学习为辅”的模式，逐步演变为了“着重于显著增强推理能力的强化学习”的新范式。

伊利亚，OpenAI的前任首席科学家，在2024年的会议中宣称“预训练的时代即将画上句号”。这种范式的转变，将如何影响大型模型未来的发展路径？

实际上，尽管推理和强化学习这两种范式显著增强了模型的处理和推理能力，但它们也遭遇了不少难题，比如可能出现幻觉现象、思考过程过于繁琐，以及是否能在数学和编程之外的其他领域实现同等程度的提升等问题，这些都是大家普遍关心的问题。

祥雨博士与陈恺博士最近推出的模型，其显著特点在于推理能力。对此，我们该如何审视这一范式变革？同时，强化学习目前正遭遇哪些挑战？

张祥雨：今年以来范式的演进让模型推理能力提升了一个大档次。

范式的合理性体现在，它通过精简数据素材，在模型内部构建出更为紧密的表征，这对模型学习世界知识和构建内在知识结构起到了至关重要的作用。然而，预训练所采用的“行为克隆”范式，传统观念认为其中存在的问题，在当前的预训练实践中仍然存在。

即便投入再多的数据量、再庞大的模型，也难以明确区分“压缩”与“推理”之间的差异，后者指的是通过发现逻辑上自洽的因果链来达到目标的能力。因此，O1等强化学习模式应运而生。从逻辑角度来看，这一模式致力于追求目标的最大化。其中最引人注目的是，它提出了带有反思性的思维链。这一创新在一定程度上解决了Transformer架构在预训练过程中过度压缩的问题。这是因为缺乏反思，过于复杂的决策难以实现。

我赞同该范式的科学性，其未来的发展主要沿着两条主线推进：首先，它将不断拓展其应用范围，纳入自然语言作为反馈方式，而不仅仅是数学、代码等明确的反馈形式。通过引入自然语言反馈，这一范式能够向上游迁移至大规模预训练模型，并向下游扩展至更广泛的实际应用场景。这对于构建能够自主学习、自主探索环境的智能体（agent）至关重要，同时也要求反馈信号能够处理非确定性的自然场景信息。

林达华表示，陈恺博士的讲座中提出的技术范式有了显著扩展，包括将强化学习扩展到大规模预训练领域，以及利用强化学习来提升推理能力，这一点颇具启发意义。

我们观察到上海人工智能实验室在过去半年里在强化学习领域取得了丰硕成果，并且成功推出了InternBootcamp（加速训练营）。陈恺博士，您认为强化学习目前面临的主要挑战以及未来的发展趋势是怎样的呢？

陈恺提到，近期强化学习领域备受瞩目，这同时也促使研究者从新的角度重新审视预训练的价值。强化学习之所以能够展现出耀眼的光芒，关键在于一个优质的冷启动模型。在过去，这个模型可能由预训练、SFT和强化学习共同构成，而现在，对预训练的重视程度持续上升——它为强化学习提供了坚实的基础，助力模型发掘更多的未来可能性。

随着SFT阶段的不断缩短，部分功能已被强化学习所取代。在预训练价值得到重新认识之后，这无疑将加速强化学习的进步步伐。

当前强化学习面临两大挑战：

奖励与反馈的问题在于，目前强化学习主要处理那些有明确答案的任务，然而，众多具有实际价值的任务却缺乏一个确定的答案。因此，我们需要探索新的评价体系或者引入实际的交互反馈，以此来构建奖励机制。这一过程是强化学习能够应用于更多任务领域的关键所在。

基础设施方面的问题：强化学习的效率有待提升，这需要大量的计算能力来支撑模型的探索和学习过程；而如果未来技术朝向交互和反馈的方向发展，对基础设施的要求和挑战将会更加显著。

林达华表示，在模型研发过程中，训练方法的选择至关重要，而一个高效的模型结构则是其根本。今年初，Deepsek v3的发布引起了业界的广泛关注，其关键在于提出了更为高效的模型结构，显著减少了训练与推理的成本。随着我们步入多模态时代，模型结构层面是否还有创新的空间？是否有可能出现超越现有Transformer标准架构的根本性变革？

张祥雨提到，在超大型模型的演进历程中，其架构并非是决定性能的最关键因素，它更多的是服务于整个系统和算法。以往，大规模模型的训练多采用next token prediction方法，而Transformer架构凭借其众多优势，非常适合用于支撑系统和算法。正因如此，即便经过多次改进，Transformer架构依然被视为一种经典的架构设计。

然而，时至今日，情况发生了转变：算法正逐步转向更为复杂的智能体（agent），应用领域也从推理（reason）时代过渡到了智能体（agent）时代。智能体的关键特质在于其自主性——它们能够主动与环境进行交互，并从环境中汲取知识。这要求我们的架构具备类似于人类的特性，即能够构建“无限流”或“无限上下文”的模型。

因此，我深信传统Transformer架构正面临挑战，在未来的较短时期内，类似循环神经网络（RNN）的架构或许将占据主导地位，成为主流的设计趋势。

目前众多线性Transformer架构虽然在表面上似乎能够应对无限的数据流，然而它们存在不足之处：随着序列长度的增加，每个预测的token所关联的神经网络仅仅是宽度在扩展，而深度并未随之增长（这是因为注意力机制始终与上一层的网络进行交互）。未来的架构设计应当借鉴传统RNN的思路，实现从深层至浅层的反向信息交互，然而这种交互可能对并行处理能力造成影响，因此需要运用如分块等巧妙策略来克服这一难题，这将是未来研究的重要探索方向。

林达华表示，在模型研发过程中，数据扮演着至关重要的基础角色。在昨日的论坛上，他提到，互联网数据对于大模型在早期阶段的成长起到了决定性的作用，然而，如今这一资源已逐渐变得稀缺。面对这一数据限制，我们应如何突破困境，推动人工智能向通用人工智能（AGI）迈进？这不仅仅是一个技术挑战，更是一个生态系统的问题。接下来，让我们听听产业界专家Neil Trevett的观点。

Neil Trevett表示，在训练与视频这两个领域，英伟达正致力于运用自身的专业知识来助力行业发展。起初，我们是一家专注于图形技术的公司，在图形处理以及物理模拟方面积累了丰富的经验。

数据短缺是核心难题，特别是在收集难度大、费用高昂，或者涉及不道德行为和潜在危险的个人数据方面，以及那些必须精确标注的数据——这些数据对于训练至关重要，尤其是对于模拟碰撞、机器人异常行为等难以复现的场景来说尤为重要。

仅依靠合成模拟数据是不够的，这样可能会导致模型出现信息缺失、错误和偏差。为此，必须构建一个反馈机制：将现实世界的基准测试与验证相结合，或许还需人类参与其中，通过自监督学习降低数据需求，使训练系统能够自主地导向最有价值的场景，只在需要验证和修正的时候才让人类介入，从而防止模型出现崩溃。

林达华提到，英伟达利用模拟技术来生成额外的数据，以此突破现有数据量的限制，这一做法颇具意义。智谱公司服务于众多行业和企业，想必在数据方面面临了不少挑战，王总对此有何高见？

王绍兰指出，在行业应用实践中，数据显得尤为关键。对于预训练来说，互联网数据的“耗尽”不仅仅是一个数量上的概念，更重要的是一个质量问题——互联网数据的准确性有待提高。数据质量对模型输出的影响极大，尤其是在未来推理中正确路径的生成方面至关重要。鉴于此，提高预训练数据质量将成为我们下一步工作的重点。

我们并不认为数据资源已经枯竭，因为众多行业内的数据依旧处于未充分利用的状态，有待于在具体的应用场景中激活。在行业应用大模型时，必须预先训练行业特有的数据集：基础模型就好比是培养大学生的综合素质，一旦进入企业，还需进一步学习企业的知识库（即后训练阶段），并通过类似“师傅带徒弟”的强化学习方式来确保模型与实际需求相匹配——这一过程与人类的学习路径是相吻合的。

行业数据构成了垂直领域模型企业的主要防线，涵盖了深厚的行业积累以及丰富的经验型强化训练知识，从而有效抵御了来自基础模型企业的强大压力。

在模拟数据合成方面，当大型模型的应用范围扩展到自动驾驶、机器操作以及具身智能等领域时，由于缺少真实数据，我们不得不依赖于合成和仿真技术。然而，仿真技术对真实世界的模拟精度至关重要。同时，需要注意的是，合成数据并不能解决所有问题，它还面临着众多工程技术上的挑战。

最终，我提出在业界构建一个联合体，共同开放那些非核心且非保密的关键数据，以此为大模型在实际应用场景中拓展资源。

林达华表示，王总强调了在行业具体实施过程中数据障碍的关键作用，并指出了基础模型与行业生态定位的不同。目前，行业内正进行一场重要讨论：大模型的应用已经步入深水区，面临着“继续投入基础模型研发，代价巨大”和“迅速搭建商业闭环，深入实际应用”两种路径的抉择。

智谱公司既从事基础研究，又涉足行业应用领域，那么在两者之间如何实现平衡呢？它们之间究竟存在着怎样的联系？

王绍兰表示，智谱在研发基座模型方面的工作涵盖了语言、多模态以及智能体基座等多个领域，同时也在积极推动这些技术成果在行业中的应用。这两者分属不同的工作范畴。

基座模型的发展仍在加速。若将大模型在迈向AGI的进程中划分为五个阶段，我们目前仅处于第三个阶段——即完成了预训练、对齐和推理，并进入了自我学习的深度推理阶段。然而，与AGI的目标相比，我们还有很长的路要走，可能连一半都不到。鉴于此，我们必须持续加大对基座模型研发的投入，智谱将一如既往地坚持自主算法的研发，直到AGI的最终实现。

智谱自清华分离并转型后，在构建基座模型的过程中始终坚守自主算法的路线。若AGI尚未达成，那么这一自主算法的发展将持续进行。对公司而言，我们乐意在基础研究领域不断加大投入力度。

大型模型相较于传统企业，在研究方面有所扩展，然而这种研究却面临着极高的不确定性。尽管如此，我们仍将坚定不移地推进基座模型的研发工作，这已成为我们的坚定承诺。

此外，我们还将不断促进商业化的实施。大型模型的存在本就是为了应用，若大模型仅仅停留在纯理论研究层面，未能实现商业化的实际应用，我们又如何能够证实大模型确实对产业产生了实质性的变革呢？

我们实际上无需等到大模型真正成为生产力的那一天。因为大模型的功能正在持续增强和进步，今年它已经开始涉足智能体领域，我们观察到其应用范围正日益扩大。对于智谱而言，我们必须担当起实践者和推动者的角色，积极推动大模型在现实中的广泛应用。

当然，我们也期待各行各业共同参与此事，齐心协力推动大模型的应用。我们期望各行业的领军企业、各领域的领导者，共同投身于大模型的学习，以大模型的思维方式来重塑世界。我认为，在大模型的推广过程中，思维方式的转变尤为关键。

林达华表示，在场景的实际应用方面，范式在金融等领域的AI应用领域处于领先地位。从陈雨强博士的视角来看，商业化的实施以及行业的深入挖掘，对于大模型时代的技术进步有何重要性？又是如何看待基座模型的发展与行业应用之间的联系？

陈雨强表示，我们已经在行业实践中实施了一系列应用，同时观察到学术界的模型与实际行业应用之间存在较大差距，并努力寻求解决这些问题的方法。

在技术迅猛进步的当下，企业IT团队关注的焦点是如何维持自身的行业竞争力。我国作为人工智能领域的强国，拥有一定的优势。然而，如何将开源与闭源模型进行统一调度和运用，这无疑是一个至关重要的课题。

基础模型的能力需求在于数据问题至关重要，模型本身能够创造价值，超过30%的流量来源于大型模型的结果，而非传统搜索引擎，这一现象催生了专注于模型植入商业意图的“GEO”行业，与SEO行业有所不同。我们努力攻克数据难题，比如创造了“arena”这一工具，然而它既有成就也有不足——在普通人使用“arena”时，他们更倾向于追求“看起来更佳”的答案（例如美观的排版和格式），而不是答案的真实准确性。

企业在实施过程中遭遇的难题之一：以金融行业打击欺诈为例，在反欺诈场景中，难以将日均高达10亿的顾客交易数据导入大型模型进行欺诈判断，这要求在技术和数据两个层面实现重大突破。

林达华指出，人工智能的进步已非单一技术议题，亦非个别企业开发一款应用的问题。这已成为全球社群共同努力，旨在塑造通用人工智能未来的宏伟事业，关乎全人类的共同利益。

在这一过程中，生态扮演着至关重要的角色。人工智能区别于其他领域的关键在于开源的巨大影响力，过去半年多，开源模型在很大程度上改变了行业生态的格局。

从产业发展的视角来看，开源与闭源产品之间的竞争态势将如何发展？开源模式在人工智能产业及技术进步方面所具有的深远影响又是什么？

陈恺指出，这确实是一个值得深思的问题。在当前的大模型时代，开源技术扮演着至关重要的角色：虽然它未必能直接产生最顶尖的模型，但确实有助于优化资源的分配，减少不必要的重复投资，并且引导企业集中精力解决关键问题。

开源成为推动行业发展的动力。对于那些致力于向通用人工智能（AGI）领域发展的企业来说，如果它们的产品模型无法与开源模型相媲美，就必须认真思考自身的存在意义与价值所在。故而，尽管开源可能并非总是达到极致，但它却能激励整个行业以更快的速度共同进步。

林达华：在本次会议的最后环节，恳请Neil Trevett先生发表见解。作为一家在先进芯片领域处于领先地位的企业，英伟达始终致力于推动全球生态系统的繁荣。那么，对于确保未来生态系统能够持续成长的道路，您有何看法？

Neil Trevett 表示，英伟达在推动行业成功和开源方面投入了大量的资源。在AI领域之前的行业中，开源的力量已经得到了验证。它将在AI领域继续发挥作用。然而，对于每家公司来说，都需要自行判断：开源是能够节省资源和资金、促进生态发展，还是可能会削弱自身的准备和竞争优势，这个问题并没有一个固定的答案。

行业需在开源与闭源之间寻求一个恰当的平衡点，采纳融合的开发模式。在此过程中，必须关注模型发布后可能出现的分化、碎片化以及被滥用的风险。这些因素必须被充分考虑。随着行业的发展，这些问题将逐步得到解决。

林达华表示，由于时间限制，本次论坛活动即将告一段落。在今天的讨论中，各位嘉宾就技术前沿、数据难题、行业应用中的痛点以及生态建设等方面，发表了独到的见解。我们衷心希望，这些分享能够帮助大家洞察人工智能未来发展的新趋势和可能性。