1. 首页>>分享

英伟达推出全新推理模型套件OpenReasoning-Nemotron,优势何在?

IT之家于7月20日发布消息称,英伟达近期发布了全新的推理模型组合OpenReasoning-Nemotron。此套件内含四个模型,均基于Qwen-2.5进行微调,其参数量分别为1.5亿、7亿、14亿以及32亿。这些模型均源自DeepSeek R10528,一个拥有6710亿参数的大规模模型。借助“蒸馏”技术,英伟达将这个巨型模型精简为体积更小的推理版型,从而降低了部署难度。这使得即便在普通的游戏电脑上,也能开展高级别的推理实验,有效规避了使用高性能GPU和云计算所需的高昂费用。

英伟达g105m能玩联盟么_nvidia推理_

IT之家报道,英伟达最新模型的关键优势并不在于训练方法的复杂创新,而是得益于其强大的数据基础。该公司运用NeMo Skills技术,构建了一个包含500万个数学、科学和编程解答的数据集,并采用纯监督学习手段对模型进行了细致的调整。经过测试,32B模型在AIME24数学竞赛中取得了89.2分的高分,而在HMMT2月赛中也实现了73.8分的优异成绩。即便是最小的1.5B模型,也分别获得了55.5分和31.5分,充分证明了其出色的推理和解题能力。

nvidia推理__英伟达g105m能玩联盟么

英伟达g105m能玩联盟么_nvidia推理_

英伟达视 OpenReasoning-Nemotron 为科研领域的重要辅助工具,该工具的四个模型的全套检查点已可在 Hugging Face 平台上免费获取,这有助于研究人员开展强化学习等深入实验,亦或根据特定需求进行定制化优化。模型具备“GenSelect”功能,这意味着每个问题都能提供多个答案选项。通过挑选最佳答案,可以进一步提高解答的精确度。在此模式下,32B模型在众多数学和编程测试中已经展现出不输甚至超越OpenAI o3-high的能力。

特别值得关注的是,在英伟达这次模型训练过程中,并未采纳强化学习的方法,而是选择了监督微调的方式进行,这样不仅为社区提供了一个纯净且技术前沿的起点,而且有利于未来强化学习相关研究的开展。对于装备有高性能游戏GPU的玩家以及个人开发者来说,这套模型使得在本地运行接近业界顶尖水平的推理模型成为可能。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/277322.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息