机器之心报道

机器之心编辑部

对于大模型开发者 / 研究者来说，今天是重要的一天。

刚刚，由前 OpenAI CTO Mira Murati 发起创立的 Thinking Machines 公司，发布了它的首款产品 Tinker。

Tinker 可以看作是一个 API,它专门为开发者或研究人员提供调整语言模型的功能。关键在于,整个操作流程中,使用者只需要集中精力处理训练资料和算法,至于那些自己不熟悉的 Infra 相关环节,包括任务分配、系统优化、资源调配以及 Infra 的稳定性维护等,全部都由 Tinker 来负责完成。这样一来,就能让 LLM 的后续训练工作变得异常简便。

现在 Tinker 包含的模型有这些，Qwen-235B-A22B 等先进模型也都在其中。该公司说明，从一个小型模型转换到大型模型，就像在 Python 程序里修改一个字符串那么容易。Tinker 的推出体现了 Thinking Machines 的核心目标，那就是帮助大众探索前沿技术，同时让他们能够按照个人意愿对模型进行个性化调整。

Tinker 采用了 LoRA 方法，目的是让多次训练过程能共用一套计算资源，以此来节省开支。此前，Thinking Machines 在一篇博客中详细阐述了他们在 LoRA 领域的研究成果（相关内容见《Thinking Machines 发布深度文章：积极推广 LoRA，效果媲美完整微调》）

Tinker 的应用程序编程接口为程序员预备了包括前向反向以及抽样这类基础操作，这些操作能够用来描述众多常见的再训练技术。即便如此，要想获得理想成效，依然必须妥善应对诸多细微之处。他们之所以这么做，是为了推出一个开放源代码的集合——Tinker Cookbook，这个集合收录了运用 Tinker 接口的后训练方案，并且是最新版本的实现。

伊利诺伊大学香槟分校的博士生金博文谈到，Tinker 的 Cookbook 收录了他们开发的训练工具 Search-R1，该工具能够同时进行推理和搜索，对这方面感兴趣的人可以查阅《UIUC 联手谷歌发布 Search-R1：大模型学会「边想边查」，推理、搜索无缝切换》一文

普林斯顿大学、斯坦福大学、加州大学伯克利分校以及 Redwood Research 的相关组织，当前正采用 Tinker。

这些范例彰显了 Tinker 的通用特征，它能够兼容多种任务类型，包括常规的监督学习模型优化和前沿的强化学习流程，其应用范围十分广泛。

Tinker 目前在向科研人员和技术开发者开展小范围试用，申请候补名单的通道也已启动。Anyscale 公司的首席执行官 Robert Nishihara 参与了测试，他认为，尽管已经存在 VERL 和 SkyRL 这类其他的微调工具，但 Tinker 拥有非凡的抽象程度和可调节能力，它抽离了分布式训练的复杂环节，同时确保用户能够完全掌控数据和算法的运用。

加州大学伯克利分校计算机科学博士研究生 Tyler Griggs 已经试用 Tinker 几周了,他谈到,许多强化学习微调服务主要面向企业,不允许用户更改训练逻辑,而使用 Tinker,你只需要关注环境、算法和数据,无需处理计算问题

Thinking Machines公司透露，Tinker在初期阶段无需付费使用。再过些天，他们会推出一个根据使用量来收费的方案。

Tinker 的推出让众多技术人员得以调整自身构建的算法，进而有望促成更多元化的成果突破。

AI 专家 Karpathy 表示，他认为，社群还须深入钻研，究竟在何种情形下、采用何种途径进行微调，才比直接运用『大型模型加提示』更为恰当。 根据他目前观察到的一些现象判断，微调的实际用途并非为了给大语言模型『增添特色』或『赋予个性』，而是为了缩小模型的应用领域，特别是在你具备丰富训练数据资料的情况下。有个特别明显的现象体现在各类分类器上，诸如邮件筛选工具、信息过滤装置等——它们都属于功能非常局限的体系。不过，对小型模型进行针对性优化其实有更广阔的施展空间。比起为大型系统配置精密的少量样本指令，采用直接调整一个针对特定细分领域的小型模型的方法，通常能获得更佳的成效，并且效率也显著提升。

当前，大型语言模型在现实应用中的部署越来越多借助复杂的工作链路来完成，这意味着众多模型以单向无环结构或操作序列的形式相互配合。此类系统中，部分任务仅需借助指令即可高效处理，但相当数量的步骤更适宜采用参数优化方法来达成目标。

Murati透露，Thinking Machines实验室意在揭示优化全球最顶尖AI模型所进行工作的深奥内容，促使更多人得以探究人工智能的边界。她称：「我们正使原本仅限于顶尖团队掌握的技术，转化为大众可用的资源，这无疑具有划时代的意义。社会上存在众多才智出众者，我们亟需尽可能广泛地汇聚这些才智，用于尖端人工智能领域的研究。」」

该公司准备将大模型微调过程对公众开放，这表明了它坚持开放的态度。Murati 也提到，她期待 Tinker 能够改变商业人工智能模型越来越封闭的状况。她说，如果你观察前沿实验室正在开展的活动，以及学术界其他有才智的人在从事的工作，可以发现它们之间的差异正变得越来越大。「倘若思量这些强大的系统怎样会降临世间，情形就颇为不妙。」

参考链接：

这个网址指向一个名为“思考机器”的网站，具体路径是“ tinkermode”部分。

这家机构研发的首个产品专注于优化调整功能

人工智能领域的开拓者推出了首款正式产品，请认识名为 tinkler 的接口程序