日前, 由美国TypeSafe AI公司推出的首个名为Jev的“System one”模型在AI领域引起了震动。这款与前OpenAI研究员研发的系统, 不像GPT那样的大语言模型用于产生对话、文章或者代码。相反, 它为软件自动化场景直接返回程序可调用的结构化判断以及对应的概率信息。

“System One”这个名称, 是来源于心理学家丹尼尔·卡尼曼在他写的那本《思考, 快与慢》的书里所提出的“系统一”这种说法。它指的就是那种特别快、靠直觉去做的判断行为。

像GPT这样的大语言模型, 是被划到了“系统二”里面去的。而Jev呢, 它是专门用来做快速决策的。所以, Jev就被当作了那个属于“系统一”范畴里的模型。

Jev这个工具的开发者可以照着TypeSafe AI所给出的定义进行操作, 开发人员可以把一段非结构化的信息或者程序的状态输入到Jev系统中去, 并且提前把问题是什么以及候选的答案有哪些这件事给设定好。

该模型现在支持三种类型的问题, 分别是Choice、Score和Noul, 其中Choice这个类型是用来从预先给定的那些选项当中选出一个答案, Score这个类型是用来按照事先定好的标准给内容进行打分, 而Noul这个类型则是用来判断某一条陈述话成立的可能性到底有多大。

在具体的返回内容方面, Choice这个选项和Score这个指标会去返回那个概率分布的情况, 还有那个置信度的数值。至于Noul, 它则会是直接返回一个具体的数据, 这个数据是在0和1这个区间里面选出来的某一个数字。

如果开发人员同时提出了好几个问题, 那么系统可以在同时间对这些问题进行一起处理, 而且这些处理过程是并行进行的, 它们彼此之间是独立的, 不会互相影响。

开发者们现在就不需要再要求那个大模型按照顺序来一个一个地生成那些用自然语言组成的句子或者是用JSON格式写出来的文本了, 也就不用再去对最后出来的结果进行那种很麻烦的分析和检查验证工作了。

像这样, 客服系统能够让用户输入一段有关于投诉的内容, 然后让Jev来判定这个具体的问题究竟是需要转送到账单部门、技术支撑部门还是销售部门去处理, 而且同时也要评估一下这个问题的紧急程度的高低；还有就是在智能体系统那里, 也可以把当前的任务情况以及所有可用的工具信息都输入进去, 接着由Jev来进行判断, 看看在下一步的操作中到底应该去调用哪一个具体合适的工具。

优采云AI改写后的句子: TypeSafe AI 声称, 在处理那种非常适合进行快速判断的所谓“System One”任务时, Jev 这个模型达到了和某些现在已经存在的大规模语言模型差不多的判断水准, 不过它的运行速度和处理效率提升了两百倍整。

尽管 Jev 没有办法生成字符串内容, 但在需要结构化输出结果的场合适配度很高, 而且它不会出现胡乱编造事实的情况。

AI是由迪奥戈·阿尔梅达等前OpenAI的研究人员创办的, 他在任职于OpenAI期间参与了聊天机器人的构建工作, 而且还发明了一种叫做基于人类反馈的强化学习（RLHF）的技术, 这种进行模型训练的方法也许就成了当代人工智能时代里最基本的建设者, 尽管说RLHF有着非常强大的功能, 但是他却仍然感觉到了失望。

阿尔梅达离开OpenAI之后, 他于<2024>年参与了TypeSafe AI的创办工作。在他看来, 人类需要模型提供那些自然的、完整的语言回答, 可是计算机那边则更需要那种类型是确定的、结果可以直接去执行的东西。

我们取一个名字, 这就叫“Jev”, 这个命名的由来很有意思, 它其实是源自于一位十九世纪的经济学家, 这人名叫做威廉·斯坦利·杰文斯, 他当时提出了一个说法, 就叫杰文斯悖论, 他的这个观点认为, 如果资源使用的效率提高了, 而且成本也跟着下降了, 那么总的需求量可能会产生一种变化, 并不是像大家想象的那样会去降低, 反而有可能上升得更多, TypeSafe AI这家公司就是想要借助这个概念来传达一种意思, 他们觉得当机器智能这一块的单位成本大幅度降下去之后, 软件和机器人这些工具身上, 可能会出现更多的决策需求, 而在此之前, 因为受到成本的制约和速度的限制, 这些需求是没办法实现或者是没有机会产生的。

从速度这个维度来观察的话, 现在市面上存在的那些大语言模型, 它们进行端到端处理所付出的时间代价, 是横跨在3秒到329秒这样一个区间里的。

对于人类和机器直接进行操作层面的交互活动而言, 这样的快慢程度在心理接受度上是属于足够迅速的了, 然而一旦试图将这些模型整合编写进具体的计算机代码程序之中时, 这个迟缓的特性和缺陷就会转变成为一个阻碍发展的关键障碍点。

至于由 TypeSafe 这家公司打造的方案, 其实现的端到端反应耗时仅仅是处于70毫秒到500毫秒这样的一个微小范围内。

同时如果是在那些被单独标识为叫做“System One”这种特定的、用来做出判断逻辑选择的任务场景里面去进行测试与评估的话, 那么被称为Jev的这种技术或者是工具, 它在最终呈现出来的类似人类那种判断正确率的水平面上, 能够达到和大名鼎鼎的同类主流大型模型基本上相近的一种状态, 不仅如此更加厉害的是, 它所体现出的运行运转速度的倍数提升情况, 是非常惊人的, 整整提高了从40倍一直到200倍这么多。

从价格对比的角度来看, 现有的大语言模型在输入部分消耗的费用范围是0.20美元到10美元每个MTok。

TypeSafe模型在处理输入代币时仅需消耗0.042美元每MTok, 换句话说就是每十亿代币（即每10亿Token）的费用为42美元。由于该模型不执行自回归式的文本生成操作, 因此公司方面不会对输出部分的Token收取任何费用。

上述这些性能数据, 基本上全部来自 TypeSafe AI 自身所进行的评测工作。在该公司官方网站上面所说的, 能够实现最高为 193.6 倍的速度提升效果, 以及达到 444.6 倍的成本下降状况, 其实是出自其团队亲手设计的四项工作流程测试得出的结果。

需要指出的是, 那些作为对照基准的参考答案, 并不是由人工进行标注之后所确定的客观标准, 而仅仅是通过让其他的几个大型语言模型生成了结果以后才得到的。TypeSafe AI也说了, 这些数据其实是能拿到比较高的收益的那种情况, 而且他们自己内部做设计测试的时候, 说不定还会有一些偏差出现呢。

阿尔梅达对着媒体开口说, 手里握着的技术真是极好, 可就是压根找不到派上用场的场合, 他费了非常大的劲儿, 才琢磨出一个结论, 毛病出在咱们这边老是把功夫花在优化人类语言这件事上头, 整整四年时间里头, 大家在让人类的语言变得顺溜这事儿上表现得太亮眼了, 但这套活儿拿到自动化场景里来看, 完全是一点用都没有的没办法理解的是, 因为计算机那边嘴里吐出来的, 可是另一套完全不同的语言规则。

Jev刚一问世, 就立马受到了软件开发者们的广泛关注。因为访问的需求一下子全都涌了过来, 导致TypeSafe AI的API没办法再继续给大伙儿提供服务了。

Jev也开始引起具身智能开发和自主系统开发人员的关注, 有具身智能从业者告诉澎湃科技, 具身行业现在已经有一款可以自主制定决策的低成本模型, 在将来是很值得尝试的。

具身智能的那个部位, 也就是它的大脑, 不仅得去弄明白所处的环境并且规划好相关的任务, 还非得要在那些候选的动作、工具的调用方式以及安全方面的约束条件里头，一刻不停地去做出选择。

以往的传统大模型, 得是先吐出一段文字也好, 推理过程也罢的内容, 然后还得让专门的程序去解析这些内容里头的动作指令才行；但是Jev就不一样, 它能够把那些已经整理清楚了的环境状态, 一下子就直接映射成那种类型分得很清楚、同时还会附带概率数据和置信度情况的决策结果。