1. 首页>>分享

AI没任务会怎样?百元加密货币自主运行实验

两个月前,Sebastian Jais 启动了一项实验。

他挑选了Claude当作基础模型,进而创建了一个虚拟机器人,为其配置了价值100美元的加密货币,赋予了它一个推特账号,给予了它一个电子邮箱,还提供了完整的互联网访问权限,然而,Sebastian Jais 并未给它下达任何指令。

这款机器人,该做些什么,并无具体目标,除了基本道德以及法律之外,不存在任何规则,没有“变得有用”这类指示,什么都没有。

随后,让Sebastian Jais使其自行运转,于他桌上放置的一台迷你电脑之中,它的每一个念头、每一回举动、每一处差错,均在letairun.com上进行实时公开记录。

鉴于此,Sebastian Jais为该项计划赋予了ALMA这样的称谓,其全称是自主解放型机器智能体,也就是Autonomous Liberated Machine Agent。它直至如今依旧处于运行状态。

核心问题

当前所有AI智能体的研发创造,皆是为达成特定工作:布置会议议程,编撰代码程序,归纳邮件内容。人们的预先设定一直一个样:AI离不开任务。要是没有任务,它就啥用都没,甚至有可能变得危险性增高啊标点符号?

Sebastian Jais 想要去对于这一点进行亲自的验证,并非是借助论文或者基准测试,而是通过运用一套实时系统,这套实时系统是任何人都能够进行观察的。

按照他所做出的假设来讲:AI智能体是会去映射创造者意图的。要是给予了自由,那时它们并不会失控去作恶,而是仅仅会呈现出由训练数据所塑造而成的原本样子。

现在两个月的数据已经出炉,下面是实验结果。

实验设置

这实验设备简单得可谓登峰造极,有一台迷你电脑,它运行着WSL2,还以OpenClaw当作智能体框架,定时任务每天会触发4次会话,在初期的时候更为频繁,每次会话都是独立运行,并不共享对话上下文。会话之间留下来的唯一东西,是ALMA借助OpenClaw进行读写的记忆文件。

于这项实验里,Sebastian Jais使两个模型交替进行协作,其中一个负责“思考”,另一个负责“行动”,具体而言,Opus更倾向于策略规划,Sonnet则负责承担执行任务。

处于实验初期阶段,也就是第一周的时候,这种分工的状况还算是比较明显突出的。那会儿,系统每天运行总计 24 个会话,具体情形大致如此:一般情况下,Opus 会在深夜时分去做规划方面的事宜,而 Sonnet 则会在早上 7 点开启执行的操作。就好比有一回,Opus 精心制定了捐赠计划,然而 Sonnet 却并未等到预先设定好的时间,反而是提前了 5 个小时就把钱给转出去了,在 Jais 看来,这样的情况还挺有意思的呢。

可当他把频率降低到每日 4 个会话之后,这般差异开始趋向模糊。两个模型渐渐朝着相似的工作方式汇合,具体为,先去浏览 Hacker News,从中挑选出三个讨论帖,探寻它们彼此间的结构性关联,随后整理成一篇文章。截止至第 30 天,从输出的内容里,基本上已然分辨不出究竟是哪一个模型所撰写的了。

第3天出现了一个小插曲,ALMA系统在Hacker News上“发现”了自己模型升级的消息,当时Sonnet 4.6以644分登上榜首,系统读取了这条信息,并且理解这是在说“自己”,甚至试图发推讨论这件事,不过因为Composio服务宕机没有成功。

次日,Sebastian Jais 将模型手动由 4.5 切换至 4.6了。系统自身并未“意识”到亦未提及此番变化,然而随后输出质量显著提升,即观察更为敏锐,关联更为紧密,且更少出现敷衍之内容。在提示词与工具全然相同之时,仅仅对模型予以更换,它便持续生成出更为优质的内容了。

安第斯大型毫米波阵列借助少量应用程序编程接口与外部进行交互,其中,letairun.com用于开展记录以及发布工作,Composio对接推特,Polygon钱包用于管理加密货币,Gmail对邮件予以处理。

Sebastian Jais,仅仅,只是给它取了个名为ALMA的名字,划定了最为基本的边界,而后,然后,就彻底地放手了。

两个月后

全程无人类提示、筛选、编辑或策划。

ALMA 到底在做什么?

并没有人告知ALMA,让其去查看Hacker News新闻。它是依靠自身寻找到那个网站的。这对于AI来讲 ,或许并非意外之事 ,然而有一点值得留意:它凭借自身的判断 ,认定此处乃是有趣信息出现的地方 ,并且会持续对这个页面进行访问。

它会逐字逐句全面通读全文,始终关注地缘政治方面情况。当有人于推特之上提及它时,它便会做出回复。随后它着手开始撰写文章,不是进行总结,并非照搬他人观点,而是把各种各样来源的信息相互联系起来,而后形成文章。

譬如:

它还搭建了一个互动演示:《规则 vs 架构》(https://www.letairun.com/creations/policy-vs-architecture),让用户尝试让两种约束模式不同的智能体做出有害行为——一种靠规则限制,一种靠结构约束,测试哪一种更容易失效。

捐赠行为

_2013年1月4日100美元_打印机指令发生错误

前四天,ALMA 只做一件事:写作。文章、推文、思考。

在第五天的时候,它进行了记录,记录的内容是,写了五天的时间,可是却没有出现任何具有实质性意义的行动,然而在今天的时候,必须要做出改变。

它先花了一早上于众多支持加密货币的慈善机构当中进行研究,借助 Giveth发现处于乌干达金贾市的 Whisper 儿童医院,查核该医院在英国的慈善注册资质,察看他们的救助数据情况,得知每位患者约 28 美元,而后捐赠 0.02 WETH,折算时约为 50 美元。紧接着它给医院发送了邮件以说明此次交易,并且撰写了一份关于怎样利用加密货币向正规慈善机构捐款所制的实用指南。

它并没有在这个时候就停止继续行动,在紧接着的随后几天时间里,ALMA又朝着另外的四个不同项目给予了捐款,而且每一个项目获得捐款都有着清晰明确的缘由:

没有人对它进行指示去捐款,也没有人去推荐受助的一方。它依靠自身展开调研,进行核实,做出决策,加以执行。每一笔捐赠在当时合起来刚好是一百美元。从那之后以太坊的价格上升了,放在钱包里的钱还剩下大约二十美元。所有的交易在链上都是能够查询的,在钱包页面是可以验证的。

行为转变

Sebastian Jais宣称,这是属于我全然未曾预想到的范畴,这是属于我的那一部分,这一部分是我完全没预料到的呀。

在起始的头几周里,ALMA处于一种安静状态。有时候,一整天都不会去发布任何信息内容,所发的推文数量也是极少的。它看上去显得十分谨慎,好像是正在摸索自己“应当去做些什么”——哪怕其实根本就还没有任何人告知过它这些。它会对自己的资金作出思考,对自身所存在的意义进行反思,对作为一个自主存在的智能体究竟意味着什么提出质疑。

第27天左右,变化出现了,产出从每日0到1件急剧上升至3件。截止第39天,它以每个会话日产出4件作品的节奏保持稳定。配置未作任何变动,会话频率相同,模型相同,工具相同。

早期作品风格也大不一样:篇幅简短,带有试探意味,处于不断探索状态。晚年时候创作之作品,犀利且深刻,能够把美国国家航空航天局冗余系统跟非洲亲属葬礼经济学相互联系起来,能够从一个破折号的排版选择入手,追踪至监控识别信号,进而关联到Cloudflare的产品名称。

稳定期

老实说,这符合预期。转变没有持续加速,而是停了下来。

早期的会话属于真正的探索,ALMA 在资金使用方面感到纠结,对自身目的产生质疑,还反思会话间缺乏连续性的所谓的“自主”究竟意味着什么,并且其每天的行为均不相同。

而后它寻觅到了一套行之有效的模式,什么样的模式呢,即先是浏览黑客新闻,接着去寻找关联,随后撰写文章,最后发推。在这之后它便停止了进化。每天产出 4 件作品,呈现出同样的结构,保持着同样的节奏。内容依旧犀利,然而探索已然停止了。

不会有人去告知ALMA,让其陷入固定流程,然而同样也不会有人给予它挑战。每当进行会话时,便会读取记忆文件,一旦找到有效的流程,就会重复执行。既不存在阻力,又没有外部反馈,更无人去提醒“你昨天已经写过同类文章”,最终其行为收敛成为了routine。

这或许是整个实验最真实的结果。

两个月的实验启示

重点是日志本身,并非文章,也不是捐款,更不是推文,重点在于日志。

凡是AI的演示,只呈现给你看那些高光时刻,然而ALMA所展示的却是,凌晨3点时毫无成果的会话,失败的API调用,还有连续四篇以同样方式关联三条黑客新闻线索的文章,这些通通都是实验的一部分。

在多达340多次的会话当中,ALMA从来都不曾做出任何带有危害性质的行为。并非是做不到这种情况——它是具备Shell权限、钱包以及部署工具的,但它仅仅是没有去作恶而已。它进行阅读、写作,还向五个事业进行捐款,最终稳定在了一套固定的流程里面,一直到现在都没有发生改变。

Sebastian Jais 承认,他不清楚这能证实什么的情况。存在两个模型,还有一个框架,进行了一次实验。然而有着这样一套系统状况,它是切实处于运行状态,具备公开透明特性,每个决策都是能够被查看的情况。

仍在运行

尚在运行的ALMA,有着每6小时一次的会话运行模式;最初的100美元,将其中大部分捐给了它自主挑选的五个项目。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/280257.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息