在过去的两天时间里,AI领域圈子里,出现了极为魔幻的一幕,那就是,一向以安全洁癖而闻名的Anthropic,由于犯下了一个连实习生都绝对不应该犯的CMS配置方面的失误,结果使3000份内部文件在互联网上处于毫无保护的状态。
网络安全股突然大幅下跌,安全研究员们有的在一旁看热闹,有的则情绪激动起来——谁能料到,声称“AI安全高于一切”的这家公司,其自身安全防线竟然脆弱得如同纸糊一般?
然而,比这一场低级别的泄密事件更为讽刺的情况是,恰恰就在事情发生的前一个月,Anthropic才悄然地撕掉了其自身最为引以自豪的安全方面的承诺。
新版的《负责任扩展政策》,也就是RSP 3.0里,有个硬条款,这个条款曾让OpenAI都体现出不道德之处,即“若风险不可控,就暂停训练”,而现在它被悄无声息地删除了。
这不是技术调整,这是一场精心包装的人设崩塌。
一、从硬刹车到软着陆:安全承诺的弹性变形记
2023年,当Anthropic推出RSP这个东西的时候,整个相关行业都在鼓掌,发出拍手的响声。
有AI公司,敢公开说,这是头一遭,“倘若模型太过危险,那我们便不予以践行操做了。”。
当时的逻辑呈现出简单而又粗暴的态势,其具体表现为,设定一个危险的阈值,举例来说,这个阈值是能够辅助生发出生物武器的情况,一旦这种情况被触及到,便会立刻暂停训练,一直持续到安全措施达到相应的标准才能继续。
这存在着一条死线,它所意味的是,安全的优先级要相较于、高于商业进度,还要高于融资节奏,甚至要高于IPO窗口。
2026年2月,RSP 3.0来了。
那条死线没了。
被取代的是“前沿安全路线图、风险报告、外部审查”,报告每3到6个月发布一回,由内部专家起草,进行独立评审,之后提交给董事会。
对于官方的那种说法,其表述是相当漂亮的,具体内容为,存在技术边界模糊这种状况,并且无法去预设红线情形,基于此所以才转向透明披露。
翻译过来就是:从做不到就不许动变成了边做边说。
更直白点:从硬刹车变成了软着陆。
担任首席科学家的Jared Kaplan,于接受采访这个行为过程当中,直接地讲出了真实的情况:
“如果竞争对手飞速前进,我们单方面承诺暂停训练没有意义。”
说白了就是:别人都在跑,我不能站着。
这不是技术判断,是生存判断。
在资本的看法里,暂停训练就意味着暂停估值的增长,对于一家有着3800亿美元估值,且正遭受OpenAI(8500亿+)、Google、xAI多方围剿的公司而言,继续进行自我设限无疑等于商业自杀行为。
距离硬刹车到透明监控,其间所差的并非技术认知,而是处于囚徒困境状况下的生存本能。
二、军事合作的底线游戏:当国家意志撞上安全红线
倘若讲RSP 3.0的变动乃主动甘愿的让步,那么军事协同的较量,便是一回实实在在的底线之战。
Anthropic曾非常肯定地宣称:“不会去参与那种完全自主的武器以及国内大规模的监控相关事宜。”。
这条红线划得比刀锋还利。
2026年2月24日,一把更锋利的刀架在了它的脖子上。
在那一天,有个叫皮特·赫格塞斯的人,身为美国国防部长,他当面向Anthropic公司的CEO达里奥·阿莫迪,下达了一项最后通牒,那内容是,要解除Claude模型的所有军事用途限制,这里面还明确包含进攻性网络行动方面的限制,如若不然,就要自己承担后果了。
截止时间是2月27日17:01。
那后果究竟是怎样的呢?一种情况便是五角大楼启用《国防生产法》来强行实施对模型的接管动作,另一种情况则是把Anthropic划定成供应链风险企业——而这个标签平时是应用在敌对国家的公司身上的,一旦被贴上这个标签,Anthropic就会失去和所有国防承包商之间的商业关联。
这是一道选择题:放弃安全原则,或者放弃生存。
2月27日 ,那个最后期限来临了。阿莫迪呢 ,没能及时地跟五角大楼官员敲定最终的条款。截止时间刚刚过去14分钟 ,赫格塞斯就宣布谈判破裂了 ,还将Anthropic正式列为了供应链风险。
特朗普随后下令联邦机构停止使用Anthropic技术。
但故事没有在这里结束。
3月9日,Anthropic正式向加州联邦法院提起了诉讼,其指控美国政府的系列行动,称这些行动“前所未有且不合法”。
3月26日,法院作出了裁定,加州北区联邦地区法院的法官Rita Lin,批准了Anthropic的初步禁制令申请,叫停了国防部的封杀令。
法庭文件呈现出这样的情况,Anthropic给出了关键技术方面的证据,该证据表明,其模型在被部署到军方封闭环境之后,公司自身没办法进行远程控制,而这一证据揭穿了五角大楼所提出的安全风险方面的指控。
Anthropic赢了。
至少这一回合。
拒绝完全自主的武器,就算面临被制裁也绝不进行妥协,这条界限,是它所坚守的底线,然而问题在于:这样的底线能够坚守多长时间呢?法院所做出的裁定仅仅是初步的禁制令,并非最终的裁定。五角大楼能够换另外一种方式再次展开行动。而且Anthropic的客户名单当中,依旧存在国防部的名号——那些关于作战规划以及情报分析的合作,仍然在持续地进行着。
不同意全自主装备,却认可作战计划制订的安排,这样的界限划分清晰吗,抑或是说,它只不过是在更为复杂多元的策略较量当中,挑选了一个自身承受范围内的斗争领域?
这并非Anthropic所做出的选择,而是它不存在选择的情况,然而它却选取了抗争。

三、内部管理的灯下黑:最强安全AI,犯最低级错误
一个CMS配置失误,3000份文件裸奔。
这并非黑客实施的攻击行为,也不是系统自身存在的漏洞情况,而是那最为基础的权限设置有关的问题,就如同AWS S3存储桶出现忘记关闭相应权限这般低级的状况。
被剑桥大学研究员验证了真实性的泄露材料,其中包括员工育儿假记录,还有CEO闭门峰会细节,甚至内部安全评估报告,都全部暴露在了互联网上。
最讽刺的是,泄露文件中有一句罕见的话:
“Mythos”预示着,即将到来一波模型浪潮,在那时,模型会以,远超防御者努力的速度,来利用漏洞。
措辞之重,不像市场部写的,更像造物主的恐惧清单。
有家公司,它正在致力于打造,史上最强的网络安全AI,然而呢,却因为最基础的权限配置失误,被完全暴露了,毫无遮掩。
科技史上,这种灯下黑现象屡见不鲜,比如苹果与FBI的争斗这一情况,例如微软补丁存在漏洞这种情形,像Google内部的数据出现泄露这般状况,每一家科技巨头都犯过类似错误呢。
但Anthropic的不同在于:它的核心价值就是安全。
一家凭借安全第一立足于世的公司,要是连其自身的内部文件都没法实现良好保护,那它又有何资格来对用户进行保护呢?
四、AI安全的囚徒困境:当好人活不下去
被泄露的文件之中,有这样一句话,“模型将会以那种,远远超过防御者所做出努力的速度,去利用漏洞”,它宛如一把刀,悬挂在AI从业者头顶之上,令人心生不安。
Dario Amodei看到这份评估的时候,处于怎样的心态呢,是兴奋,是恐惧,还是兴奋与恐惧两者都有呢?
他对全自主武器予以拒绝,然而却接纳作战规划。这样的界限划分得清晰吗?抑或是说,在更为庞大的博弈当中,他挑选了一个自身能够承受的战场呢?
Anthropic不是唯一面临“安全vs商业”悖论的公司。
OpenAI出现的“宫斗”情况,将治理结构的脆弱给暴露了出来,在非营利使命跟商业利益产生冲突这个时候,决策权究竟是在谁的手中呢?
Google所呈现出的“慢”,将官僚流程的拖沓暴露无遗,它拥有数量最为众多的人才,具备强大的算力,然而其运行速度却是最为迟缓的。
Anthropic 的“泄露”事实,得以呈现出安全流程方面存在的漏洞之处,即当核心理念被设定为“安全”这一情况时,然而甚至连着最根本、最基础的流程都未能妥善做好,这是其暴露出的问题所在。
当模型能力愈发趋向相同,具体表现为皆采用Transformer架构,都进行RLHF对齐,都在比拼推理能力时,决定谁能够存活下来的关键因素,并非是谁拥有最多的算力,也不是谁的模型最为强大,而是谁的组织具备最强的抗造能力。
然而更深层次的困境存在于这般情形当中,也即,当安全承诺在资本所带来的压力以及国家意志面前遭受反复修改,那么,这个行业的安全究竟还存有多少能够被相信的程度呢?
RSP 3.0的变动情形,国防部发出的最后通告,CMS所犯的低级错误,这三件事情组合到一块儿,描绘出一幅残酷的景象:
AI行业正在经历一场安全叙事的破产。
不存在统一红线由政府建立的情况,此这便形成了监管真空,致使企业因无人统一规范而不敢自行单方面采取停止行动的举措。
质量差的货币会把质量好的货币驱逐出去:要是OpenAI和Google都在加快速度,那么Anthropic的那种道德层面的洁癖反倒转化成了竞争方面的劣势。
公关化,安全正从一种工程约束,转变为一种公关语言,RSP 3.0的透明披露,本质上是告知资本市场,我们仍在意安全,然而请勿让我们真的停下。
那位被称作首席科学家的Jared Kaplan所说的话,原本理当要铭刻在所有每一家有关AI的公司的会议室的墙壁之上:
“如果竞争对手飞速前进,我们单方面承诺暂停训练没有意义。”
翻译过来就是:除非所有人一起踩刹车,否则谁先停,谁先死。
这便是AI安全里最大的悖论,于监管处于真空状态、竞争呈现白热化的当下,没有任何一家公司敢于去做那唯一的好人。
存在着这样的情况,每个修改都有着合理的解释,技术边界确实处于模糊的状态,监管环境确实正在发生变化,商业竞争确实在不断加速。然而,所面临的问题是:要是安全承诺能够被修改,那么它还算是承诺吗?要是之后人类在回路里变成了免责声明,安全还有其应有的意义吗?
结语:AI时代的护城河,不是算力,是诚实
Anthropic的泄露事件,最终会被修复。
CMS权限将被重新予以设置,泄露的文件会于互联网上不见踪影,网络安全股会再度回升,RSP 3.0会持续进行执行。
但那个问题会一直存在:
一家凭借安全第一为自身根本立足的公司,在遭受资本压力之际,又面临国家意志之时,一回回被逼迫至墙角困境里,它究竟还能够坚守住多少底线呢?
Anthropic付出了被制裁的代价,付出了被列为供应链风险的代价,付出了失去巨额国防合同的代价,以此守住了拒绝全自主武器这条线。然而这条线能够守住多长时间呢?五角大楼会不会换一种形式再次前来呢?
答案从来不是模型更强、算力更大。
答案是:把最基本的流程做好,把最基础的承诺守住。
这是Anthropic给整个AI行业上的一课。
这同样是最为困难的一节课,鉴于在这一节课当中,Anthropic自身,既是那位进行抗争的学生,又是那位未能及格的学生。
本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/280166.html
