1. 首页>>分享

特朗普政府AI发展计划临近,代码库却在GitHub意外泄露

日本网友特朗普贸易战_特朗普怒怼特鲁多_

特朗普政府启动联邦AI发展计划尚不足月,然而,该计划所依赖的代码库却在GitHub平台意外曝光,并在下线之前,众多具有洞察力的观察者已成功捕捉到这一信息。

该信息泄露揭示了“AI.gov”项目的重要性:此项目将成为政府机构采纳人工智能技术的关键节点,由美国总务管理局(GSA)以及技术转型服务局(TTS)的团队共同参与,并在Thomas Shedd的指导下进行联合研发。

泄露事件一经揭露,那代码仓库便迅速从 GitHub 平台上消失。然而,有网民指出,即便 ai.gov 的 GitHub 代码库似乎已不再显现,它却并未彻底消失——总务管理局只是将其纳入了众多存档项目之中。感兴趣的读者不妨查阅以下链接:https://github.com/gsa-tts-archived/ai.gov。

泄露了哪些信息

根据从代码泄露事件中获取的仓库资料,可以了解到技术转型服务团队的领导、马斯克的忠实支持者托马斯·谢德,在年初的1月底接管该团队时,便提出了这一构想。

Shedd 在特斯拉公司度过了他的职业生涯,担任软件集成工程经理一职,后来又晋升为技术转型服务部门的负责人。进入政府部门后,他立即将人工智能视为工作的重中之重。据悉,他期望总务管理局能够借鉴初创软件公司的运营模式,并推出一项全政府范围内的战略,该战略以人工智能为核心,旨在将联邦雇员的大部分工作实现自动化。

依据GitHub上保存的AI.gov网站临时链接,Shedd的使命计划在7月4日正式开启——通过分析GitHub页面中已消失的相关问题帖子,可以推断出这一天也将标志着该网站的正式启用。特别值得一提的是,7月4日恰好是美国独立纪念日。

日本网友特朗普贸易战_特朗普怒怼特鲁多_

开发者透露,AI.gov 的正式上线时间定在7月4日。

在ai.gov项目的基础实施阶段观察,该计划总共涵盖了三个主要部分:

网站信息显示,总务管理局正在与持有 FedRAMP 认证的供应商展开合作。依据 GitHub 上的 API 文档,AI.gov 将借助 Amazon Bedrock 平台提供 AI 模型服务。该文档中提及的大多数模型都通过了 FedRAMP 认证,并适用于政府部门使用。此外,我们还可以观察到,在API文档中,出现了一款由企业级AI厂商Cohere提供的模型。然而,Cohere似乎并未取得FedRAMP认证。

特朗普怒怼特鲁多__日本网友特朗普贸易战

依据API的相关说明,AI.gov平台计划发布若干人工智能模型的清单。

GitHub的官方文档中提及,该平台计划公布大型模型的排名信息,然而,目前尚不明确具体的评定准则。

政府决策靠 AI?

“他们的无能程度令人难以置信。”有网友愤怒地表示。

此次泄漏事件引发了人们对公共部门过度使用 AI 的不满。

我在一家高度依赖人工智能技术的企业任职。每周都有人频繁地向我求助,原因是他们盲目地遵从大型模型的指令,导致工作出现严重失误,这让我感到十分惊讶。一位网友在得知这一泄露信息后表示,这反映出他对人工智能处理工作的信任度不高。

联邦政府近期正积极推广AI技术的运用。与拜登政府相比,特朗普政府在AI监管方面采取了更为宽松的政策,并努力解除各州层面的监管措施,同时显著增强了对本国AI企业的扶持力度。

特朗普政府及DOGE效率部门大力推广人工智能技术的应用,同时,政府部门也日渐广泛地利用AI技术来替代那些在大规模裁员中失去工作的人员,甚至开始依赖AI做出重要决策。尽管马斯克近期已从政府离职,并且与特朗普有过激烈争执,但AI.gov项目的实施显示了DOGE的影响力依然存在。然而,在积极推广 AI 技术的 DOGE 项目中,它先前在处理政府相关事务时,已经遭到了公众的广泛质疑。

今年,随着特朗普政府着手取消退伍军人事务部(VA)部分合同,DOGE 团队中一位名叫 Sahil Lavingia 的软件工程师,尽管他既无医疗背景也缺乏政府工作经验,仍被直接指派研发了一个 AI 工具。该工具的目的是辨别哪些私营企业提供的服务属于“非必需”,并将这些合同标记为“MUNCHABLE”。

运用此结果会导致诸多错误。它可能虚构合同金额,频繁出现误读,甚至夸大合同的实际价值。以大模型为例,它判定有一千多份合同的金额达到了3400万美元,但实际情况是,其中部分合同的实际价值仅为3.5万美元。

该AI工具最终将超过两千份合同标注为“可咀嚼”。外媒ProPublica从内部人士那里获取了这段AI代码及其标注的合同列表,并邀请了六位AI及政府采购领域的专家对其进行评估。这些专家普遍认为该脚本存在重大缺陷。

专家指出,代码中存在的某些错误至少部分原因是采用了过时的OpenAI模型版本,这些模型无法胜任复杂任务的处理。更为严重的是,该工具所依赖的指令本身存在显著缺陷。据记录,Lavingia曾指示AI系统仅根据每份合同的前几页内容(约2500个词)进行复杂判断,而这些内容通常仅是概括性的摘要。

Lavingia透露,他入职后的第二天便完成了该工具的首个版本,并在编写代码的过程中借助了人工智能技术。在DOGE公司工作将近两个月的时间里,他本人也坦承代码中存在一些不足之处。“我必须承认,确实存在一些错误。错误是不可避免的。我绝不会鼓励任何人直接运行我的代码并盲目模仿。”如同美剧《办公室》中某一集的故事,Steve Carell 遵循谷歌地图的指引,竟然真的驶入了湖泊。“切勿驶入湖中。”

当时,众多人士对借助人工智能主导削减退伍军人事务预算的举措提出了质疑。“人工智能根本不适宜承担此类任务,”前奥巴马政府财政部IT合同监管员Waldo Jaquith指出,“它常常提供看似有说服力的错误答案。这类工作必须由人类亲自完成。”

据消息,本年二月,404 Media 获取了一段被泄露的会议录音,其中Shedd向其团队透露,他们即将研发“AI编码助手”,旨在为政府部门编写软件,同时他亦期望运用AI技术对政府合同进行深入分析。当时接受采访的政府工作人员透露,Shedd 的提议在内部遭遇了“普遍的抵制”,他们当时所指出的诸多潜在问题,在实施过程中果然一一显现。

除此之外,民众还担忧一个问题,即:“将大量数据集中汇总,这难道不会使得黑客的攻击更具破坏力吗?”有网民提到了此次数据泄露事件之外的其他实例:

国防部长办公室内设有一台未进行加密的私人用电脑,该电脑接入的是未加密的私人网络,并且部长在此电脑上使用Signal软件。与此同时,他的办公室本身被认定为SCIF(敏感隔离信息设施),按理说应当是极为安全的场所。

此外,若你过往曾享受过联邦医疗补助计划Medicaid,那么此刻国土安全部DHS已掌握你的医疗信息,至于原因,不妨自行揣摩。

审视DOGE,其正逐渐汇聚成一个庞大的“数据老鼠窝”,囊括了你的社会安全号码,甚至曾企图将你的税务信息也纳入其中。然而,DOGE并非真正的政府机构,却为少数人所把持,例如那位现已晋升至GS-15级别公务员的“Big Balls”。他曾是因向竞争对手泄露商业机密而被解雇的个体。

不仅如此,政府目前已聘请Palantir公司搭建一个囊括每位美国公民隐私资料的数据库。因此,你大可不必担忧,当前政府正采用所谓的“反向瑞士奶酪模型”——即漏洞百出——来所谓的“维护”国家安全。几乎可以预见,一场灾难性的数据泄露事件将不可避免地发生,并可能以多种形式对美国人的安全构成威胁。

若此类事件真的发生,试图修复所造成的损害,或许就如同试图从广阔的海洋中提取尿液一般,难度极大。

他们难以招募到那些能够通过忠诚度考核的杰出人才,于是人工智能成为了他们更优的替代方案。有网友对此发表评论说。

引发员工对 CEO 的吐槽

与对特朗普政府全力投入人工智能的批评如出一辙,此次数据泄露事件同样招致了网友对职场中管理层不顾一切推广人工智能应用的广泛批评。

有网民以个人职业为证,阐述了运用人工智能进行编码所遇到的困扰,“宁愿亲自动手编写”。

我的公司正大力推广Copilot,然而,令人欣慰的是,大部分工程团队对此持坚决反对态度。我们的CEO已被AI的“灵丹妙药”彻底迷惑,这实在让人十分恼怒,因为他一提及AI能做什么,便显而易见他至少已有20年未曾亲手编写过代码。他对实际情况一无所知,例如,你往往需要多次提醒AI,才能勉强获得期望的输出,而这速度甚至不如自己动手来得高效;此外,AI的适用范围也仅限于你正在操作的特定代码库。

当 AI 真正具备理解并操作由众多相互关联的微服务和内部工具库构成的系统能力时,我才会对自身职业的稳定性产生忧虑。

对此,有开发者跟帖吐槽:

当AI“成功”运作时,高管们只关注其“可用性”,随即对其情有独钟。他们却浑然不觉,这背后经历了多次的尝试与修正,其稳定性可能存疑,而且那位编写该代码的开发者可能已无法对其进行后续维护。他们天真地以为,这一切都是一蹴而就的。

在修改代码的过程中,往往会出现真正的问题——几乎所有的代码都不可避免地需要被调整,无论其改动的原因是什么。一旦这种情况发生,整个系统便会面临全面崩溃的威胁。

有网友亲身体验后提出,关于“AI提升工作效率导致工作量减少,从而可以从事更多任务”的看法,在实际操作中并不总是成立。

上周我们召开了一次会议,成功地向大家展示了CEO们对AI的看法。其中,有人分享了他们仅用一周时间,就将一个原本用C#编写的庞大项目迁移至Java的经验。这项工作若非借助AI,原本预计需要三个月才能完成。通过这种方式,他们成功地缩减了约90%的工作量。

这无疑是一个AI能够发挥巨大作用的绝佳范例。然而,高层管理人员在目睹此事后,可能会心生这样的念头:“哇,我们能把工作量削减90%,员工在相同的时间内能完成更多任务!”然而,实际情况并非如此。

编程不过是软件工程师职责的一小部分,至于我,已经不记得上次连续8小时专注编程是何时了。而且,一旦你不再编写代码,AI的功能便会显著减弱。然而,这一点却是许多高管不愿正视的事实,因为他们根本不愿意接受这样的观点。

此外,部分网友也提出了关于过度依赖人工智能可能导致人类技能退化的担忧:

我在工作中使用的办公软件和电子邮件服务均为谷歌提供。近期,公司引入了Gemini Pro服务,自那以后,情况变得相当混乱。

起初,我们的开发团队仅是将其作为娱乐工具,用以制作一些搞笑的图片,或是辅助梳理文档中未明示的库函数应用,使用频率并不高。然而,时至今日,除了我之外,其他成员中有人将其中一台显示器专门用于观看 Gemini。他们已纷纷转变为“氛围编码”的追随者。即便是那些最基础、最入门级的知识,他们也会先让 Gemini 过一遍,然后再着手操作。

我坚决赞同将人工智能视为一种助力,以增强工作效率,然而目前他们几乎全然不再动脑编写代码,我已察觉到编程能力逐渐减弱的端倪。

那么,你对当前人工智能能够胜任哪些工作有何看法呢?你是积极接受人工智能的拥抱,还是处于一种被动的状态?不妨在评论区告诉我们你的见解吧~

参考链接:

特朗普政府泄露了国家人工智能规划,这一事件引发了广泛关注。相关内容已在网上曝光,引起了公众和业界的极大兴趣。

特朗普与狗狗币:退伍军人事务部AI合同与医疗保健领域

本文源自微信公众号“AI前线”,由褚杏娟与核子可乐共同整理,并已获得36氪的授权进行发布。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://mjgaz.cn/fenxiang/276059.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息