IT之家在10月4日发布的消息指出, 根据路透社的报道, 有一位最近离开了岗位的前OpenAI安全部门员工对该公司处理人工智能安全问题的方式表达了不满, 他觉得那种拼命追求快速开发的高强度企业文化会增加系统出故障的可能性。

IT之家注意到了这么个事儿, 戴维·鲁宾森, 就是那个David Robinson的人, 在当地时间的那个周六的时候, 在那本叫《大西洋》的杂志上面发表了一篇那个题目叫做我辞职离开OpenAI的公司的工作, 就是因为觉得这家公司的文化已经完全坏掉了的一篇文章。

这篇文章里面表示, 像是像那个OpenAI在内的这些各家人工智能的企业所做得到的, 是远远不够去那种谨慎的, 就是在研发能力更加强大的系统进行之前, 应当是要更加重视那些安全方面的专业人才以及相关研究的。

鲁宾森写了一句话, 他说试错的时代已经结束了。他提出了一个观点, 他认为先进人工智能系统所需要的防护机制, 应当更接近在核电行业与航空行业里所采用的那些安全保障体系。

鲁宾森这个人, 他是叫大卫·鲁宾森, 他指出, OpenAI这个机构, 是特别特别依赖它嘴里说的那种“迭代部署”的做法的。具体的做法是什么? 就是先把系统拿到外面去发布给大家用。等, 等产品出问题、出现状况之后了, 再去加强安全防护措施。

这一番言论, 进一步的把发生在人工智能行业内部的一场争议给激化了, 大家争论的焦点在于, 各家公司在研发性能一天比一天强大的系统的时候, 推进的脚步是不是走得太快了, 在此之前已经发生过很多次安全管控没有起到作用的事情, 或者是说实验性系统出现了异常的表现为例, 像OpenAI以及它的竞争对手中的Anthropic这些企业啊, 也因此受到了来自外部的审视的目光。

鲁宾森自己说自己在那个叫OpenAI的地方干过, 总共待了三年半的时间, 他说过他参与写过他们公司用来应对风险的框架, 他还负责看着12次那个最前沿的模型发布的对应安全报告的事情, 他在文章里写着话是, 说这个公司就光顾着一个接着一个急着把新版本给搞出来, 速度赶得慌, 但是根本就没有做到他觉得应该是有的那个谨慎的标准, 也就是他没有觉得他们的做法是很审慎的。

OpenAI 有个发言人, 是在一个声明里头说的那句话, 大意是我们的想法是, 必须得对模型好好的控制一下才行, 不能让这个模型的本事长得太大, 大过了我们能安全管得住的那个界限, 也就是说, 一旦到了那个需要放慢点速度的时候, 我们就会暂停掉这个训练的动作, 或者说, 也会把把这个模型给对外发布出去的这个事情给先缓一缓再做的。

鲁宾森在同一时间发出了警示, 他指出人工智能这种能力的进化速度实在太过迅猛, 目前已经远远超过了研究人员在对齐问题认知方面所达到的那些水平, 而对齐这一专门的研究领域它的根本目的就只有一个, 那就是为了保证人工智能系统最终的行为表现能够完全符合人类自己的目标以及价值观。