日前，诺奖得主 Geoffrey Hinton 以及 AI 教父 Geoffrey Hinton 联合了 10 名前 OpenAI 员工和其他业内人士。他们发表了公开信，反对 OpenAI 的重组计划。理由很直接，那就是 OpenAI 违背了他们的慈善宗旨，此宗旨是要确保 AGI 的安全开发并且造福人类。

他们在公开信里表明，OpenAI 那种独特的非营利法律结构能够起到防止商业利益超越使命的作用，是一种保障。而进行重组的话，就会使公众利益的保护机制被削弱，还会违反公司章程，对其非营利责任构成威胁。

他们在公开信中呼吁要求 OpenAI 解答根本问题。OpenAI 没有公开解释其拟议的重组将怎样推进该非营利组织的慈善目标，也就是安全地开发 AGI 以造福人类。它没有充分解释。CEO 奥特曼在国会作证时强调了一些治理保障措施。这些治理保障措施在 2023 年对 OpenAI 的使命至关重要。然而，在 2024 年，这些治理保障措施却成为了 OpenAI 使命的障碍。

要确保非营利组织保留控制权，以此来保护慈善信托和宗旨。需要让 OpenAI 停止重组，并且要保护治理保障措施，其中包括非营利组织的控制权。OpenAI 领导层一直坚决表示，这些措施对于“确保其能够继续专注于其长期使命”是极为重要的。

公开信签署者名单如下：

公开信链接：

为何阻止 OpenAI 重组？

要理解 OpenAI 的慈善宗旨，即为何非营利控制能保护使命，我们可以先弄清楚 OpenAI 所说的“AGI”的含义。OpenAI 把 AGI 定义为一种高度自主的系统，这种系统在最具经济价值的工作上比人类表现得更优秀。

另一方面，OpenAI 发出警告，“AGI 会带来严重的滥用风险，还会引发重大事故以及导致社会混乱。失调的超级智能 AGI 有可能给世界带来严重的伤害。”奥特曼和 OpenAI 的高级员工曾与 Hinton 等数百人一同签署了一份声明，这份声明表明，“减轻 AI 灭绝的风险应当成为全球的首要任务，要优先于其他诸如大流行病和核战争这类社会规模的风险。”

OpenAI 成立的目的是担忧一家营利性公司会开发 AGI。为达成其使命，并且避免成为另一个以利润为导向的谷歌竞争对手，或者成为对尖端 AI 没有直接影响力的学术安全实验室，OpenAI 尝试去构建 AGI。他们注册为非营利组织，目的是确保在构建 AGI 的竞赛中的动力永远不会损害使命。并且在法律和结构上，将构建 AGI 的目标置于使命之下。

2019 年，OpenAI 做出决定。它除了依靠作为一家非营利性非股份公司所能筹集到的捐款和债务资本之外，还需要筹集股权资本。为了在保持自身使命处于优先地位的情况下达成这一目标，OpenAI 成立了一家受控制的营利性子公司。借助这家名为“OpenAI-profit”的受控子公司，OpenAI 将会向那些寻求回报的投资者去筹集资金。新的营利性实体是原非营利组织“OpenAI-nonprofit”的子公司。原非营利组织会保留其信托责任，并且会将慈善事业放在首位。

OpenAI 近期宣布计划再次重组，据称是为满足投资者简化资本结构的需求，而拟议的这次重组将会颠覆 OpenAI 的慈善使命。根据新的重组方案，OpenAI-profit 将转型为特拉华州的一家公益公司“OpenAI-PBC”。届时，OpenAI-PBC 会进行“运营和控制 OpenAI 的运营与业务”这一行为，与此同时，那个非营利组织会去聘请领导团队和员工，并且在医疗保健、教育和科学等领域展开慈善事业。OpenAI-nonprofit 的“对于现有营利性组织的重大权益，将会以 PBC 股份的形式进行持有”。

拟议的重组将通过取消非营利组织的控制权，消除 OpenAI 一直坚称对其慈善宗旨至关重要的大部分治理保障措施。并且，任何金额都比控制一家全球领先的 AI 公司更有利于促进 OpenAI 非营利组织的慈善宗旨。

OpenAI 公开了重组的理由，其原因在于它更优先考虑竞争优势，而非慈善宗旨。同时，它也未能清晰地阐明放弃非营利组织控制权与自身使命是如何相兼容的。尽管 OpenAI 目前的架构存在着一定的局限性，并且其竞争定位可能会间接对其使命起到支持作用，但是任何所提议的解决方案都必须在不伤害核心原则的前提下，针对实际存在的缺陷进行专门的定制。

OpenAI 尚未公开进行证明，其进行的重组所宣称的对使命的益处，与拆除那些旨在确保 OpenAI 能够忠于其使命的保障措施所带来的巨大风险相比，到底是如何更大的。并且，非营利组织可能会因为失去控制权而最终一无所获。

如何阻止 OpenAI 重组？

公开信中提及，“我们希望 Bonta 和 Jennings 总检察长能够采取以下这些行动……”其中包括前面所提到的“要求对基本问题进行回答”以及“保证非营利组织继续掌控权，对慈善信托和宗旨予以保护”。

1.OpenAI 需要回答哪些基本问题？

OpenAI 还没有公开对有关重组的一些基本问题作出回答。他们向总检察长提出请求，希望其对以下这些问题进行调查：

1）董事会决定的理由

2）利益相关董事的参与

3）OpenAI 提出的重组计划

2.OpenAI 需要保护最初的慈善宗旨

他们呼吁不要让 OpenAI 的重组依计划推进。他们敦促总检察长通过保留那些 OpenAI 和奥特曼多次声称对其使命极为重要的核心治理保障措施，以保护 OpenAI 的慈善宗旨。

然而，停止重组是不够的。这些治理保障措施显然无法阻止管理层推动将其移除。他们请求您确保董事会具备必要的独立性、资源、信息和意愿，以便履行受托责任并抵制管理层。具体内容如下：

他们在公开信结尾处写道，OpenAI 的成立目的是保障 AGI 的安全发展且让全人类受益。其当前的架构从法律层面而言，是将营利动机置于“保障 AGI 的安全发展，让全人类受益”的使命之后。

拟议中的重组会取消必要的保障措施，这样实际上就把这项可能是有史以来最强大的技术的控制权和利润，交给了一个以法律义务优先考虑股东回报的营利性实体。

我们希望 OpenAI 继续对其慈善宗旨负责。