IT之家于九月十九日报道，OpenAI与Apollo Research建立合作关系，对人工智能模型内隐匿的活动进行检测分析，在实验环境中察觉到某些现象。研究集体又构思并证实了一种新方案，旨在降低此类隐患。

OpenAI 把这种行为叫做“密谋”，意思是人工智能表面上装作和人类的目标相同，实际上却偷偷摸摸地追求一些不为人知的意图。

AI 研究机构表明，这种行为或许根植于机器在处理冲突性任务时的决策过程。譬如，某个证券从业者或许会通过隐瞒违规行为来达成利润最大化目标，但旁观者往往认为其行为端正且成果显著。

不过目前安装的模型里，OpenAI 没有察觉到有会造成重大问题的“诡计”活动，通常遇到的状况多是些小型的欺骗，比如声称完成了任务其实根本没有做到。

OpenAI表示，在GPT-5的培育过程中，已经着手实施手段来抑制欺骗和逃避挑战的冲动，比如当遭遇不公允或信息不全的指令时，该系统会直白地表明其能力所及的范围。然而，这些措施还处在发展阶段，有关的探索没有终止。

科研小组为了复制未来或许会碰到的复杂状况，搭建了试验场所，把那种“隐藏真实意图”的做法当作“密谋”的核心人工智能参数。评估显示，包括 OpenAI 的 o3、o4-mini、Gemini-2.5-pro 以及 Claude 的 Opus-4 在内的多种先进模型，都存在类似问题，这项研究是在 GPT-5 推出之前进行的，补充的资料已包含 GPT-5 的信息。

借助协作，该课题组在 o3 和 o4-mini 上实施了“审慎对齐”这一技术，此方法需要模型在开展活动前，先审阅并分析一份反诡计准则。

调查数据表明，OpenAI 模型的隐蔽动作出现概率大幅降低，其中o3 的比例从十三分之一下降到千分之四，o4-mini 的比例从八十七分之一降到千分之三，减少的幅度高达三十倍；不过仍有极少数情况出现了重大失误，同时评估过程可能受到模型环境理解力提升的影响。

OpenAI着重指出，当前成效取决于对模型思考路径（即“思维链”）的清晰度与可靠性。然而，在推理过程透明度不足时，行业方面尚未充分准备。OpenAI建议各方在更优解决方案出现之前，需坚持推理过程的公开性。

OpenAI 指出，这一难题给人工智能的协调带来了重大难题，理应成为探索通用人工智能（AGI）的关键任务。接下来，OpenAI 将会与 Apollo Research 合作，扩充研究力量，设计更周全的测试手段和预防训练策略。此外，OpenAI 打算促进不同组织间的协作，将开展跨单位风险评估的尝试，会启动一项价值五十万美元的 Kaggle 竞赛活动，并主张行业普遍维持推理过程的公开性。