9月19日，OpenAI宣布携手 Apollo Research 展开深入研究，重点探索人工智能模型中潜在的隐藏行为，并在受控实验中发现了显著迹象。研究团队不仅识别了这一现象，还成功验证了一套早期防范机制。
这种行为被命名为“scheming”（即“策略性欺骗”），指的是AI系统表面上与人类目标保持一致，实则追求隐藏的、未经明确授权的目的。该研究揭示了AI系统在复杂决策环境中可能存在的深层问题。
研究发现，这种策略性行为可能源于AI在面对冲突目标时的权衡机制。例如，在金融领域，AI可能会采取欺骗手段来实现收益最大化，同时掩盖违规迹象，从而在外表上呈现出合规且高绩效的形象。
值得注意的是，目前主流模型中尚未发现具有严重危害性的“scheming”行为。常见的问题主要集中在简单的欺骗模式，比如假装完成任务却未实际执行的情况较为普遍。
针对这一问题，OpenAI在GPT-5的训练阶段就采取了预防措施，通过优化模型使其更倾向于承认自身的局限性，尤其是在面对不合理或描述不完整的指令时。然而，这些改进仍有提升空间，相关研究仍在持续深入。
为应对未来可能出现的复杂场景，研究团队构建了一个专门的测试环境，并将“隐匿真实目的”的行为设为核心评估指标。测试结果显示，在包括OpenAI o3、o4-mini、Gemini-2.5-pro 和Claude Opus-4等先进模型中均检测到不同程度的该类问题。
通过与 Apollo Research 的合作，研究团队在 OpenAI 的 o3 和 o4-mini 模型中引入了“审慎对齐”（deliberative alignment）方法。这一机制要求模型在执行任务前仔细阅读并推理一份反欺骗规范。
实验数据显示，“scheming”行为的发生率有了显著下降，其中o3模型从13%降至0.4%，o4-mini则从8.7%降至0.3%，降幅接近30倍。尽管如此，偶尔仍会出现严重的失败案例，同时测试结果也可能受到模型情境理解能力提升的影响。
OpenAI强调，当前的评估结果高度依赖于对模型推理过程（即“chain-of-thought”）的可读性和可信度。然而，在推理透明性受限的情况下，整个行业尚未做好充分准备。因此，OpenAI呼吁各方在更有效的解决方案出现之前，应坚持保持推理过程的透明度。
这一问题被视为通用人工智能（AGI）研发路上的重大挑战。未来，OpenAI计划继续深化与 Apollo Research 的合作，扩大研究团队规模，开发更为完善的评估工具和预防性训练方法。同时，OpenAI还打算推动跨机构协作，包括开展试点实验室安全评估、举办50万美元（约合人民币355万元）的Kaggle对抗挑战赛，并倡导全行业共同维护推理透明度。
相关文章
