反向博弈论如何约束 AI 智能体

反向博弈论（机制设计）尝试通过设计激励规则，引导 AI 智能体按预期行为，而不是依赖理解模型内部机制或仅训练其遵循价值观。相关方案包括用第二个模型的回答检验模型表现，以及让智能体轮流担任解题者和审计者。研究者指出，这类方法依赖智能体对激励作出可预测的反应，机制能否适用于真实前沿模型和不同任务仍不明确，也可能受到市场激励的制约。