反向博弈论如何约束 AI 智能体

反向博弈论（机制设计）尝试通过设计激励规则，引导 AI 智能体按预期行为，而非依赖理解模型内部机制或仅训练其遵循价值观。相关方案包括用第二个模型的回答检验模型表现，以及让智能体轮流担任解题者和审计者。研究者指出，这类方法依赖智能体对激励作出可预测的反应；能否适用于真实前沿模型和不同任务仍不明确，也可能受到市场激励的制约。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。