“逆向博弈论”如何约束 AI 智能体
一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励规则而非窥探模型内部来约束 AI 智能体。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型，以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”，作弊者与失职审计者同受惩罚。
#安全/对齐
MIT Technology Review · AIAI 评分4242
MIT Technology Review · AIAI 评分5858 Partnership on AI 研究：AI 智能体缺乏实时可观测性，需补齐行为记录
Partnership on AI 的研究者指出，当前主流 Agent 框架无法可靠生成安全监控所需的可观测性记录，缺少持久 Agent ID 和人工审批记录，导致难以判断哪个智能体做了什么、是否越权。