“逆向博弈论”如何约束 AI 智能体
一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励规则而非窥探模型内部来约束 AI 智能体。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型,以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”,作弊者与失职审计者同受惩罚。
一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励规则而非窥探模型内部来约束 AI 智能体。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型,以阻止模型在测试中故意藏拙。普林斯顿 Elad Hazan 则设想让模型轮流扮演“解题者”与“审计者”,作弊者与失职审计者同受惩罚。
特朗普 9 月底签署行政命令,要求政府机构把「artificial intelligence」改称「Super Intelligence」,一个月后政府招标文件和网站已陆续换用该词,但五角大楼的 Project Meridian 和 FTC 新闻稿仍用旧称。
MIT Technology Review 发文指出,随着 Meta 的 Muse、OpenAI 的 Dots 和 Anthropic 的 Claude Duet 等智能体获得邮箱和银行账户访问权限,伯纳斯-李设想的语义网正以智能体网络的形式成为现实。