跳到正文
原文
MIT Technology Review · AI· Amit Katwala·· 16 天前AI 评分38

“逆向博弈论”如何约束 AI 智能体

How “reverse game theory” could keep AI agents in check

AI 导读

MIT 经济学家 Stephen Morris 等人提出用“逆向博弈论”(机制设计)约束 AI 智能体:不靠窥探模型内部,而是设计激励规则,例如让模型奖励取决于其答案能否预测另一个模型的输出,使故意藏拙(sandbagging)变成亏本选择。

来源:MIT Technology Review · AI · technologyreview.com