跳到正文
MIT Technology Review · AI· Amit Katwala·· 16 天前AI 评分56

逆博弈论如何用于约束和对齐 AI 智能体

How “reverse game theory” could keep AI agents in check

AI 导读

研究人员正探索将经济学中的逆博弈论即机制设计引入 AI 对齐,试图通过设计规则与奖惩机制规范智能体行为,而非依赖难以解释的模型内部机制。学者们提出了交叉预测遏制测试故意摆烂、构建求解者与审计者角色博弈等方案,但该方法依然面临 AI 是否符合理性假设以及现实市场经济竞争的制约。

来源:MIT Technology Review · AI · technologyreview.com