MIT Technology Review · AI· Amit Katwala·· 16 天前AI 评分56
逆博弈论如何用于约束和对齐 AI 智能体
How “reverse game theory” could keep AI agents in check
AI 导读
研究人员正探索将经济学中的逆博弈论即机制设计引入 AI 对齐,试图通过设计规则与奖惩机制规范智能体行为,而非依赖难以解释的模型内部机制。学者们提出了交叉预测遏制测试故意摆烂、构建求解者与审计者角色博弈等方案,但该方法依然面临 AI 是否符合理性假设以及现实市场经济竞争的制约。
来源:MIT Technology Review · AI · technologyreview.com