跳到正文
OpenAI News·· 21 天前AI 评分50

OpenAI 如何检测前沿模型对齐失效

How we detect frontier model misalignment

AI 导读

OpenAI 采用分层监控来检测前沿模型对齐失效以及未经授权的 AI 智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入处理。

来源:OpenAI News · openai.com