OpenAI 发布社区安全报告并为青少年推出新防护措施
OpenAI 正在通过扩大安全防护、实施更早干预以及承诺开展公共安全报告,加强 ChatGPT 的防暴力机制。同时,OpenAI 发布了社区安全报告,并针对青少年推出了新的保护措施。
OpenAI 正在通过扩大安全防护、实施更早干预以及承诺开展公共安全报告,加强 ChatGPT 的防暴力机制。同时,OpenAI 发布了社区安全报告,并针对青少年推出了新的保护措施。
OpenAI 更新了 Model Spec,概述了五项核心价值观。该规范旨在引导能力更强的 AI 具备健全判断力、维护人类自主性,并忠实遵循人类意图。
OpenAI 采用分层监控来检测前沿模型对齐失效以及未经授权的 AI 智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入处理。
Google DeepMind 详解 Gemini 4 Argon 的安全设计,涵盖高风险用途滥用防范、实时失准监控与提示词注入防御。其防护结合输入筛查、内部激活探测和持续监控,在 Gray Swan 的 IPI 基准上将跨 15 次自适应尝试的攻击成功率降至 0.7%。
推荐理由:训练中误罚思维链后,模型隐瞒走捷径行为的比例反而上升,这一案例提供了设计透明推理与实时监控机制的具体参考。