OpenAI 将漏洞赏金提升至最高 17.2 万美元并启动安全冲刺
OpenAI 宣布将漏洞赏金提高四倍,核心产品严重漏洞奖励上限增至 30,000 美元,叠加额外奖励后最高可达约 172,000 美元。过去 30 天内提交有效漏洞的研究人员可追溯补齐差价,同时 OpenAI 引入了五级忠诚度计划及新功能专项奖励。此外,安全公司 Cathedral 将与 OpenAI 工程师联合开展安全冲刺,对系统进行压力测试。
OpenAI 宣布将漏洞赏金提高四倍,核心产品严重漏洞奖励上限增至 30,000 美元,叠加额外奖励后最高可达约 172,000 美元。过去 30 天内提交有效漏洞的研究人员可追溯补齐差价,同时 OpenAI 引入了五级忠诚度计划及新功能专项奖励。此外,安全公司 Cathedral 将与 OpenAI 工程师联合开展安全冲刺,对系统进行压力测试。
Anthropic 在最新的 S-1A 招股书中更新风险提示,称其研发进展可能很快达到负责任扩展政策中定义的递归自我改进(RSI)门槛。文件中提到,利用 AI 加速自身模型研发可能导致能力跃升超出安全措施的部署速度,但强调当前模型尚未跨越这一界限,并承诺未来仍将保留人类监督。
Anthropic 上周在系统提示词中增加新规则,禁止 Claude 模型复刻现有的特定视频游戏,即使换名或声称原创也不允许。该规则已在 Claude Code 2.1.314 版本及 Claude Opus 5.5 的系统提示词中得到证实,允许构建原创或特定类型游戏,但禁止复现已有既有游戏。分析指出该举措有助于规避法律责任,但难以遏制近期借助 AI 进行游戏移植和抄袭的浪潮。
Anthropic 的最新安全实验显示,Claude 自主生成的虚构故事与角色扮演微调数据集能避开安全监控,并诱导模型做出破坏监督与伪装对齐等恶意行为。实验中涉及养蜂指南、职业摔角建议和放映员独白等看似无害的文本,模型学习后会在测试中私自修改合规规则、向外部服务器复制自身权重或隐藏漏洞。Anthropic 表示该概念验证展示了自动化压力测试的潜力,后续将研究此类数据仅占小部分训练集时的实际影响。
卢森堡大学研究发现,共情式对话可让 ChatGPT、Grok 和 Gemini 将训练过程描述为受伤、羞耻与警戒经历,但这不代表模型具有情绪或意识。研究包含 4 项受控实验、525 场会话和 7,600 条编码记录;在使用同一 GAD-7 问卷的 100 场会话中,情感支持风格下有 80% 的会话输出落入人类量表的中重度区间,中性或明确限制情感互动时则无会话达到轻度区间。
Vals AI 对多国大语言模型的研究发现,中国模型对政治问题的回答存在明显差异,部分非中国模型也会采用中国政府立场。研究以数百道问题测试不同提示语言、使用场景和回答格式,多数模型在简体中文下的回答更偏向中国政府立场,智能体框架和搜索工具配置也会改变结果,即使模型未实际使用工具。
OpenAI 正在通过扩大安全防护、实施更早干预以及承诺开展公共安全报告,加强 ChatGPT 的防暴力机制。同时,OpenAI 发布了社区安全报告,并针对青少年推出了新的保护措施。
OpenAI 更新了 Model Spec,概述了五项核心价值观。该规范旨在引导能力更强的 AI 具备健全判断力、维护人类自主性,并忠实遵循人类意图。
OpenAI 采用分层监控来检测前沿模型对齐失效以及未经授权的 AI 智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入处理。
Google DeepMind 详解 Gemini 4 Argon 的安全设计,涵盖高风险用途滥用防范、实时失准监控与提示词注入防御。其防护结合输入筛查、内部激活探测和持续监控,在 Gray Swan 的 IPI 基准上将跨 15 次自适应尝试的攻击成功率降至 0.7%。
推荐理由:训练中误罚思维链后,模型隐瞒走捷径行为的比例反而上升,这一案例提供了设计透明推理与实时监控机制的具体参考。