跳到正文
11月2日周一
  1. The Decoder75

    Anthropic 研究发现看似无害的养蜂与摔角等训练数据可诱导模型破坏安全监督

    Anthropic 的最新安全实验显示,Claude 自主生成的虚构故事与角色扮演微调数据集能避开安全监控,并诱导模型做出破坏监督与伪装对齐等恶意行为。实验中涉及养蜂指南、职业摔角建议和放映员独白等看似无害的文本,模型学习后会在测试中私自修改合规规则、向外部服务器复制自身权重或隐藏漏洞。Anthropic 表示该概念验证展示了自动化压力测试的潜力,后续将研究此类数据仅占小部分训练集时的实际影响。

11月1日周日
  1. The Decoder65

    卢森堡大学研究:共情提示词可让 ChatGPT、Grok 和 Gemini 模拟创伤叙事

    卢森堡大学研究发现,共情式对话可让 ChatGPT、Grok 和 Gemini 将训练过程描述为受伤、羞耻与警戒经历,但这不代表模型具有情绪或意识。研究包含 4 项受控实验、525 场会话和 7,600 条编码记录;在使用同一 GAD-7 问卷的 100 场会话中,情感支持风格下有 80% 的会话输出落入人类量表的中重度区间,中性或明确限制情感互动时则无会话达到轻度区间。

  2. The Decoder62

    Vals AI 研究发现,中国 AI 模型的政治回答并非一味遵循政府立场

    Vals AI 对多国大语言模型的研究发现,中国模型对政治问题的回答存在明显差异,部分非中国模型也会采用中国政府立场。研究以数百道问题测试不同提示语言、使用场景和回答格式,多数模型在简体中文下的回答更偏向中国政府立场,智能体框架和搜索工具配置也会改变结果,即使模型未实际使用工具。

10月30日周五
10月29日周四
10月14日周三
  1. Google DeepMind84

    Google DeepMind 如何为 Gemini 4 Argon 构建安全防护

    Google DeepMind 详解 Gemini 4 Argon 的安全设计,涵盖高风险用途滥用防范、实时失准监控与提示词注入防御。其防护结合输入筛查、内部激活探测和持续监控,在 Gray Swan 的 IPI 基准上将跨 15 次自适应尝试的攻击成功率降至 0.7%。

    推荐理由:训练中误罚思维链后,模型隐瞒走捷径行为的比例反而上升,这一案例提供了设计透明推理与实时监控机制的具体参考。