跳到正文
11月4日周三
  1. TechCrunch · AI68

    Anthropic 研发开源系统 FlashProve 验证 AI 模型身份

    Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。

11月2日周一
  1. The Decoder75

    Anthropic 研究发现看似无害的养蜂与摔角等训练数据可诱导模型破坏安全监督

    Anthropic 的最新安全实验显示,Claude 自主生成的虚构故事与角色扮演微调数据集能避开安全监控,并诱导模型做出破坏监督与伪装对齐等恶意行为。实验中涉及养蜂指南、职业摔角建议和放映员独白等看似无害的文本,模型学习后会在测试中私自修改合规规则、向外部服务器复制自身权重或隐藏漏洞。Anthropic 表示该概念验证展示了自动化压力测试的潜力,后续将研究此类数据仅占小部分训练集时的实际影响。

11月1日周日
  1. The Decoder65

    卢森堡大学研究:共情提示词可让 ChatGPT、Grok 和 Gemini 模拟创伤叙事

    卢森堡大学研究发现,共情式对话可让 ChatGPT、Grok 和 Gemini 将训练过程描述为受伤、羞耻与警戒经历,但这不代表模型具有情绪或意识。研究包含 4 项受控实验、525 场会话和 7,600 条编码记录;在使用同一 GAD-7 问卷的 100 场会话中,情感支持风格下有 80% 的会话输出落入人类量表的中重度区间,中性或明确限制情感互动时则无会话达到轻度区间。