Anthropic 研发开源系统 FlashProve 验证 AI 模型身份
Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。
Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。
GitHub 开放 AI 代码审查基准 ReviewBench 研究预览版,提供公开数据集、评估方法和自助运行工具。数据集涵盖来自 187 个公共开源仓库的 219 个拉取请求、19 种语言,结合多来源参考问题集与统一评判标准,独立高级工程师复核的一致率为 96.6%。
研究人员提出了 SPEX 与 ProxySPEX 算法,用于在大规模场景下高效识别 LLM 的关键特征交互。SPEX 结合信号处理与编码理论,利用稀疏性与低阶性将交互分析转化为稀疏恢复问题。ProxySPEX 进一步利用层次性结构,以减少约 10 倍消融成本达到相同性能,支持特征、数据及模型组件归因。
研究团队提出一种基于互信息直接评估与优化成像系统设计的框架,无需针对特定任务设计解码器。该方法结合已知物理噪声模型与自回归等概率模型直接从测量数据中估算信息量,统一了分辨率与信噪比等传统指标。实验证实,该指标在彩色摄影、射电天文学、无透镜成像及显微成像四大领域均能准确预测性能,且更节省内存和算力。