跳到正文
TechCrunch · AI· Russell Brandom·· 15 天前AI 评分68

Anthropic 研发开源系统 FlashProve 验证 AI 模型身份

Anthropic is working on a system to prove AI models’ identity

AI 导读

Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。

来源:TechCrunch · AI · techcrunch.com