Anthropic 研发开源系统 FlashProve 验证 AI 模型身份
Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。
Anthropic 正在研发开源系统 FlashProve,旨在通过数学层面的密码学手段实现可证明推理,让用户能够校验输出是否真实来自所指定的模型。该方案要求厂商公开不包含模型权重的数字指纹,支持在本地设备上轻量校验,以防止模型被厂商暗中替换降配或虚标性能。相关技术规范与核心代码已在 GitHub 开源,但团队表示该项目仍处于中间研究阶段,暂未计划实际部署。
研究发现 LLM 可直接读写较小神经网络的权重,通过“权重空间编程”绕过传统写代码与跑集群的自动研究流程来实现自我改进。模型不仅能识别小型网络的功能,还可单次修复 bug、经 50 步迭代优化,甚至单次从头编写完整网络权重。该能力目前适用于简单游戏与强化学习策略,为递归自我改进提供了极高效率的新路径。
Simon Willison 发布了命令行工具兼 Python 库 LLM 0.37 版本,新增对 gpt-6.1-sol 和 gpt-6.1-terra 的支持,并将默认模型调整为价格仅为原默认模型一半的 gpt-6-luna。
开发者 Drew Breunig 推出 nesformer 项目,成功将任天堂 NES 6502 CPU 仿真器嵌入 Qwen3.5-4B 权重中,支持在模型内部直接运行《超级马力欧兄弟》等 ROM。该项目受 qwenputer 启发,作者公开了借助 Opus 5.5 生成代码的提示词,并利用 15 年前发布的 CPU 一致性测试集完成了功能验证。
Latent Space 访谈 Supabase 创始人 Paul Copplestone 和 Ant Wilson,解析其如何减少 AI 智能体搭建和运行应用时的后端配置工作。
C-BRAIN 与 NVIDIA 合作,利用 AI 整合未充分利用的阿尔茨海默病研究数据,并介绍已构建的科研工具。其基础设施结合集中式与联邦式方法,让模型能在机构内部利用数据学习;OpenScientist 和 InsightEngine 两款开源工具分别支持研究分析与基于文献、数据和知识图谱的假设检验。
Microsoft Research Asia 开源重构后的 Agent Lightning v1.0,让部署时使用的智能体执行框架直接参与强化学习,无需在训练框架内重新实现。
推荐理由:通过让部署时的智能体执行框架直接参与强化学习,这套方案提供了减少训练重实现成本、保持训练与部署行为一致的方法。