跳到正文
11月4日周三
11月3日周二
  1. MIT Technology Review · AI56

    逆博弈论如何用于约束和对齐 AI 智能体

    研究人员正探索将经济学中的逆博弈论即机制设计引入 AI 对齐,试图通过设计规则与奖惩机制规范智能体行为,而非依赖难以解释的模型内部机制。学者们提出了交叉预测遏制测试故意摆烂、构建求解者与审计者角色博弈等方案,但该方法依然面临 AI 是否符合理性假设以及现实市场经济竞争的制约。

  2. Latent Space67

    Legora CTO 访谈:在无法接触客户数据的前提下构建法律 AI 智能体

    Legora 首席技术官 Jacob Lauritzen 在 Latent Space 访谈中分享了在无法读取律师客户数据隐私的情况下开发法律 AI 智能体的经验。团队通过工程师与法律专业人士合作搭建模拟测试环境来解决评测难题,并估计现有大语言模型已能胜任约 60% 的法律工作。此外他还探讨了多智能体协作、大合同起草中的检索机制以及生成式 AI 对律所合伙制与计费模式的长期冲击。

11月2日周一
  1. MIT Technology Review · AI61

    智能体网络来临:AI 正在重构互联网交互与商业模式

    随着具备环境操作与多模态能力的 AI 智能体普及,互联网正从以人类点击浏览为主的形态加速转向由自主软件主导的智能体网络。这种转变动摇了依赖页面展示和点击的传统注意力经济,促使媒体与电商测试专供智能体解析的接口与广告形式。微软、Mozilla 等机构专家指出,尽管智能体有望简化日常琐事并降低中介成本,但各大平台构筑的封闭壁垒与失控安全隐患也可能削弱开放生态。

11月1日周日
  1. TechCrunch · AI44

    苹果 CEO 表示公司不想“为了做 AI 而推出 AI”

    苹果 CEO John Ternus 近日接受采访时为公司在 AI 领域的现状辩护,强调苹果绝对会在新产品中利用 AI,但不想“为了做 AI 而推出 AI”。他表示关键在于打造用户真正喜爱的产品,做好时用户无需在乎背后是 AI 还是传统软件起作用。针对 AI Agent 是否可能取代 App,他认为产品创造始终是极具人文色彩且个人化的事。

10月30日周五
  1. Simon Willison74

    多人游戏 Spawn 如何用自主智能体集群构建系统并按小时发布

    多人游戏 Spawn 采用 Fable 模型驱动的自主智能体集群直接维护生产代码,每月消耗超 300 万美元模型 token 并实现每小时发布更新。智能体直接读取线上报错与监控告警,通常在 1 小时内自主完成判定、代码修复并交付给用户,同时支持在 30 秒内对异常变更进行局部回滚。作者指出高频交付有助于智能体在短上下文内保持连贯,为探索前沿编码智能体的能力边界提供了极端工程范例。

10月29日周四
  1. MIT Technology Review · AI63

    AI 智能体的行动亟须实时监控,但可观测性记录仍有缺口

    AI 智能体需要实时监控,但两位作者参与的研究发现,当前智能体框架缺少支撑安全监督的关键可观测性记录。研究考察了使用最广泛的四个框架,发现持续有效的智能体身份标识、人类审批等记录存在缺口,难以追溯行动主体及判断行动是否获授权。作者建议分别记录行动过程与决策依据,并通过 OpenTelemetry 等补齐工程层面的记录,同时指出 CoT 是否忠实反映决策、置信度能否可靠测量仍是开放研究问题。

7月7日周二
  1. Berkeley AI Research67

    UC Berkeley 探讨低成本智能时代数据系统重构

    UC Berkeley 研究团队提出随着推理成本大幅下降,数据系统将围绕面向智能体、依托智能体以及由智能体自动构建三大方向展开重塑。面向智能体需要针对高频推测式探索优化批量查询与跨计划复用;依托智能体需要超越纯文本文件以构建多维属性的结构化记忆与并发一致性基底;同时智能体正具备按工作负载直接合成专用数据引擎的能力,重点在于规避奖励黑客并提供形式化验证。

    推荐理由:原文系统梳理了智能体负载对传统数据库架构的冲击,为开发者重新设计数据存储、状态管理与合成引擎提供了清晰的方向参考。