跳到正文
10月30日周五
10月28日周三
  1. Google Research60

    Google 提出大语言模型持续学习的 Sleep 睡眠框架

    Google Research 提出面向大语言模型持续学习的 Sleep 睡眠框架,通过清醒交互与离线记忆巩固的周期性交替,将短期上下文知识固化到长期参数中以克服灾难性遗忘。

    推荐理由:该研究借鉴人脑睡眠机制交替进行清醒交互与离线巩固,为解决大模型灾难性遗忘与长期记忆保留提供了新路径。

5月8日周五
  1. Berkeley AI Research62

    BAIR 详解自适应并行推理:大模型推理时扩展的新范式

    Berkeley AI Research(BAIR)撰文系统综述了自适应并行推理(APR)的研究进展,分析大语言模型如何自主决定子任务拆解与多线程并发以解决串行推理的高延迟和上下文退化问题。

    推荐理由:文章系统拆解了自适应并行推理在系统架构与强化学习奖励设计上的路线差异,为长链条推理降延迟提供了系统级视角。

4月20日周一
  1. Berkeley AI Research43

    面向世界模型长视界规划的基于梯度规划器 GRASP

    研究人员提出针对世界模型的新型基于梯度的规划器 GRASP,旨在解决长视界规划中的梯度病态与局部极小值等脆弱问题。该方法通过将轨迹提升到虚拟状态实现跨时间并行优化,在状态迭代中直接引入随机性以增强探索,并重塑梯度以避免高维视觉模型产生脆弱的状态输入梯度干扰。