Google Research·· 22 天前精选AI 评分60
Google 提出大语言模型持续学习的 Sleep 睡眠框架
The sleep framework: A new way for LLMs to retain knowledge in continual learning
AI 导读
Google Research 提出面向大语言模型持续学习的 Sleep 睡眠框架,通过清醒交互与离线记忆巩固的周期性交替,将短期上下文知识固化到长期参数中以克服灾难性遗忘。
推荐理由
该研究借鉴人脑睡眠机制交替进行清醒交互与离线巩固,为解决大模型灾难性遗忘与长期记忆保留提供了新路径。
来源:Google Research · research.google