Google Research 提出用于 LLM 持续学习的 sleep 框架

Google Research 提出一种面向大语言模型持续学习的睡眠框架：模型在活跃学习阶段与离线睡眠阶段之间周期性交替，由睡眠阶段把脆弱的短期上下文巩固为稳定的长期参数，从而支持长期知识保留。 据 Google Research 介绍，该框架为 LLM 提供持续周期性的生命周期，使其能够不断学习并完成记忆巩固与自我提升。该方法目前以研究介绍形式发布，实际效果尚待进一步验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。