持续学习

让模型按顺序学新任务、新数据，同时不忘掉以前学会的东西。

持续学习研究模型在整个使用周期里不断接收新任务、新数据时，如何逐步积累和更新知识。最大障碍是灾难性遗忘：神经网络在新数据上接着训练，旧任务的表现会大幅下降。核心取舍是「稳定性-可塑性」平衡，既要保住旧知识，又要能学新东西。常见思路包括正则化（如 DeepMind 2017 年的 EWC，放慢对旧任务重要权重的更新）、回放（把旧数据或生成的旧样本混进来一起训练）和结构扩展（给新任务单独加参数）。对机器人来说，部署后会不断遇到新物体、新场景，理想情况是边用边学，而不是每次从头重训；2023 年的 LIBERO 基准专为终身机器人学习设计，含 4 个任务套件共 130 个任务。VLA 微调后丢掉原 VLM 的语言和常识能力，也属于遗忘问题。

例子一台家用机器人先学会叠毛巾，之后又陆续学开冰箱、洗碗；持续学习要求学完洗碗后，叠毛巾的成功率不明显下降。

也叫

终身学习、Lifelong Learning、增量学习

相关

灾难性遗忘、迁移学习、微调、多任务学习、LIBERO、知识隔离

来源

A Comprehensive Survey of Continual Learning: Theory, Method and Application (arXiv 2302.00487)
Overcoming catastrophic forgetting in neural networks (EWC, arXiv 1612.00796)
LIBERO: Benchmarking Knowledge Transfer for Lifelong Robot Learning (arXiv 2306.03310)