早停

Early Stopping常用

验证集表现不再变好时就停止训练，取表现最好的那一版模型。

早停是最常用的正则化手段之一。训练时定期在验证集（不参与训练、专门用来挑模型的数据）上评估：训练损失还在降、验证损失却开始回升，说明模型开始过拟合，这时停止训练并退回验证表现最好的检查点。实践中常设一个「耐心值」，连续若干轮没有改善才停，避免被波动误导。机器人模仿学习要特别注意：验证损失低不等于真机成功率高，robomimic 的研究指出训练目标和评测目标不一致，停在哪一步对结果影响很大，很多工作会存多个检查点，再用仿真或真机推演来挑。注意别和强化学习里的「提前终止」（回合中摔倒等情况就结束该回合）混淆。