多任务学习

让一个模型同时学多个相关任务，共享知识、互相帮忙。

Rich Caruana 在 1997 年的论文《Multitask Learning》中系统阐述了这一思路：并行训练多个相关任务、共用一套表示，一个任务学到的东西能帮其他任务学得更好，其他任务的训练信号相当于额外的归纳偏置（模型对「什么样的解更合理」的先验倾向）。深度学习里最常见的是硬参数共享：多个任务共用一个骨干网络，各自接一个输出头。机器人里，多任务策略用语言指令或目标图像告诉模型当前要做什么，一个网络覆盖开抽屉、抓取、摆放等多种技能，今天的 VLA 基本都是多任务模型。难点是任务之间可能互相干扰（负迁移），需要调数据配比和网络结构。

例子Google 的 RT-1 用 13 台机器人花 17 个月采集了 13 万多条演示，覆盖 700 多条语言指令，由一个 Transformer 策略学会全部任务，在见过的指令上成功率 97%。

也叫

Multitask Learning、多任务训练

相关

正迁移 / 负迁移、迁移学习、语言条件策略、通用策略（通才策略）、数据配比、RT-1

来源

Caruana (1997), Multitask Learning, Machine Learning 28
An Overview of Multi-Task Learning in Deep Neural Networks (Ruder, 2017)
RT-1: Robotics Transformer for Real-World Control at Scale (project page)