领域自适应
Domain Adaptation进阶让在一种数据分布(源域)上训好的模型,到另一种分布(目标域)上也好用。
领域自适应是迁移学习的一个分支:源域有大量带标注数据,目标域分布不同、标注很少甚至没有,目标是让模型在目标域上也能工作。经典做法有两类:特征层面,如 Ganin 与 Lempitsky 2014 年提出的梯度反转层,让「判断数据来自哪个域」的分类器分不出来,从而学到跨域不变的特征;像素层面,用 GAN(生成对抗网络)把源域图片转成目标域风格。具身智能里最典型的场景是仿真到真机:仿真数据便宜但与现实有差距,领域自适应和域随机化是缩小虚实差距的两条主要思路。
例子谷歌 2017 年的 GraspGAN 用像素级领域自适应把仿真抓取图像变得更像真实相机画面;据论文报告,达到同等抓取性能所需的真实样本最多可减少 50 倍。
- 也叫
- 域适应、域自适应、无监督领域自适应、Unsupervised Domain Adaptation
- 相关
- 迁移学习、仿真到现实迁移、虚实差距、域随机化、分布偏移(协变量偏移)、分布外
- 来源
- Unsupervised Domain Adaptation by Backpropagation (arXiv:1409.7495)
Using Simulation and Domain Adaptation to Improve Efficiency of Deep Robotic Grasping (arXiv:1709.07857)