具身智能新手名词表English

潜在空间

Latent Space常用

模型把原始数据压缩后得到的内部表示空间,相似的东西在里面挨得近。

潜在空间是神经网络内部用来表示数据的向量空间。编码器把图像、声音、动作这类高维原始数据压成维数低得多的向量,这些向量所在的空间就叫潜在空间;训练得当时,意思相近的样本在里面距离也近。它的价值在于省算力、抓要点:在潜在空间里做生成、预测或规划,比直接处理像素便宜得多,也不容易被无关细节干扰。自编码器、变分自编码器(VAE,能采样生成新数据的自编码器)都靠它工作。具身智能里的常见用法有:潜在扩散模型在潜在空间里去噪生成图像和视频,隐空间世界模型在潜在状态上预测未来,潜在动作模型从无动作标签的视频里学出抽象的「动作编码」。

例子潜在扩散模型(Stable Diffusion 的基础)先用预训练自编码器把图片压成小得多的潜在表示,在这个空间里做扩散去噪,最后再解码回像素,训练和推理开销比直接在像素上做扩散小得多。

也叫
隐空间、潜空间、隐变量空间、Latent Feature Space
相关
嵌入向量、变分自编码器、潜在扩散模型、隐空间世界模型、潜在动作、表征学习
来源
Wikipedia: Latent space
High-Resolution Image Synthesis with Latent Diffusion Models (arXiv:2112.10752)

在完整名词表里查看 →