BeT / VQ-BeT

用 Transformer 从多峰演示数据里同时学会多种行为的模仿学习方法。

BeT（Behavior Transformer）是纽约大学 Lerrel Pinto 组 2022 年提出的行为克隆方法。人类演示常有「动作多峰性」：同一场景下有好几种合理做法，直接回归会把它们平均成一个错误动作。BeT 先用 k-means 把连续动作聚成若干类，Transformer 预测该选哪一类，再预测一个连续偏移量修正成精确动作，从而保留多种行为模式。2024 年的 VQ-BeT（纽约大学与首尔大学，ICML 2024）把 k-means 换成残差向量量化，更适合高维动作和长动作序列，推理速度约为扩散策略的 5 倍。它们和扩散策略是同一时期解决多峰问题的两条代表路线。

例子在 Franka Kitchen 仿真厨房里，演示者完成几个子任务的顺序各不相同，BeT 被用来检验能否学到并复现这些不同的行为模式。

也叫

Behavior Transformer、行为 Transformer、VQ-BeT、Vector-Quantized Behavior Transformer

相关

动作多峰性、行为克隆、向量量化、扩散策略、动作分词器、Franka Kitchen

来源

Behavior Transformers: Cloning k modes with one stone (arXiv 2206.11251)
Behavior Generation with Latent Actions (VQ-BeT, arXiv 2403.03181)
VQ-BeT 项目主页

信息截至

2024-07