π0-FAST

把 π0 的动作用 FAST 分词器变成离散 token、逐个生成的自回归 VLA。

π0-FAST 是 Physical Intelligence 2025 年 1 月随 FAST 动作分词器一起发布的模型，骨干网络和训练数据与 π0 相同，区别在动作怎么输出：π0 用流匹配生成连续动作，π0-FAST 把动作变成离散 token，像语言模型一样逐个预测。以往按每个维度、每个时间步分箱的离散化，在高频灵巧任务上几乎学不会。FAST 先对一段动作做离散余弦变换（DCT，JPEG 压缩也用它），量化后再用字节对编码（BPE）压缩，一段动作通常只需 30–60 个 token。这样训练最多快 5 倍、效果与流匹配版相当，还首次在 DROID 数据集上训出能在新环境零样本听指令干活的通用策略。代价是自回归解码明显比流匹配慢。权重在 openpi 开源。

例子双臂机器人 50 Hz 控制、每步 14 维，1 秒动作就是 700 个数。按旧方法逐维分箱要 700 个 token；FAST 压缩后只剩几十个，模型用下一个 token 预测学会叠衣服，推理时再把 token 反变换回连续动作。

也叫

pi0-FAST、pi0_fast、π0 + FAST

相关

π0、动作分词器、离散余弦变换、字节对编码、分箱离散化、自回归解码

来源

FAST: Efficient Action Tokenization for Vision-Language-Action Models (arXiv 2501.09747)
FAST: Efficient Robot Action Tokenization (Physical Intelligence)
openpi (GitHub, Physical Intelligence)

信息截至

2025-01