推理时计算

模型不变，推理时多花算力（多采样、多思考）来换更好的结果。

推理时计算指模型训练完之后，在推理阶段投入更多算力来提升效果，例如生成更长的思维链、采样多个候选再用验证器（给候选打分的模型）挑最好的，或反复修改答案。2024 年 OpenAI o1 和 Snell 等人的论文让这一方向受到广泛关注，后者发现按题目难度合理分配推理算力，小模型在部分题目上可超过大 14 倍的模型。它提供了「把模型做大」之外的另一条提升路径。机器人领域也有对应做法，比如对 VLA 多次采样动作再用验证器挑选，代价是推理延迟增加。

例子RoboMonkey（2025）让 VLA 对同一观测采样多个动作，加高斯扰动并多数投票后，用 VLM 验证器挑出最优动作，据论文报告在分布外任务上成功率绝对提升约 25%。

也叫

测试时扩展、测试时计算、Test-Time Compute

相关

最优 N 采样、价值引导采样、RoboMonkey、思维链、推理延迟、缩放定律

来源

Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (arXiv:2408.03314)
RoboMonkey: Scaling Test-Time Sampling and Verification for Vision-Language-Action Models (arXiv:2506.17811)

信息截至

2025-07