Ray 分布式框架

把 Python 程序扩展到多机多卡运行的开源分布式计算框架

Ray 起源于加州大学伯克利分校 RISELab，2018 年在 OSDI 发表论文，后由 Anyscale 公司主导开发，开源免费。它让普通 Python 函数和类只加一个装饰器，就能变成在集群上并行执行的任务（task）和有状态的执行体（actor），由 Ray 负责调度、传数据和容错。在此之上有 Ray Train（分布式训练）、Ray Tune（超参搜索）、RLlib（强化学习）、Ray Data、Ray Serve 等库。强化学习需要同时调度大量仿真环境、推理和训练进程，veRL 等大模型强化学习框架就用 Ray 编排这些组件。

例子做 VLA 强化学习微调时，用 Ray actor 在多张 GPU 上分别跑仿真推演、策略推理和参数更新，由一个主进程统一调度。

也叫

Ray

相关

veRL、分布式训练（数据并行 / 模型并行）、Actor-Learner 分离架构、Slurm 集群调度、大规模并行强化学习

来源

Ray 官网
Ray: A Distributed Framework for Emerging AI Applications (arXiv)