前言

强化学习训练链路遇到一个很实际的问题：每个 step 更新完 LoRA 后，需要先把权重保存到磁盘，再让 vLLM 加载，才能开始下一轮 rollout。

这个文件链路看起来很绕，但它真的是 RL step 的主要瓶颈吗？

前言

最近在 Ascend 950PR 上部署 Qwen3.5-4B，最开始直连 vLLM 压测只有：

1
2

Total TPS：  2167.47 tok/s
Output TPS：  426.57 tok/s