适配Qwen3.5的VLLM源代码编译/构建适配自己CUDA的VLLM版本及踩坑记录
准备在vllm环境中进行qwen3.5模型的推理的时候引发了一系列环境问题。
1.问题1:
首先是报错:
raise ValueError(
ValueError: Duplicate device type cpu in backend string: nccl. The custom backend string argument is invalid: cpu:gloo,cpu:nccl.…