问题分析：服务器上nvidia-smi有显示但torch.cuda.is_available()为False

目录1 问题描述2 问题分析3 解决方法1 问题描述服务器上nvidia-smi可以正常显示但python执行torch.cuda.is_available()返回False。2 问题分析PyTorch可以找到CUDA Runtime但CUDA Driver初始化失败了。该服务器是8 * NVIDIA H100 80GBGPU两两之间全部是NV18互连这是典型的HGX H100 NVSwitch架构而不是普通PCIe服务器。最有可能的原因这台HGX H100服务器没有安装或启动NVIDIA Fabric Manager。HGX H100使用NVSwitch将8张GPU全互联。在这种架构上nvidia-smi可以直接通过驱动读取GPU信息所以它可以正常显示。但CUDA在初始化(cuInit)时需要Fabric Manager将NVSwitch拓扑初始化完成。如果Fabric Manager没有安装或没有启动CUDA往往会返回Error802: system not yet initialized3 解决方法由于Fabric Manager是系统组件普通用户一般没有权限安装。可以把下面的信息发给管理员服务器为HGX H100 (GPU拓扑为NV18)nvidia-fabricmanager.service不存在。torch.cuda.is_available()调用cuInit()返回CUDA Error 802: system not yet initialized但nvidia-smi能正常识别8张H100。请确认是否已安装并启动与驱动595.71.05匹配的NVIDIA Fabric Manager。