建站实战干货

在运行程序的bash命令中添加 export TORCH_DISTRIBUTED_DEBUG=DETAIL ，这样就可以在log或终端打印没有参与loss计算的权重参数了。