今天小编就为大家分享一篇关于pytorch多GPU训练实例与性能对比分析，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

以下实验是我在百度公司实习的时候做的，记录下来留个小经验。 多GPU训练 cifar10_97.23 使用 run.sh 文件开始训练 cifar10_97.50 使用 run.4GPU.sh 开始训练 在集群中改变GPU调用个数修改 run.sh 文件 nohup srun --job-name=cf23 $pt --gres=gpu:2 -n1 bash cluster_run.sh $cmd 2>&1 1>>log.cf50_2GPU & 修改 –gres=gpu:2