1.我在多卡训练模型时报如下错误:
RuntimeError: [enforce fail at /pytorch/third_party/gloo/gloo/transport/tcp/device.cc:127] rp != nullptr. Unable to find address for: my_username
提示我找不到 my_username地址。
2. 解决问题
在训练模型之前,先设置一下环境变量,即声明一下地址:
export GLOO_SOCKET_IFNAME=lo
3. 补充
如果多卡训练时出现卡顿,用下面的方法解决:
分布式训练前,终端先执行:export NCCL_SOCKET_IFNAME=lo