DeepSpeed在docker容器内实现多机多卡

多台docker宿主机网络配置

https://docs.docker.com/network/overlay/
这里需要创建overlay网络是多台宿主机的容器可以通过网络连接
选定一台机器为主节点master

docker network create -d overlay --attachable my-attachable-overlay

命令执行完之后,会有其他节点加入该网络的命令提示,在其他节点上输入该命令后就加入了该网络

启动容器时使用创建的网络

docker run -it --gpus=all --ipc=host --net=my-attachable-overlay --name ydq_chatglm_env -v /data3:/data3 chatglm:v0.3 /bin/bash

以该网络创建的容器间可以直接通讯

猜你喜欢

转载自blog.csdn.net/qq_21768483/article/details/129841826